有没有人玩过威联通集成的LLM

brucelee1126

想玩一玩，没卡，也不了解跑哪个模型，机器只能跑功耗300w以内的卡，求解惑，有单槽推荐就更巴适

Dolfin

用的 deepseek 的 api，rag 搜索用，检索文件最多只出5个，闹不明白…

自挂东南枝

列表里的模型都很老，从现在的眼光看已经算“弱智模型”了。如果可以自定义的话推荐去下一个Qwen3

brucelee1126

Dolfin 发表于 2025-11-19 10:59
用的 deepseek 的 api，rag 搜索用，检索文件最多只出5个，闹不明白…

用api的话检索本地文件会不会造成本地文件上传

brucelee1126

自挂东南枝 发表于 2025-11-19 10:59
列表里的模型都很老，从现在的眼光看已经算“弱智模型”了。如果可以自定义的话推荐去下一个Qwen3 ...

没有Qwen3，连Qwen的api都没，比较简陋的功能

自挂东南枝

brucelee1126 发表于 2025-11-19 11:14
没有Qwen3，连Qwen的api都没，比较简陋的功能

本地服务这里应该是可以自定义添加的吧，这个看起来是本地运行模型

mosigan

nas搞这个真是吃多了，算力外置不好吗

mdeu

能上传其他的吗？现在列表里的几个模型放这个时间点属于“睿智”一档的，要是不能传其他的别花钱折腾了