群晖NAS的synology ai console没见有人讨论，分享下本地LLM设定

powerduke

近期群晖NAS提醒升级synology ai console这个套件了，功能是导入LLM支持，目前支持的套件是synology office和mail plus最新版，原本以为只能选择内嵌支持的openai、google的llm，没想到可以支持本地部署的llm，搜了下网上也没有这方面的说明，可能群晖用户们以为都要用商业llm才行，所以给大家分享下方法，总结下来有两点结论：

1. synology ai console虽然只能选择有限的商业llm模型名称，但是实际调用上并没有类似api调用那样需要指定这个名称，这也让本地部署的模型可以随意使用。
2. 具备自定义llm域名的功能，可以指向内网Ip了。

或许本就是群晖留给用户的福利吧。

tyy474

隔壁威联通也把ai加入到本地数据搜索了，支持通用的api，可以用ai分析自己的办公文件了

powerduke

nas连接商用的llm还是不太放心

jcd_chh

看见了，卡登录几次没成功就没再折腾了
明明一个新的app群晖居然这么低调，当时查官网都没找到说明

YsHaNg

powerduke 发表于 2025-8-20 10:31
nas连接商用的llm还是不太放心

能输url 自建ollama就行了 llama.cpp也可以

powerduke

可以关注下后续群晖如何在nas设备上发挥llm的能力咯，文件搜索、分析功能肯定是要上了

airy

请问ollama上跑的什么模型？
刚试了一下一直显示校验失败。