找回密码
 加入我们
搜索
      
查看: 2443|回复: 17

[显卡] 一图告诉你本地部署AI的重要性

[复制链接]
发表于 2025-5-14 15:47 | 显示全部楼层 |阅读模式
在本地部署大模型的帖子下面经常能看到以下论调:
这钱拿来买Tokens这辈子都用不完
残血就别来碰瓷满血了
国家电网战略合作伙伴
曾经的我也深以为然,直到现实给我重重一击
无标题.png
我会正则表达式 但我就是想偷懒
这名单里面的名字是我从学习通里复制的 不社政 但AI就是拒绝回答
发表于 2025-5-14 15:52 | 显示全部楼层
我选chatxxx、grok、gemini、copilot
发表于 2025-5-14 16:13 | 显示全部楼层
本帖最后由 梦素 于 2025-5-14 16:14 编辑

你把截图里那串编号去掉就能回答了。另:你们单位的信安允许员工将这类私密信息灌给AI吗?
发表于 2025-5-14 16:21 来自手机 | 显示全部楼层
要安全,输入法都是本地的。
发表于 2025-5-14 16:27 | 显示全部楼层
。。。。。你可以问别的大模型啊,如果不涉密的话。国内的国外的
发表于 2025-5-14 17:04 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
发表于 2025-5-14 17:12 | 显示全部楼层
楼主把你们员工名字打个码吧!
发表于 2025-5-14 17:12 来自手机 | 显示全部楼层
Aitotobaa3371 发表于 2025-5-14 17:04
自由世界的程序员真的想办法利用ai改变世界让世界变好呢 就你国的程序员喜欢到处拉鉴证的屎 ...

“自由世界”可以讨论鱿鱼吗 会不会吃花生米
发表于 2025-5-14 17:14 | 显示全部楼层
怎么说呢,lz应该不太懂AI,这个限制一般是网页上做的,如果通过api形式接入应该不会遇到;
以deepseek为例:
用网页版时提问敏感名字直接回复无法回答,而用api能正常回答。

当你用开源的模型无法正常回答的时候就需要破甲来绕过限制,这就是另外的问题了。
发表于 2025-5-14 17:31 | 显示全部楼层
本帖最后由 a010301208 于 2025-5-14 17:39 编辑

本地AI主要是用来做不可描述的事情,像你这种需求只是基础语言模型,那碰到限制其实换个AI就行了,甚至之前gemini还能解锁开发者模式,帮你写几万字的XX文,比grok写的好多了
 楼主| 发表于 2025-5-14 18:23 | 显示全部楼层
梦素 发表于 2025-5-14 16:13
你把截图里那串编号去掉就能回答了。另:你们单位的信安允许员工将这类私密信息灌给AI吗? ...

我们单位不涉密 这也不是涉密信息
 楼主| 发表于 2025-5-14 18:23 | 显示全部楼层
创世神493 发表于 2025-5-14 17:14
怎么说呢,lz应该不太懂AI,这个限制一般是网页上做的,如果通过api形式接入应该不会遇到;
以deepseek为例 ...

主要这个限制有点不可预计 我看了半天也没看出来哪里违规
发表于 2025-5-14 18:30 | 显示全部楼层
让我想到句网络流行语再合适不过了,为了碟醋包顿饺子
发表于 2025-5-14 19:16 | 显示全部楼层
你都用 kimi 网页版了,就先别想什么本地部署了,用用其他 SOTA 大模型升级一下服务再想下一步吧
发表于 2025-5-14 19:18 | 显示全部楼层
本帖最后由 RK27 于 2025-5-14 19:20 编辑

治标不治本,建议你移民 [狗头]
发表于 2025-5-14 20:26 | 显示全部楼层
直接让ai整理数据存在出错的可能,你还得自己核对。你不妨让ai帮你写正则表达式,验证对错更容易。
发表于 2025-5-14 20:36 | 显示全部楼层
第一想法是换个模型而不是本地部署…
发表于 2025-5-15 14:16 | 显示全部楼层
你同时问5个ai,挑挑哪个好用不就得了。
我写代码都挂一堆ai,看谁写得好用谁的
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-5-15 14:21 , Processed in 0.012333 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表