找回密码
 加入我们
搜索
      
查看: 7674|回复: 33

[显卡] 想向AI领域的专业人士请教一下deepseek的问题

[复制链接]
发表于 2025-1-28 22:48 | 显示全部楼层 |阅读模式
本帖最后由 RZ.zheng 于 2025-1-28 23:13 编辑

事情大家应该都知道了,我是外行人想向AI领域的专业人士请教一下,目前ds开源的东西是不是会对未来开发更新更强乃至真正的通用AI造成很大的影响(注意是未来的,更强的,不是现在的,比如openAI5、openAI6),不管是训练也好还是推理也好,只看推出成品的结果不管过程
我这两天看论坛有2种声音

第一种是说DS公开的东西大幅提高了现在包括未来训练的效率,能够对所有AI训练提速,或者换个说法就是不管是训练还是推理,同样的算力能大幅减少推出openAI5或openAI6的时间,或者同样的时间但需求的算力可以大幅减少,能够大大提速所有公司开发更强AI的进度

第二种说法是DS公开对现有AI模型的训练可以大幅提高效率,如果一家小公司用DS公开的方式训练,从零开始要做出openAI4等级的模型就容易很多,但是如果要做更强的模型,比如openAI5或者openAI6那种级别的东西,那DS公开的方式就没有什么太大的帮助
想问一下有没有专业人士能解答一下我的问题具体是属于哪一种情况呢

openAI是因为被屏蔽了我换个写法哈,以上是纯技术的讨论
 楼主| 发表于 2025-1-28 22:58 | 显示全部楼层
如果从商业投资的角度来看,不管是哪一种情况老黄的卡都是供不应求不愁卖的,算力永远不嫌多
但是如果是第一种情况对于软件公司来说是大利好,但是对于老黄来说是个利空,虽然卡还是不愁卖但是大科技公司的话语权会强很多,不必再看老黄的脸色接受比**还高的溢价来买计算卡
如果是第二种情况那只是对中小公司有利,对大公司来说他们追求的永远是未来,只要能更快的发开出更强的AI,他们不管花多少钱都在所不惜,被迫要接受老黄的高溢价
两种不同的情况对NV的盈利能力可能会有很大的影响
 楼主| 发表于 2025-1-28 23:01 | 显示全部楼层
理智的边缘 发表于 2025-1-28 22:56
AI4 AI5 AI6 是什么东西啊……

OPENAI 4、openai5我换了个写法,直接写GXX4被屏蔽了
 楼主| 发表于 2025-1-28 23:34 | 显示全部楼层
理智的边缘 发表于 2025-1-28 23:20
当然你从投资的角度想,看老黄肯定是大跌了,因为投资投的是预期。

你现在这个算法,导致凭空算力提升了10 ...

你说的这些我也有考虑到,算力提升了10倍大科技公司依然会照单全收NV的计算卡,但是我觉得价格会降很多,比如22年AI刚出现的时候大公司愿意加价2倍甚至3倍抢卡,到现在依然还是要付出高溢价来买显卡,但是如果DS的出现能够让现有卡算力提升10倍,那我未来采购新卡的时候就不需要采购那么多了,比如我今年投资在AI上的预算是500亿,之前这500亿我全部要投在买显卡上,但DS开源后证明优化算法也是一种提升效率的方式,那我可能花450亿买显卡,花50亿请工程师优化算法,得到的结果比我直接花这50亿买显卡给我带来的效果更好,那老黄的溢价能力就会受到很大的影响,只是打个比喻,如果DS开源的东西只对现有模型训练有帮助,对未来训练没有帮助,那大科技公司依然要高价抢购老黄的卡
 楼主| 发表于 2025-1-29 15:50 | 显示全部楼层
今晚大老虎 发表于 2025-1-29 07:32
这东西看你从哪个角度来看
DS通过RL和优化训练过程来减少训练所需要的计算卡. 这个过程是可以被复制的, 幻 ...

你说的这种情况属于我列出来的第一种,就是可以把训练的方案优化后应用到开发未来的新模型上,因为我之前看到另一种论调就是说DS开源的东西只对训练到现阶段出现的模型有帮助,对训练未来的新模型没有帮助,所以我才发贴想问一下有没有懂的人能解答
 楼主| 发表于 2025-1-29 15:56 | 显示全部楼层
ScreaM 发表于 2025-1-29 01:17
DeepSeek用RL完全代替了SFT,训练成本下降了很多。但RL需要teacher model啊,也就是说市面上得先有一个比De ...

如果你是真的了解AI的人,你给出的答案是正确的,你解释的很清楚,我一下就听懂了
 楼主| 发表于 2025-1-29 16:04 | 显示全部楼层
理智的边缘 发表于 2025-1-28 23:47
我都说了,抢老黄的卡 是因为他的生态好罢了。AMD现在卖的卡也很好,你去看看AMD的财报。
举个例子,开发 ...

你对于算力上的解释我一直都明白,但是我站在另一个角度去看的,举一个具体的例子来说比如22年AI刚出现的时候大公司愿意用2-3倍的价格买显卡,但现在已经不愿意出那么高的价格了,不管是22年还是现在老黄的卡都是供不应求的,但是溢价却降了很多,我觉得主要原因就是产量上来了算力需求得到了缓解,那如果DS公开的东西对效率有很大的提升,那算力的需求还会再度缓解,没有原来那么紧迫了,不是说算力不重要或者未来会饱和,只是厂商不会那么恐慌性的抢购显卡了,那NV的溢价就要下降了
 楼主| 发表于 2025-1-29 17:55 | 显示全部楼层
chesha1 发表于 2025-1-29 17:24
第一种说法稍微准确一点,目前 o1 公布的细节很多,都有很长的 system card 可以看,o3 的很多细节还不清楚 ...

感谢,但我看你的意思好像更符合我的第二种说法,就是DS开源的东西对现阶段比较有帮助,要开发更强的AI帮助就不大了
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-10-19 07:54 , Processed in 0.009356 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表