找回密码
 加入我们
搜索
      
楼主: 理智的边缘

[显卡] deepseek第六天的开源,老黄这次是真要凉凉……

[复制链接]
发表于 2025-3-2 12:21 | 显示全部楼层
本帖最后由 gartour 于 2025-3-2 12:22 编辑
理智的边缘 发表于 2025-3-2 09:48
NV在8卡H200节点上优化版本的性能(5899t/s)只有DS在8卡H800节点性能的~84%


很简单,因为可以DS+H200,  性能有可能是30000t/S.

你可以花时间挖潜,但军备竞赛状态,时间不等你。

说白了,好比把100米跑道缩成10米,运动员就可以不卷训练了吗?该怎样还是怎样。大家还是在拼。
发表于 2025-3-2 12:35 | 显示全部楼层
这反而显得,每个人使用AI成本大幅下降,需求反而更多,毕竟能在更多行业推开
发表于 2025-3-2 13:30 | 显示全部楼层
那还不赶紧全国产化替代,防止被卡脖子?
发表于 2025-3-2 14:00 | 显示全部楼层
a010301208 发表于 2025-3-1 22:11
算力需求无上限,别只看眼前,不过英伟达垄断很快就无了。

未来人人都要有机器人,工厂,军队更是大量需要 ...

附议。算力的需求无上限,AI能干的事儿比全人类能干的事儿的总和多不知道多少倍,把太阳包起来搞个戴森球AI,比起整个宇宙的算力都是渣中渣中渣。

老黄的压力不在于Deepseek节约算力,而在于Deepseek以及未来的各路AI都肉眼可见地开始研究绕开CUDA绕开皮衣卡,对各路GPU甚至是纯CPU的体系疯狂优化。
发表于 2025-3-2 14:09 | 显示全部楼层
理智的边缘 发表于 2025-3-2 09:48
我也不知道这帖子里,喷我的人是什么个心态。哪怕它去看一下deepseek的论文。

部署推理,用H800直接比B2 ...


喷子当然是喷子心态,管你说了什么先喷了再说,出服务器钱的反正是轮子对吧。

现在看起来,对于小规模应用,比如十几个人的中小企业,算力不是太大的问题,显存容量反而是大问题。如果AMD能上马16通道双路的EYPC,再配个DDR6内存,10w以内就能把内存带宽提到1T、容量也1T,我估计九成企业都愿意部署一套自己的DS服务器,比雇一堆1w一个月的文科生CP高太多了。
发表于 2025-3-2 14:59 | 显示全部楼层
够用只是暂时的,现在的接入量以及需求量在不断上升,多少倍只能是猜了。年内都可能双位数倍率需求上升。
发表于 2025-3-2 15:24 | 显示全部楼层
楼主动动脑子好好想想,你把显卡比作能买东西的钞票,AI好比用钞票能买到的通货,就算AI价格下来了你难道还会嫌钱太多了吗?要是真这样我只能说脑子坏掉了。
发表于 2025-3-2 15:41 | 显示全部楼层
不会,反而
发表于 2025-3-3 09:33 | 显示全部楼层
wuxi001 发表于 2025-3-1 22:27
deepseek 自己曾经回答自己源自 CHAT**, 所以他们根本不用什么AI算力卡。有CHAT** 在,DEEPSEEK 就可以吸 ...

那chat**回答的内容说自己是文心一言是不是chat**也不用算力卡,直接买的百度服务?
发表于 2025-3-3 09:39 | 显示全部楼层
manwomans 发表于 2025-3-1 22:13
所以我就一直说少看点国内打鸡血的蠢货自媒体
看多了降智
推理一直就不依赖cuda

是的 。。。 现在动不动就是 “代替老黄”,我只能说训练市场 99% 都是老黄的 我都感觉有点保守,正儿八经训练 真没看过其他卡
发表于 2025-3-3 09:58 | 显示全部楼层
westbobo 发表于 2025-3-3 09:33
那chat**回答的内容说自己是文心一言是不是chat**也不用算力卡,直接买的百度服务? ...

人家说的就是蒸馏,不是原创,他是站在巨人的肩膀上。所以已一发布就震惊四座。
发表于 2025-3-3 10:03 | 显示全部楼层
是不是拖拉机上了飞机跑道就能飞起来?
发表于 2025-3-3 10:04 | 显示全部楼层
deepseek是quant们展现出的超强工程实力的体现。
发表于 2025-3-3 10:07 | 显示全部楼层
wuxi001 发表于 2025-3-3 09:58
人家说的就是蒸馏,不是原创,他是站在巨人的肩膀上。所以已一发布就震惊四座。 ...

你可拉倒吧,你都没明白他为啥技惊四座。

牛逼的是算力需求降低到1/10以下

数据蒸馏每个AI都在用

跟数据蒸馏有一毛钱关系

你压根就没明白算力需求和数据蒸馏完全是两个东西
发表于 2025-3-3 11:45 | 显示全部楼层
这篇文章应该是去回应尤洋的,一周就这一篇发了知乎
发表于 2025-3-3 12:47 | 显示全部楼层
老黄表示,什么?你们买的不是黄卡?

AI生成。。。结论:买买买
2025年各大科技公司正大幅增加对AI算力的投资,相比2024年呈现显著上升趋势。以下是主要公司的投资情况及趋势:
## 科技巨头投资规模

1. 阿里巴巴: 2025年AI投资预计达1300亿元人民币,比2024年增加约533亿元[1][5]。
2. 三大电信运营商: 2025年AI算力投资预计为1000亿元人民币,较2024年增加200亿元[1][5]。
3. Meta、亚马逊、Alphabet和微软: 这四家公司2025年在AI和数据中心方面的总支出预计将达到3200亿美元,相比2024年的2300亿美元大幅增长[6]。
4. 亚马逊: 计划在2025年投资1000亿美元用于AI发展[9]。
5. Meta: 预计2025年至少投入600亿美元用于AI开发[9]。
6. Alphabet (Google): 2025年资本支出预算增加42%,预计达到750亿美元[9]。
7. 微软: 计划在2025年投入800亿美元用于AI数据中心建设[9]。

## 投资趋势分析

1. 投资规模激增: 与2024年相比,2025年各公司的AI投资呈现大幅增长趋势,反映出对AI技术的高度重视和长期战略布局。
2. 基础设施为重点: 投资主要集中在AI硬件基础设施、数据中心和算力网络等方面,为未来AI发展奠定基础[1][5]。
3. 大规模交易主导: 超大规模融资(单笔超过1亿美元)在AI领域融资中占据主导地位,反映出对头部企业的强烈信心[8]。
4. 生态系统布局: 科技巨头通过投资构建自己的AI生态系统,形成相互促进的良性循环[8]。
5. 成本结构变化: 随着AI模型部署规模增加,推理成本可能超过初始训练成本,影响未来投资策略[10]。

总体而言,2025年AI算力投资呈现出规模激增、重点突出、竞争加剧的特点,反映了各大公司对AI技术发展的信心和决心。这一趋势预计将推动AI技术的快速发展和广泛应用。

Sources
[1] AI资本开支,体量有多大? - 华尔街见闻 https://wallstreetcn.com/articles/3741835
[2] The AI Boom of 2025: Big Tech Stocks Set to Soar | Advisorpedia https://www.advisorpedia.com/str ... stocks-set-to-soar/
[3] Nvidia invested $1bn in AI companies in 2024 - Data Center Dynamics https://www.datacenterdynamics.c ... -companies-in-2024/
[4] 2024年AI算力行业趋势:新兴投资机会与技术创新全景解析 - 搜狐 https://www.sohu.com/a/808106470_121902920
[5] AI资本开支,体量有多大? - 新浪财经 https://finance.sina.com.cn/roll ... emtcea8858362.shtml
[6] Tech giants to spend $320 billion on AI in 2025 - The Economic Times https://economictimes.com/news/i ... eshow/118068850.cms
[7] Top 10 AI Investments | AI Magazine https://aimagazine.com/articles/top-10-ai-investments
[8] 投资破千亿美元之后2025年AI市场的六大趋势 - 光明网 https://wlaq.gmw.cn/2025-02/27/content_37875412.htm
[9] 亚马逊2025年重磅投资1000亿美元:全面加速AI发展 - 大屏时代 https://www.dapingtime.com/article/1277.html
[10] Visualizing Big Tech Company Spending On AI Data Centers https://www.visualcapitalist.com ... on-ai-data-centers/
。。。
发表于 2025-3-3 12:50 | 显示全部楼层
深挖洞,广积粮。。。算力到用时方恨少。。。
发表于 2025-3-3 13:20 | 显示全部楼层
本帖最后由 momo77989724 于 2025-3-3 13:22 编辑

DS反而会加固老黄的地位  
是的 大公司可以不依赖他的卡推理 。。。本来推理各家都有自己的卡  阿里  亚马逊都有自己定制的卡。。。 普通用户用N卡只是兼容性更好  毕竟没有能力优化  钱也不够到位没法自己去搞

DS实际上扩大了这块的用户群体 和小的开发团体  这些新增的需求 本身人力技术有限  99%会选择老黄的卡   长久以往反而是加固他的行业需求。。。

比如推理以前大概就80%用阿黄的卡  DS铺开了之后你可能会在后面1-3年发现 推理这块被他垄断了 95%以上  
发表于 2025-3-3 13:38 | 显示全部楼层
2W张H100, 算一张3.5W美金, 计算卡只要7亿美金; 加上其他外设和互联,10亿美金满足了全中国的需求。

真的市场天花板就这么一点,要那么多做国产自主的AI芯片干什么?  我看每一家的估值都比这个高很多倍了。

如果你说的是真的,是不是H100真的卖的不贵?
发表于 2025-3-3 13:42 | 显示全部楼层
我輩樹である 发表于 2025-3-3 10:04
deepseek是quant们展现出的超强工程实力的体现。

很有道理啊。
发表于 2025-3-3 13:43 | 显示全部楼层
ruo101 发表于 2025-3-2 09:57
那些玩外股的· ·早一个多星期已经开始骂娘了··

不明白 国内有好东西 不是值得高兴么·· ...

那是爱国的才高兴

恨国的那就很不高兴了
发表于 2025-3-3 13:45 来自手机 | 显示全部楼层
DS搞了一堆黄卡hopper架构才能用的极端优化,再次大幅拉大了黄卡跟其他厂商实际性能差距
你居然跟我说老黄药丸?

对我来说这次发布会是很失望的,一点都没提ds现在最差劲的幻觉现象改进
以幻觉表现来说,ds跟本是不能用的水平
发表于 2025-3-3 13:47 来自手机 | 显示全部楼层
声色茶马 发表于 2025-3-2 14:09
喷子当然是喷子心态,管你说了什么先喷了再说,出服务器钱的反正是轮子对吧。

现在看起来,对于小规模应 ...

啊这,光一个EPYC官方价格就得10万了,你拿大船货来说事......
发表于 2025-3-3 13:55 | 显示全部楼层
卢奇亚诺 发表于 2025-3-2 00:53
小丑的是蜥蜴人的meta吧,虽然我觉得他现在更像是一直炒股价

不管用谁家的GPU,大部分在用pytorch,这就是meta的开源项目
发表于 2025-3-3 14:30 来自手机 | 显示全部楼层
觉得算力够就不想多说了
发表于 2025-3-3 19:51 | 显示全部楼层
当初LED灯泡被发明后,专家预测全球照明用电量会逐年递减,实际上照明用电量反而越来越多了
发表于 2025-3-3 20:11 | 显示全部楼层
杰文斯悖论,科技进步带来的成本下降,反而导致更大的资源消耗,人人都能玩大模型,反而算力需求更高
发表于 2025-3-3 20:39 | 显示全部楼层
对算力的需求是源源不断的,deepseek 只是让成本下降
发表于 2025-3-3 21:02 | 显示全部楼层
本帖最后由 snowgundam 于 2025-3-3 21:03 编辑

说够用的是没写过长思维链型的智能体,groq这么快的方案都撑不住
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-4-26 21:50 , Processed in 0.014524 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表