AI为什么对存储有这么大的需求？
本帖最后由 moweiraul 于 2025-12-6 18:29 编辑不都是靠GPU么，如果是硬盘需求大也能理解，毕竟结果可能需要存储。
但内存的需求到底是哪里来的？
看了大家的回答，能理解一些，但是仍有不解的是，既然是AI强需求，那为什么这几个月才突然价格猛涨。AI竞赛早就开始了，GPU早都供不应求了，为什么内存偏偏等到今天才开始涨价？ AI训练需要海量数据，现实中的数据已经不够用了，用机器合成的数据训练[困惑] hbm 需求挤压 dram 产能 hbm你可以看做是一种多层ram，对晶圆的消耗远大于ram，它占用了大量原材料和产能，导致没有足够的产能和原材料分给ram gpu用的巨量hbm挤占了内存产线的产能
然后数据中心内存需求本来就不少啊
毕竟也有巨量cpu运行呢，难道只配几百g内存？肯定不够 刚玩comfyui，48G内存撑爆了，显卡也撑爆。
开始明白为什么配128G内衬和 24G以上显卡。SSD也不够玩，那些模型动不动十来G。 高校跑计算大的都需要1.5T内存。。。。只能说很多人对工业和海量数据的存储需求没有想象力
有些模型大的跑一次1.5T的存储空间。。。就一个数据文件。 你别说模型训练了，我就一个非常细枝末节的ai无关的小业务，每天要清洗计算的数据就几百T，中间计算过程大概占着十几T到几十T的内存不等 如果你了解了大模型的本质就明白了，大模型就是以海量数据为基础，把能匹配问题的最大几率的答案给你找出来，而不是把正确的答案找出来。 ai泡沫不破，这个问题无解，目前才刚刚开始 LLM 参数太多了，计算的时候需要加载到内存里面。 xy. 发表于 2025-12-6 17:42
hbm 需求挤压 dram 产能
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？ moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？
国内JS炒作也是个原因 元首的动物园 发表于 2025-12-6 18:34
国内JS炒作也是个原因
[睡觉]国外也涨了 以现在的工业规模和产能我很难想象会出现长时间的供应不足
所以大概率还是商家炒作而已 前两年ai刚爆发时 不是很多新公司就靠屯gpu
在抵押给金融再屯gpu找有需要的接盘来赚钱
这两年也许老黄改规则了 gpu不是那嬷好屯了
但钱总要赚的 可能就屯别的...... moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？
AI模型推理场景落地了 第一个问题也太无聊了吧，重点的确是第二个，明明ai早就火了很久，为啥突然需求内存了，这说不是内存厂商故意的还能说什么
镁光停产也是好消息，反正d5也没人想要他的低频颗粒好吧 其实很多行业都需要大存储的，不只是AI。只是AI这个话题最近比较火而已 AI 是随着技术不断迭代版本，因此需求肯定是一步一步加大，就像DEEPSEEK发布，那一段时间需求就突然暴涨。
今年是AI版本重大的突破元年，去年很多连文字都无法识别，现在已经完全没问题了，自然需求量直接指数级暴涨。 两点
1. 硬盘再快，也没有内存快， 大模型训练需要接近TB级别的数据，所以需要内存来缓冲
2. 生产服务器或者显卡用的“内存” 与民用的“内存” 在生产线上工艺基于几乎一样，加上民用的需求疲软，说以转型做企业及需求。。 训练数据，checkpoint都得要存储空间
Stargate项目今年才开始大范围建设吧 消费级的没法比，普通主板前几年主流的最大支持128G内存，现在的主板应该是256G了吧。服务器上的动不动上TB内存起步[偷笑] 3060tig6x 发表于 2025-12-6 20:20
第一个问题也太无聊了吧，重点的确是第二个，明明ai早就火了很久，为啥突然需求内存了，这说不是内存厂商故 ...
美光只是停了crucial这个零售牌子，自己的颗粒照卖 moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？
羊群效应
开始大家都不敢上，唯恐吃亏
后来发现第一个冲进去的发财了
然后就争先恐后地上了 一张显卡 288G显存 一个机器8张+
想想消耗多少 moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？
前阵子黄皮子不是找丧门星和现代老大的新闻么？那就是个节点，之后丧门星和现代大规模转产HBM，全世界奸商嗅到后大规模涨价，实际上各家库存都蛮多的。 gyc 发表于 2025-12-7 10:43
两点
1. 硬盘再快，也没有内存快， 大模型训练需要接近TB级别的数据，所以需要内存来缓冲
为什么机械硬盘暴涨 AMD NV都在产AI卡也没说会影响消费卡，所以大家坚持你我200。 yunyuyue 发表于 2025-12-6 19:17
以现在的工业规模和产能我很难想象会出现长时间的供应不足
所以大概率还是商家炒作而已 ...
如果有无限的钱，完全不考虑盈利，当然可以无限生产，可惜现实并不是这样。
内存是周期性行业，什么是周期性呢？新闻很常见的，当一项农产品价格上涨的时候，农民一窝蜂的去种植，等到第二年产出的时候，大量供应市场，导致价格暴跌，最后农民把裤衩子都赔掉了。当然，反之那些价格较低的农产品，种植人少了，第二年价格反而会上涨。
这就告诉我们要有稳定性，不能够太盲从市场信号。所以说，当市场需求激增的时候，对内存厂商来说，如果没有有力的证据说明未来许多年都会维持高需求，那就不能盲目扩大产线，23年的暴跌已经是惨痛教训了。那么，在供需不平衡之下，市场出清价格上涨是自然而然的了。
很多人念的“AI是泡沫，马上就暴雷，肯定会跌的”，其实完全是反的。恰好内存价格上涨，就是因为厂商根据完全相同的预期“在未来AI是不能持久维持这个高需求量的”，这才导致了价格上涨。谁都不是傻子，又不是只有消费者会根据未来预期指导当前行为的。
页:
[1]
2