AI为什么对存储有这么大的需求？

moweiraul

不都是靠GPU么，如果是硬盘需求大也能理解，毕竟结果可能需要存储。

但内存的需求到底是哪里来的？


看了大家的回答，能理解一些，但是仍有不解的是，既然是AI强需求，那为什么这几个月才突然价格猛涨。AI竞赛早就开始了，GPU早都供不应求了，为什么内存偏偏等到今天才开始涨价？

psps3

AI训练需要海量数据，现实中的数据已经不够用了，用机器合成的数据训练

xy.

hbm 需求挤压 dram 产能

StevenG

hbm你可以看做是一种多层ram，对晶圆的消耗远大于ram，它占用了大量原材料和产能，导致没有足够的产能和原材料分给ram

kilbadou

gpu用的巨量hbm  挤占了内存产线的产能
然后数据中心内存需求本来就不少啊
毕竟也有巨量cpu运行呢，难道只配几百g内存？肯定不够

wujiwu

刚玩comfyui，48G内存撑爆了，显卡也撑爆。
开始明白为什么配128G内衬和 24G以上显卡。SSD也不够玩，那些模型动不动十来G。

momo77989724

高校跑计算大的都需要1.5T内存。。。。只能说很多人对工业和海量数据的存储需求没有想象力

有些模型大的  跑一次1.5T的存储空间。。。就一个数据文件。

labyrin

你别说模型训练了，我就一个非常细枝末节的ai无关的小业务，每天要清洗计算的数据就几百T，中间计算过程大概占着十几T到几十T的内存不等

lk_yeah

如果你了解了大模型的本质就明白了，大模型就是以海量数据为基础，把能匹配问题的最大几率的答案给你找出来，而不是把正确的答案找出来。

beasy

ai泡沫不破，这个问题无解，目前才刚刚开始

fromiss

LLM 参数太多了，计算的时候需要加载到内存里面。

moweiraul

xy. 发表于 2025-12-6 17:42
hbm 需求挤压 dram 产能

如果是AI引发的，那为什么到最近，内存才出现暴涨呢？

元首的动物园

moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？

国内JS炒作也是个原因

天道太酬勤

元首的动物园 发表于 2025-12-6 18:34
国内JS炒作也是个原因

国外也涨了

yunyuyue

以现在的工业规模和产能  我很难想象会出现长时间的供应不足   

所以大概率还是商家炒作而已

ricky525

前两年ai刚爆发时 不是很多新公司就靠屯gpu
在抵押给金融再屯gpu找有需要的接盘来赚钱
这两年也许老黄改规则了 gpu不是那嬷好屯了
但钱总要赚的 可能就屯别的......

linux40

moweiraul 发表于 2025-12-6 18:30
如果是AI引发的，那为什么到最近，内存才出现暴涨呢？

AI模型推理场景落地了

3060tig6x

第一个问题也太无聊了吧，重点的确是第二个，明明ai早就火了很久，为啥突然需求内存了，这说不是内存厂商故意的还能说什么

镁光停产也是好消息，反正d5也没人想要他的低频颗粒好吧

richienie

其实很多行业都需要大存储的，不只是AI。只是AI这个话题最近比较火而已