AI为什么对存储有这么大的需求？

l泰然处之01

周期套周期，所有人都觉得大单来了，大赚一场的机会到了，只有参与不进去的小散们大哭，不过哭也对的，最后买单的最终用户不还是 everybody

jinyongli

因为今年deepseek引爆了ai大战，还有开源，一些**之外的小国家也凑热闹

我輩樹である

两个原因：
1，3d并行大规模模型的训练（比如deepspeed），缓存直接穿透到gpus(uma) =offload> cpu =offload> nvme ssd =offload> rdma。
2，巨大的checkpoint需要部署。

大白兔女乃子

xy. 发表于 2025-12-6 17:42
hbm 需求挤压 dram 产能

据说是某家企业提前预定了全球40%产能的
各大闪存企业都拼命搞这个，消费级产品生产优先级直接降为负数

Doomslang

海量存储 海量内存、显存

要是玩过本地部署就知道了，随便一个模型包 小的几个G，大的几十上百G

genesisx

我的理解：经济形势不好，虽然AI形势那么好，但产业链的老大不肯扩大产能，怕到时候大潮褪去他们又要吃回去，亏本，而且还能借机赚一波红利，结果带来的就是整条产业链的涨价以及民用各领域的严重缺货。。。

各路游走

过几年在看看情况吧，反正我不买

powerduke

坛子里网友应该积蓄了不少内存，才会有平和心情讨论的的吧。

手头只有一套主力机的96G的ddr5，另外只有总计加起来96G的ddr4，其中还有32G闲置，所以用是够用了，看资本继续折腾吧。

另外看有人提到民用显卡还要涨价，目前看基本稳定，主流的5060系列还是那个价格，可能是还没传导到位？

装陈醋的酱油瓶

屯了1T 的DDR3, 接近1T的D4，几十T 的M.2/ AIC, 几万刀的镁光股票，可惜没多屯一点D4 RECC。

推高主要还是推理的需求，训练量是大，但是推理的总量更大
关键词: kv cache。还有dram生产的良率要求更高，没有多少bin down 的空间，DRAM 和NAND产线其实也不能短时间内互相转换，甚至不同种类的DRAM 都不能。

至于机械那纯粹炒作，或者说也有可能数据中心还没意识到旋转废铁有多垃圾，事实上机械比NAND先起飞。

可能确实让唱衰开源/国产LLM的***们失望了

Rick2000

处理的模型数据越来越多，存储也是必须品

zhjook

风大 ， 猪都能起飞