目前的情况，如果想本地部署一个和网络api水平近似的大模型满血版，成本大概多少？

YsHaNg

scpe 发表于 2025-9-13 11:13
你对上下文有要求大一点的话5090不够，不如等等看下半年mac pro怎么样。

而且还得记得得是a19底子的m5 soc 今年才刚加上gpu gemm单元

猪圈

五年一装机 发表于 2025-9-13 09:00
隐约感觉应该是最好的办法，因为我对生成速度没那么高要求，那内存慢点就慢点呗 ...

9004搭配12通道的768G内存，应该4W以内能跑起来，D4平台双路成本更低，但是速度更慢一点，你找找论坛有大佬用9004跑起来了满血版的

tozofly

enolc 发表于 2025-9-10 23:18
10张+卡设置的电源，主板和其他部件配置陈本和安装复杂度基本呈指数级增加.......除非你要商用，家用的话 ...

王校长已经没多少家底了...