内存的问题对DS的影响

kuram · 发表于 2025-2-12 11:21

看到32GB单条，现在有必要把DDR4 插满128GB吗？

这个对DS有影响吗？数据的反复性和再现性有影响不？

是影响跑得起还是影响精确度？

kuram · 发表于 2025-2-12 11:23

最近对DS太需要了

每天白天DS网页和API基本都是无响应

只能想着自己部署小模型又差只能想各种办法加大模型

xy. · 发表于 2025-2-12 11:35

本帖最后由 xy. 于 2025-2-12 11:36 编辑

d4 2ch 32b q4 估计不到 1t/s

pdvc · 发表于 2025-2-12 11:51

D4就别折腾了，顶天2t/s

pdvc · 发表于 2025-2-12 11:52

kuram 发表于 2025-2-12 11:23
最近对DS太需要了

每天白天DS网页和API基本都是无响应

白天openrouter，晚上硅基/官方，躲开**高峰期😋

bennq · 发表于 2025-2-19 00:05

我4080 16g ,32b q4爆显存后,大约需求22g显存,也能有10t/s

YsHaNg · 发表于 2025-2-19 02:21

字节火山api不好用吗

账号		自动登录	找回密码
密码			加入我们

[内存] 内存的问题对DS的影响