RTX 2000ADA运行千问16B的模型比4060TI 16G差多少？

a010301208 · 发表于 2025-8-3 12:38

算力差45%

a010301208 · 发表于 2025-8-3 14:15

la814273 发表于 2025-8-3 13:53
单并发速度跟带宽关联更大，而不是算力。4060ti带宽多30%左右

算力依然是首要考虑

真要考虑带宽，那肯定买50系，5060ti比4060ti带宽多了50%不止

a010301208 · 发表于 2025-8-3 15:33

la814273 发表于 2025-8-3 15:23
算力主要影响prefill和多并发吧，就自己用的话速度跟带宽影响更大

有一定的影响，4000 ada的带宽也没有5060TI高

如果是多卡的话，那带宽重要性会更高，不过他就一张卡来说，其实还好

账号		自动登录	找回密码
密码			加入我们

[显卡] RTX 2000ADA运行千问16B的模型比4060TI 16G差多少？