RTX 2000ADA运行千问16B的模型比4060TI 16G差多少？

la814273 · 发表于 2025-8-3 13:53

单并发速度跟带宽关联更大，而不是算力。4060ti带宽多30%左右

la814273 · 发表于 2025-8-3 15:23

a010301208 发表于 2025-8-3 14:15
算力依然是首要考虑真要考虑带宽，那肯定买50系，5060ti比4060ti带宽多了50%不止 ...

算力主要影响prefill和多并发吧，就自己用的话速度跟带宽影响更大

账号		自动登录	找回密码
密码			加入我们

[显卡] RTX 2000ADA运行千问16B的模型比4060TI 16G差多少？