RTX 5090 D与RTX 5090的AI性能对比测试

墨镜难

我实际测试过在我的应用场合两者是没有速度区别的
llama.cpp，基于qwen2.5训练的13b模型跑文字日译中，5090和5090D都是稳定126tokens左右，不过基于llama.cpp的bench确实差距很明显，一个是42，一个是29
我也不懂为什么bench和实际应用区别这么大，毕竟我只会使用不懂原理

墨镜难

manwomans 发表于 2025-3-30 00:43
你这个只是在跑推理吧

那我觉得区区32G肯定也不够跑训练