RTX 5090 D与RTX 5090的AI性能对比测试

yjcxlsq

原文链接：https://github.com/nehemiah888/rtx5090aitest?tab=readme-ov-file

省流：作者通过与Computer Vision Lab提供的5090 AI测试结果进行对比，结果显示：
在非LLM模型方面，无论是训练还是推理，5090和5090d在大部分模型的性能表现上区别不大，5090d比5090平均慢了百分之-17.2到11.4之间
但是在FP32精度上，对于Swin Base Patch4 Window7 224这个模型，5090d比5090在训练上慢了百分之41.9，在推理上慢了百分之63.3，明显低于4090
在LLM模型的推理上，两者性能的差异似乎与模型大小有关，在32b等较大模型上，两者只有个位数差距，但是在3-8b的小模型上，5090d比5090慢了百分之13到18

作者也提供了测试用的脚本和依赖环境，感兴趣的朋友可以自己复现

我奇怪的是为什么只有一个模型的一个特定精度（还是很少使用的FP32）有如此显著的区别，并且即使是有普遍差异的小参数LLM，5090d还是比4090快得多
感觉禁令禁了个寂寞