zhgbbs 发表于 2025-1-16 14:23

5090D和5090 ai算力的区别主要体现在什么场景?

不太明白,有具体例子吗?比如LLM大模型的训练速度?推理速度?

PolyMorph 发表于 2025-1-16 14:26

4倍插帧开起来差10%

l0stc0mpass 发表于 2025-1-16 15:01

推理速度、训练速度肯定受影响。这个差距对个人来说不会有质的影响,但对多卡企业来说肉眼可见有影响毕竟要乘以卡数量。个人你不会持续一个月跑高强度的训练的,因为你也不想你家电表爆掉。企业要的就是效率,每U算力也会影响机房成本等多方面,不差钱的肯定专业卡,但很多公司就是用90卡。

pdvc 发表于 2025-1-16 15:05

Tensor算力,5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。

pdvc 发表于 2025-1-16 15:10

l0stc0mpass 发表于 2025-1-16 15:01
推理速度、训练速度肯定受影响。这个差距对个人来说不会有质的影响,但对多卡企业来说肉眼可见有影响毕竟要 ...

影响不大,因为这个性能和显存,也就能微调一下。大都是推理用,推理主要看显存带宽,这个没阉割。不过AIGC绘图和CV算法肯定要受影响了。

我輩樹である 发表于 2025-1-16 15:10

卡拿到了我再来跟你说。

powerduke 发表于 2025-1-16 15:33

看网上计算中心的宣传,4090D做计算中心居然性价比更高[狂笑]
https://blog.csdn.net/bumblexbee/article/details/137353315

“评测结论
通过上面的测试数据我们得出以下结论。
在 SD 测试中4090D 的性能约为 4090 的 98%-99%。
在 Llama2-7b 的测试中4090D 的性能约为 4090 的 96.5%。
在 Llama2-70b 的测试中4090D 的性能约为 4090 的 97%。”

cldzyc 发表于 2025-1-16 15:36

pdvc 发表于 2025-1-16 15:05
Tensor算力,5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。 ...

5090D算力对比4090、4090D大概差多少啊,有详细数据吗

Illidan2004 发表于 2025-1-16 17:30

我輩樹である 发表于 2025-1-16 15:10
卡拿到了我再来跟你说。

像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

我輩樹である 发表于 2025-1-16 17:59

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

tensor core。

pdvc 发表于 2025-1-16 22:15

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

跑的TerosrRT的[偷笑]

gartour 发表于 2025-1-16 23:27

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

播放器跑的都是tensor版本

也有ncnn跑cuda的版本,慢,所以没人用

flankerli 发表于 2025-1-17 10:35

但是对于游戏来说,即便5090D开四倍插针的算力也是富裕的。所以才说游戏党5090D够用了

Illidan2004 发表于 2025-1-17 12:52

gartour 发表于 2025-1-16 23:27
播放器跑的都是tensor版本

也有ncnn跑cuda的版本,慢,所以没人用

嗯 我好像是看到有tensorRT和NCNN的 那确实是不一样

wind88 发表于 2025-1-17 14:23

pdvc 发表于 2025-1-16 15:05
Tensor算力,5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。 ...

这个算力fp64,int8等官网公布的都是理论算力吧,实际在匹配软件时候都不会同程度衰减?

feimiao 发表于 2025-1-17 14:48

个人觉得没什么太大纠结 多等个10秒没啥问题

TincoJ 发表于 2025-1-17 15:34

我现在还在用22GB的2080ti在跑呢,一年前花了700改装.
我感觉可以等50系铺开之后找找性价比更高的卡了

8xwob3ko 发表于 2025-1-17 15:37

powerduke 发表于 2025-1-16 15:33
看网上计算中心的宣传,4090D做计算中心居然性价比更高
https://blog.csdn.net/bumblexbee/article/details ...

这种都是针对个人的测试啊
页: [1]
查看完整版本: 5090D和5090 ai算力的区别主要体现在什么场景?