哎。。。怪不得溢价乏力了

manyhn

怎么说呢。。。5090现在的pytorch生态表现还不如rocm，随便搞个vllm，autoawq，flash-attn，没有一个能正常用，从代码编译都不行。


同样代码，qwen2.5-vl模型，rocm跑至少能跑。5090就不一样了，各种不能用，显存释放存在问题。。。

nApoleon

别说出来,让炒90的继续皇帝的新装,炒的越厉害到时候崩得越猛~

StevenG

毕竟那个最疼爱男人的女人，宁可这代不出旗舰卡，也要搞ai生态

gerbigo

而且据说 5090 非d版 也不能多卡，不知道是市面卡太少兼容问题还是硬件驱动限制

manyhn

gerbigo 发表于 2025-3-8 09:22
而且据说 5090 非d版 也不能多卡，不知道是市面卡太少兼容问题还是硬件驱动限制 ...

训练不清楚，如果是推理看评测应该感觉可以，有人测5090+5080或40系显卡。

不过现阶段的生态就是没法用的水平

hmu888

炒作囤货的人又不懂这些，不影响继续炒作涨价

gerbigo

manyhn 发表于 2025-3-8 09:26
训练不清楚，如果是推理看评测应该感觉可以，有人测5090+5080或40系显卡。

不过现阶段的生态就是没法用 ...

前几天在油管上看到的，不知道是驱动和硬件的限制还是开发工具的适配问题（市面上真正卖出去的卡也没几张），单卡跑32b的大模型推理，倒是可以用，多卡不能用。

a010301208

这个早就知道了，在某地看到有人写求付费解决都没人理。

黄世仁总以为CUDA是一切，但他忘了没有人帮他适配优化，一切都是空中楼阁，50系卖的越少，那么各种适配就越慢

强如苹果的头显又如何，你看看有多少人去开发的

lh4357

sm_120不支持是版本太旧，直接装个nightly cu128。

yj811202

4W+的显卡真有人买？

cbwfnk

yj811202 发表于 2025-3-8 09:59
4W+的显卡真有人买？

沙比才去买

manyhn

lh4357 发表于 2025-3-8 09:56
sm_120不支持是版本太旧，直接装个nightly cu128。

但torchaudio在torch 2.7.0的环境下，一直编译不了win ...

这个就是torch2.7的效果，现在不在于torch，而是一众生态至少要torch先正式支持后续的才跟的上

lh4357

manyhn 发表于 2025-3-8 10:10
这个就是torch2.7的效果，现在不在于torch，而是一众生态至少要torch先正式支持后续的才跟的上 ...

2.7.0的话，那就算错误，也不该是sm_120的这个错误啊，你是不是安装的时候没加cu128？

pip install --pre torch torchvision --index-url https://download.pytorch.org/whl/nightly/cu128

shuyue2

显卡是用来玩游戏的，不是来搞这些乱七八糟的玩意的

manyhn

lh4357 发表于 2025-3-8 10:14
2.7.0的话，那就算错误，也不该是sm_120的这个错误啊，你是不是安装的时候没加cu128？

pip install --pr ...

是这个地址没错。这个错并不是PyTorch报的，而是flash-attn编译运行时报的

lh4357

manyhn 发表于 2025-3-8 10:30
是这个地址没错。这个错并不是PyTorch报的，而是flash-attn编译运行时报的

我试了下，qwen2.5-vl可以跑啊，加上--flash-attn2（自己编译的）参数也还是能跑。  

momo77989724

shuyue2 发表于 2025-3-8 10:28
显卡是用来玩游戏的，不是来搞这些乱七八糟的玩意的

玩游戏才是小众   和 代码的比 零头都算不上

大头吃小头

StevenG 发表于 2025-3-8 09:14
毕竟那个最疼爱男人的女人，宁可这代不出旗舰卡，也要搞ai生态

那是navi31  酥麻真的给力，给了navi31全家的wsl2 rocm完整支持（79gre 79xt 79xtx w78 w79）9070目前还不支持，32g的赶紧上吧

solder

StevenG 发表于 2025-3-8 09:14
毕竟那个最疼爱男人的女人，宁可这代不出旗舰卡，也要搞ai生态

那个女人是什么梗来着？脑子突然转不过来了，ds也回答不上
难道说的是苏博士？

QyInvoLing

快点删帖，这样吹AMD我要何时才能买到原价的9070xt
掉驱动不稳定炸核心宣传起来啊

karaki

现阶段5090（d）就是纯游戏卡，人工智能框架都没适配，白给

黑钢

你不买，我不买，明天还能降500.

昨天跑了一下黑鹰坠落，无论是4060还是3080ti都可以流畅运行，根本不着急换显卡。

8xwob3ko

lh4357 发表于 2025-3-8 09:56
sm_120不支持是版本太旧，直接装个nightly cu128。

但torchaudio在torch 2.7.0的环境下，一直编译不了win ...

现在还没更新吗

lh4357

8xwob3ko 发表于 2025-3-8 16:26
现在还没更新吗

刚才看了下，更新了，不用切换了。

不过话说回来，这破玩意硬是耗了一个月才有，什么神奇效率。。

acerclub

完了，40系要涨价了

fcs15963

a010301208 发表于 2025-3-8 09:45
这个早就知道了，在某地看到有人写求付费解决都没人理。

黄世仁总以为CUDA是一切，但他忘了没有人帮他适配 ...

我觉得要不要反过来理解
游戏卡卖的太多了，好多人自己开发工具用游戏卡跑计算，挤占了专业卡的市场。
那不如游戏卡少卖点，同时提供更强更好更贵的专业卡和服务。

Mashiro_plan_C

solder 发表于 2025-3-8 15:16
那个女人是什么梗来着？脑子突然转不过来了，ds也回答不上
难道说的是苏博士？ ...

男性公敌/下头男是谁不用我多说了吧

manyhn

lh4357 发表于 2025-3-8 14:33
我试了下，qwen2.5-vl可以跑啊，加上--flash-attn2（自己编译的）参数也还是能跑。  

...

我回去再试下，32b内的量化模型再不想去autodl 租机器了

wyatt.earp

怪不得这次的5090和5090D没区别呢

StevenG

solder 发表于 2025-3-8 15:16
那个女人是什么梗来着？脑子突然转不过来了，ds也回答不上
难道说的是苏博士？ ...

那必须是lisa su啊