AMD兴奋了

deader · 发表于 2025-1-30 23:03

AMD非常兴奋的发布了旗下RX7900XTX消费级显卡在部署DeepSeek蒸馏小模型上和英伟达同级别显卡的速度差异

dinla · 发表于 2025-1-30 23:19

挺好 A卡也买不到了

xzzfft · 发表于 2025-1-30 23:21

铲子多了

鬼武人 · 发表于 2025-1-31 00:27

看了一下价格，还是等9070XT出来再说

gjbsas · 发表于 2025-1-31 00:27

完了，amd的卡要涨价了........

撒哈拉土狗 · 发表于 2025-1-31 00:28

gjbsas 发表于 2025-1-31 00:27
完了，amd的卡要涨价了........

应该是这样的

cloudybeyond · 发表于 2025-1-31 00:39

Nvidia cuda护城河没有后，4090 连7900xtx也打不过么

cloudybeyond · 发表于 2025-1-31 00:41

gjbsas 发表于 2025-1-31 00:27
完了，amd的卡要涨价了........

咸鱼已经涨了前几天还有5300非钙版的7900xtx

今天已经钙版最低5600了

Scarlet〃 · 发表于 2025-1-31 00:42

cloudybeyond 发表于 2025-1-31 00:39
Nvidia cuda护城河没有后，4090 连7900xtx也打不过么

都amd官方宣传了，自己想想amd对于自家apu是怎么吹嘘的

trustong · 发表于 2025-1-31 00:43

可以兴奋的增加msrp了

kinglfa · 发表于 2025-1-31 00:44

挺好 A卡也买不到了

sai7 · 发表于 2025-1-31 01:40

A家是为了涨价，不是为了给N家价格打下来。。

yopmai · 发表于 2025-1-31 11:41

希望国产显卡也能崛起！！

momo77989724 · 发表于 2025-1-31 11:43

他这个是蒸馏后小模型吧看其他论坛说的就是蹭个热度

PS001 · 发表于 2025-1-31 11:48

额，amd要涨价了。

mkkkno1 · 发表于 2025-1-31 11:58

momo77989724 发表于 2025-1-31 11:43
他这个是蒸馏后小模型吧看其他论坛说的就是蹭个热度

个人没事也没有部署671B的大模型吧，我16G部署了个14B的也不错占用了11G显存。671B的模型量化压缩后都需要上几百G的显存。

momo77989724 · 发表于 2025-1-31 12:00

mkkkno1 发表于 2025-1-31 11:58
个人没事也没有部署671B的大模型吧，我16G部署了个14B的也不错占用了11G显存。671B的模型量化压缩后都需 ...

这倒是

大敛猫 · 发表于 2025-1-31 13:09

4080 跑DS 更强？？？？

gartour · 发表于 2025-1-31 13:47

cloudybeyond 发表于 2025-1-31 00:39
Nvidia cuda护城河没有后，4090 连7900xtx也打不过么

Cuda护城河主要指的是部署难度，理论算力amd一直都不虚的。

问题是，护城河没有了吗？ds那个类汇编的写法对硬件的绑定不是更深吗？

archxm · 发表于 2025-1-31 13:59

蒸馏酒更好，更烈

23319858 · 发表于 2025-1-31 14:00

这是为9070铺路

xks07 · 发表于 2025-1-31 15:12

gartour 发表于 2025-1-31 13:47
Cuda护城河主要指的是部署难度，理论算力amd一直都不虚的。

问题是，护城河没有了吗？ds那个类汇编的写 ...

汇编优化很难很麻烦，大部分中小企业都弄不来。
理论上跳过CUDA去汇编优化的，
技术水平换别的卡一样可以优化。

i6wz1l · 发表于 2025-1-31 15:19

想着搞一套部署 7900xtx 部署deepseek了

gartour · 发表于 2025-1-31 16:53

xks07 发表于 2025-1-31 15:12
汇编优化很难很麻烦，大部分中小企业都弄不来。
理论上跳过CUDA去汇编优化的，
技术水平换别的卡一样可以 ...

是的。但不管程序员的水平高低，汇编的迁移成本始终是高于是cuda的。

所以ds并不是打破了cuda的护城河，只是说他们程序员的水平够高，可以无视这个护城河。他们采用编程方法比突破cuda反而要更加难。

chiyiangel · 发表于 2025-1-31 18:06

7900xtx有24g显存，能本地跑 32b的deepseek-r1了吧，我看ollama已经支持7900xtx了

xks07 · 发表于 2025-1-31 19:26

gartour 发表于 2025-1-31 16:53
是的。但不管程序员的水平高低，汇编的迁移成本始终是高于是cuda的。

所以ds并不是打破了cuda的护城河， ...

不，对于头部公司来说，比如苹果meta他们有的是钱。缺的是思路和路线。ds发酵后到现在苹果和meta股价是大涨的。汇编优化再难有造个iOS系统难么？模型对算力要求的大幅降低是端侧ai的大利好。云端大模型的盈利模式其实是有问题的。有点像互联网刚开始的电子邮箱。

ntuchenxy · 发表于 2025-1-31 19:42

乐呵乐呵得了，一个大模型改变不了什么

gartour · 发表于 2025-1-31 20:59

xks07 发表于 2025-1-31 19:26
不，对于头部公司来说，比如苹果meta他们有的是钱。缺的是思路和路线。ds发酵后到现在苹果和meta股价是大 ...

很多公司都被高昂的采购成本逼的要自造芯片了，很难想象这些公司此前没有在汇编这个方向上做过尝试。

当然这只是一种推测，总之让子弹飞一飞

xks07 · 发表于 2025-1-31 21:35

gartour 发表于 2025-1-31 20:59
很多公司都被高昂的采购成本逼的要自造芯片了，很难想象这些公司此前没有在汇编这个方向上做过尝试。

当 ...

主要是被openai带进坑了
因为它的大模型最先进。行业领头者。
后面都是追赶它的思路。
加上搞大模型的都是些互联网巨头，预算和卡多不少。
没想过拼命去优化算力。
幻方的1万多张A100根本不算多。
那些说5万张H100的纯粹搞笑的。H100发布两个月还没大规模上市就被禁售了。

Pioneer丶 · 发表于 2025-1-31 23:04

挖矿的时候带A卡玩。也涨不到哪去

账号		自动登录	找回密码
密码			加入我们

[CPU] AMD兴奋了