AMD兴奋了
AMD非常兴奋的发布了旗下RX7900XTX消费级显卡在部署DeepSeek蒸馏小模型上和英伟达同级别显卡的速度差异挺好 A卡也买不到了 铲子多了 看了一下价格，还是等9070XT出来再说 完了，amd的卡要涨价了........ gjbsas 发表于 2025-1-31 00:27
完了，amd的卡要涨价了........
应该是这样的 Nvidia cuda护城河没有后，4090 连7900xtx也打不过么 gjbsas 发表于 2025-1-31 00:27
完了，amd的卡要涨价了........
咸鱼已经涨了 前几天还有5300非钙版的7900xtx
今天已经钙版最低5600了
cloudybeyond 发表于 2025-1-31 00:39
Nvidia cuda护城河没有后，4090 连7900xtx也打不过么
都amd官方宣传了，自己想想amd对于自家apu是怎么吹嘘的 可以兴奋的增加msrp了 挺好 A卡也买不到了 A家是为了涨价，不是为了给N家价格打下来。。 希望国产显卡也能崛起！！ 他这个是蒸馏后小模型吧看其他论坛说的 就是蹭个热度 额，amd要涨价了。 momo77989724 发表于 2025-1-31 11:43
他这个是蒸馏后小模型吧看其他论坛说的 就是蹭个热度
个人没事也没有部署671B的大模型吧，我16G部署了个14B的也不错占用了11G显存。671B的模型量化压缩后都需要上几百G的显存。 mkkkno1 发表于 2025-1-31 11:58
个人没事也没有部署671B的大模型吧，我16G部署了个14B的也不错占用了11G显存。671B的模型量化压缩后都需 ...
这倒是
4080 跑DS 更强？？？？ cloudybeyond 发表于 2025-1-31 00:39
Nvidia cuda护城河没有后，4090 连7900xtx也打不过么
Cuda护城河主要指的是部署难度，理论算力amd一直都不虚的。
问题是，护城河没有了吗？ds那个类汇编的写法对硬件的绑定不是更深吗？ 蒸馏酒更好，更烈 这是为9070铺路 gartour 发表于 2025-1-31 13:47
Cuda护城河主要指的是部署难度，理论算力amd一直都不虚的。
问题是，护城河没有了吗？ds那个类汇编的写 ...
汇编优化很难很麻烦，大部分中小企业都弄不来。
理论上跳过CUDA去汇编优化的，
技术水平换别的卡一样可以优化。
想着搞一套部署 7900xtx 部署deepseek了 xks07 发表于 2025-1-31 15:12
汇编优化很难很麻烦，大部分中小企业都弄不来。
理论上跳过CUDA去汇编优化的，
技术水平换别的卡一样可以 ...
是的。但不管程序员的水平高低，汇编的迁移成本始终是高于是cuda的。
所以ds并不是打破了cuda的护城河，只是说他们程序员的水平够高，可以无视这个护城河。他们采用编程方法比突破cuda反而要更加难。 7900xtx有24g显存，能本地跑 32b的deepseek-r1了吧，我看ollama已经支持7900xtx了 gartour 发表于 2025-1-31 16:53
是的。但不管程序员的水平高低，汇编的迁移成本始终是高于是cuda的。
所以ds并不是打破了cuda的护城河， ...
不，对于头部公司来说，比如苹果meta他们有的是钱。缺的是思路和路线。ds发酵后到现在苹果和meta股价是大涨的。汇编优化再难有造个iOS系统难么？模型对算力要求的大幅降低是端侧ai的大利好。云端大模型的盈利模式其实是有问题的。有点像互联网刚开始的电子邮箱。 乐呵乐呵得了，一个大模型改变不了什么 xks07 发表于 2025-1-31 19:26
不，对于头部公司来说，比如苹果meta他们有的是钱。缺的是思路和路线。ds发酵后到现在苹果和meta股价是大 ...
很多公司都被高昂的采购成本逼的要自造芯片了，很难想象这些公司此前没有在汇编这个方向上做过尝试。
当然这只是一种推测，总之让子弹飞一飞 gartour 发表于 2025-1-31 20:59
很多公司都被高昂的采购成本逼的要自造芯片了，很难想象这些公司此前没有在汇编这个方向上做过尝试。
当 ...
主要是被openai带进坑了
因为它的大模型最先进。行业领头者。
后面都是追赶它的思路。
加上搞大模型的都是些互联网巨头，预算和卡多不少。
没想过拼命去优化算力。
幻方的1万多张A100根本不算多。
那些说5万张H100的纯粹搞笑的。H100发布两个月还没大规模上市就被禁售了。 挖矿的时候带A卡玩。也涨不到哪去
页:
[1]
2