Chiphell - 分享与交流用户体验

标题: 调查：AMD AI 芯片 Instinct MI300X 吸引大量用户弃用NV [打印本页]

作者: 楼主的马甲 时间: 2024-3-10 18:56
标题: 调查：AMD AI 芯片 Instinct MI300X 吸引大量用户弃用NV
https://www.ithome.com/0/754/808.htm

据最近的一项调查，大量人工智能专业人士正计划从英伟达转向采用 AMD Instinct MI300X GPU。

TensorWave 联合创始人 Jeff Tatarchuk 透露，他们进行了一项独立调查，涵盖 82 名工程师和人工智能专业人士。其中，约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心，因为相比于英伟达的 H100 系列产品，MI300X 不仅拥有更出色的性价比，而且供应充足，避免了遇到货源紧张的问题。Jeff 还提到，TensorWave 公司也将采用 MI300X 人工智能加速器。这对于 AMD 来说无疑是个好消息，因为以往其 Instinct 系列产品相比英伟达的竞品，市场占有率一直处于劣势。

据IT之家了解，AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造，采用混合的 5nm 和 6nm 制程工艺，拥有多达 1530 亿晶体管 (MI300X 型号)。存储方面也获得了巨大提升，MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 高出 50%。

与英伟达 H100 相比，MI300X 拥有以下优势：

内存容量高出 2.4 倍

内存带宽高出 1.6 倍

FP8 性能 (TFLOPS) 高出 1.3 倍

FP16 性能 (TFLOPS) 高出 1.3 倍

在 1v1 对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 20%

在 1v1 对比测试中，性能方面可领先 H100 (FlashAttention 2) 最多 20%

在 8v8 服务器对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 40%

在 8v8 服务器对比测试中，性能方面可领先 H100 (Bloom 176B) 最多 60%

AMD 的旗舰 Instinct 人工智能加速器 MI300X 不仅在性能上取得了巨大飞跃，而且上市时机也非常巧妙，因为英伟达目前正被积压的订单困扰，这限制了他们拓展新客户的机会。虽然此前 AMD 在人工智能领域的表现并不尽如人意，但未来似乎一片光明，有望在激烈的竞争中占据一席之地。

作者: psps3 时间: 2024-3-10 19:16
AI gpu芯片竞争会越来越激烈

作者: zcyandrew 时间: 2024-3-10 20:19
可是h200和b100已经在路上了。。。

作者: slymitec 时间: 2024-3-10 20:58
提示: 作者被禁止或删除内容自动屏蔽

作者: 昰昰暃暃 时间: 2024-3-10 21:47
amd硬件性价比很高。但是软件还需要再追赶一段时间

作者: litel 时间: 2024-3-10 22:34
AMD握手NV：还是这个赚钱

作者: hunterfy 时间: 2024-3-11 08:56
走别人的路，让别人无路可走

作者: Auki 时间: 2024-3-11 09:05
大量是多大？

作者: jeff.kwan 时间: 2024-3-11 09:31

slymitec 发表于 2024-3-10 20:58
还是造这个赚钱，游戏卡都是锦上添花

有没有可能，游戏卡用户其实是老白鼠

作者: 张糊涂 时间: 2024-3-11 09:41
能代表中国能有（潜力）一战的目前看是不是只有Huawei了

作者: lichkong 时间: 2024-3-11 09:47

昰昰暃暃发表于 2024-3-10 21:47
amd硬件性价比很高。但是软件还需要再追赶一段时间

这话放到任何时期都没毛病

作者: 冷月有痕 时间: 2024-3-11 11:11
良性竞争，这样老黄的订单压力会减小也有经历研发新产品。

作者: 大头吃小头 时间: 2024-3-11 11:57

张糊涂发表于 2024-3-11 09:41
能代表中国能有（潜力）一战的目前看是不是只有Huawei了

海光dcu， amd卖锐龙的时候把gcn也卖了
现在海光在照着amd专业卡在照葫芦画瓢
哇为性能现在看好一点生态可能海光dcu更好一点，不过听说英伟达那边又不让兼容cuda了？

作者: aasa0001 时间: 2024-3-11 12:14
关键还是缺货。干等怎么玩，只能换了

作者: glamor 时间: 2024-3-11 12:44
提示: 作者被禁止或删除内容自动屏蔽

作者: JonirRings 时间: 2024-3-11 14:35

slymitec 发表于 2024-3-10 20:58
还是造这个赚钱，游戏卡都是锦上添花

某种意义上，廉价（相对）游戏卡，可以用来扼杀想要复制路线的后继者，靠游戏市场入场。

作者: 张糊涂 时间: 2024-3-11 15:48

大头吃小头发表于 2024-3-11 11:57
海光dcu， amd卖锐龙的时候把gcn也卖了
现在海光在照着amd专业卡在照葫芦画瓢
哇为性能现在看好一点生态 ...

现在国内得的大厂应该都觉醒到了这事靠外部=不靠谱了
自己的东西虽然目前初级落后点也还是得用
这一点来说好像Huawei又立功了？

作者: 楼主的马甲 时间: 2024-3-12 14:14
本帖最后由楼主的马甲于 2024-3-12 14:15 编辑

Auki 发表于 2024-3-11 09:05
大量是多大？

仔细看这个新闻，俺赶脚是种炒作，淫家又没说买！
只是考虑……

话说俺贴的图咋都没上。再发次！
https://img.ithome.com/newsuploa ... ff-2d09a4d0ed05.png

作者: 谎言之神Cyric 时间: 2024-3-14 16:25
你倒是多加几倍经费去建设你的ROCm啊

作者: donkey_ever 时间: 2024-3-15 12:28
这么多年了，各路专家一路唱衰老黄，唱着唱着把nv唱衰到2万亿市值了

作者: bacu 时间: 2024-3-15 22:53
就ROCM现在的支持程度和效率。。。 PYTorch和TF的支持仍然bug 频频，消费卡支持的还非常有限。。。这么多年了软件生态仍然搞不定。
A在AI上的问题从来就不是硬件，是软件，是生态。A卡唯一的优势不是大显存，不是便宜，而是有货！

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)