Chiphell - 分享与交流用户体验

标题: 强劲算力背后是庞大的消耗， AMD确认Instinct MI300X功耗高达750W [打印本页]

作者: ym168 时间: 2023-6-17 15:00
标题: 强劲算力背后是庞大的消耗， AMD确认Instinct MI300X功耗高达750W
AMD在6月15日的数据中心和AI技术首映活动上展示了它们的Instinct MI300X GPU，在会议上AMD并没有提及该产品的功耗相关信息，但随后Hoang Anh Phu发现了Instinct MI300X基于OAM（OCP加速器模块）的设计功耗高达750W，一举超越NVIDIA的Hopper H100的700W成为目前功耗需求最高的GPU。

(, 下载次数: 31)

AMD的Instinct MI300系列包括Instinct MI300A和MI300X，前者包含CPU与GPU，CPU部分采用了三颗Zen 4 CCD，共24核心，而GPU部分则为最先的CDNA3架构，六颗XCD芯片，并配备128GB的HBM3内存，由CPU与GPU共享。

而MI300X则是把CPU模块也换成GPU，是一个纯GPU的加速模块，配备192GB HBM3内存，由于GPU模块比CPU模块更耗电，而且HBM数量也更多，所以一个OAM模块功耗就高达750W，相比与上一代CDNA2架构的MI250X的560W提高了相当多。

(, 下载次数: 29)

最近几年数据中心GPU的功耗增长相当明显，NVIDIA H100 SXM GPU TDP高达700W，而采用风冷的PCI-E版本也要350W，基于Ponte Vecchio GPU的Intel Max 1550即使是PCI-E版本功率也要600W。

https://www.expreview.com/88839.html

作者: KimmyGLM 时间: 2023-6-17 15:23
总感觉AMD在吹牛逼

作者: jcd_chh 时间: 2023-6-17 21:43
我觉得功耗高这一点他至少没有吹牛逼

作者: coconutgallo 时间: 2023-6-17 22:47
一颗H100 SXM 就700w呢

MI300X和GH200可都还带着CPU

Nvidia's Grace-Hopper chip alone requires about a kilowatt of power. So without factoring in motherboard and networking consumption, you're looking at cooling about 16 kilowatts per rack, just for the compute. This is already going to be a lot for many datacenter operators used to cooling 6-10 kilowatt racks, but at least within the realm of reason.

作者: bigmanlei 时间: 2023-6-19 11:20
750瓦，比我的桌面暖风机强！

作者: ixion 时间: 2023-6-20 11:33
电表都要转出火星子来了

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)