SK海力士展示AiMX存算一体加速卡原型:基于GDDR6-AiM,可用于生成式AI计算
来源: SK海力士官网原英文标题: SK hynix Debuts Prototype of First GDDR6-AiM Accelerator Card ‘AiMX’ for Generative AI
在9月12日至14日于加利福尼亚州圣克拉拉万豪酒店举行的人工智能硬件与边缘人工智能峰会(AI Hardware & Edge AI Summit 2023)上,SK hynix推出并演示了基于GDDR6-AiM的生成式人工智能加速器卡AiMX原型。
https://d36ae2cxtn9mcr.cloudfront.net/wp-content/uploads/2023/09/14094325/SK-hynix_AI-Hardware-Edge-AI-Summit-2023_08.png
人工智能硬件和边缘人工智能峰会每年由英国营销公司Kisaco Research主办,汇集了全球IT公司和备受瞩目的初创企业,分享他们在人工智能和机器学习方面的发展。这是 SK hynix 第三次参加该峰会。
在这次活动中,该公司展示了AiMX的原型,这是一种结合多个GDDR6-AiM以进一步提高性能的加速卡,同时还展示了GDDR6-AIM本身,口号是 "提升你的人工智能:用SK hynix的AiM发现PIM的力量"。
作为一种能够处理大量数据的低功耗高速存储器解决方案,AiMX 将在数据密集型生成式人工智能系统的发展中发挥关键作用。生成式人工智能的性能会随着对更多数据的训练而提高,这就凸显了对可应用于各种生成式人工智能系统的高性能产品的需求。
SK hynix还在配备了AiMX原型的服务器系统上展示了Meta的生成式人工智能开放预训练变压器(OPT)13B模型。采用 GDDR6-AiM 芯片的 AiMX 系统与采用 GPU 的系统相比,数据处理时间缩短了 10 倍以上,而功耗仅为五分之一。该公司的演示表明,它可以提供比最新加速器更高的性能 ,从而激起了提供人工智能服务的全球公司的兴趣。
https://d36ae2cxtn9mcr.cloudfront.net/wp-content/uploads/2023/09/14094257/SK-hynix_AI-Hardware-Edge-AI-Summit-2023_05.png
此外,该公司还举行了一场会议,概述了 AiMX 的优势。解决方案开发部副总裁 Eui-cheol Lim 在题为 "使用 AiM 进行经济高效的生成式人工智能推理加速 "的演讲中,比较了 GPU 和 AiMX 的性能,并探讨了下一代智能半导体存储器的未来。
Eui-cheol Lim解释说:“SK hynix 的 AiMX 是一种能提供更高性能的解决方案,同时功耗更低,成本也低于传统的 GPU。我们将继续开发引领人工智能时代的存储器技术”。
页:
[1]