找回密码
 加入我们
搜索
      

富士通发布了Fugaku-LLM, 使用Fugaku超算进行训练

查看数: 4616 | 评论数: 4 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2024-5-11 20:37

正文摘要:

日本的Fugaku超级计算机在很长时间里,一直都位居Top500榜首,即便现在已经不是世界上最快的计算机器,但是仍然是一个强大的系统。其搭载了富士通开发的A64FX,是首款使用SVE指令集的Arm架构处理器,具备多功能特 ...

回复

libfire2002 发表于 2024-5-14 09:40
我朝的超算和AI,都落后了,得抓紧啊
zcyandrew 发表于 2024-5-13 07:28
风车车 发表于 2024-5-12 22:29
Post-K这种注重双精度浮点性能的传统超算,其训练能力是无法和现有的GPU/NPU抗衡的,例如华为910b便以单芯 ...

几年前NEC搞过Vector Engine,貌似就是个NPU,但是现在也没下文了
富岳感觉最大的意义就是支持SPARC,很多祖传的代码又可以继续跑了
风车车 发表于 2024-5-12 22:29
Post-K这种注重双精度浮点性能的传统超算,其训练能力是无法和现有的GPU/NPU抗衡的,例如华为910b便以单芯片实现了300+TFLOPS的bf16精度,一片能顶A64FX十片。这个用A64FX训练的大语言模型的象征意义大于实质,后面还是得做专用NPU。
348495990 发表于 2024-5-12 03:46
这个开源吗

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-5-19 05:19 , Processed in 0.011091 second(s), 10 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表