感觉苹果的统一内存架构太猛了啊，内存速度都快能赶超显存了，什么时候INTEL也学一下

whobuki

beowulf 发表于 2023-7-19 11:18
五六万就可以搞到192GB高速内存，
对于很多AI炼大模型的同学们性价比挺高的。

苹果的这个显存水分其实挺大的，首先用因为metal驱动的原因大概只有一半内存能用做显存，其次你用nv的话有各种优化器可以降低实际的内存占用，像是bitsandbytes这种，mac就只能硬算了，在你要跑别人的代码的时候还要折腾环境就更逆天了。
而且之前还在其他地方有看到实际apple这个内存带宽也有点掺水，不知道m2修复了没https://www.anandtech.com/show/1 ... erformance-review/2