最近学习machine learning想用nuc替换掉群晖

我輩樹である

很多人肯定想不到，当前用transformer做应用的新宠居然是mac studio m2 ultra顶配。

我輩樹である

q3again0605 发表于 2023-7-5 15:25
是看了林yi视频了吧

看推特上的。很多做llm/vit的组都在给m2 ultra做适配了，其实不止m2，m1做适配的更多。

现在都在呼吁苹果给个官方支持。

我輩樹である

zhuifeng88 发表于 2023-7-4 18:57
关于这个...对比了下llama.cpu 65b q4_0的推理速度, 完全没能理解m2u怎么宠起来的
m2u顶配也就10token/s
...

可能是m2不需要买设备吧。苹果设备保有量比较大。搞得我也想买了。据说m1max也可以有5tokens。

我輩樹である

山不是水 发表于 2023-7-8 05:35
是看了林XX等UP在那吹的视频吧？
整个视频尬得。。。

什么林xx不清楚，见推特。