游荡在灯塔 发表于 2024-11-3 04:46

本地LLM推理专用显存天梯

瞅着最近m4发布，大伙儿又开始讨论起本地llm，发一个Karminski牙医大佬的天梯以供参考[偷笑]
https://vmem-for-llms.kcores.com/index-cn
对于mac单机性价比最高的还是M2 Ultra
页: [1]
查看完整版本: 本地LLM推理专用显存天梯