Chiphell - 分享与交流用户体验

标题: 本地LLM推理专用显存天梯 [打印本页]

作者: 游荡在灯塔 时间: 2024-11-3 04:46
标题: 本地LLM推理专用显存天梯
瞅着最近m4发布，大伙儿又开始讨论起本地llm，发一个Karminski牙医大佬的天梯以供参考

https://vmem-for-llms.kcores.com/index-cn
对于mac单机性价比最高的还是M2 Ultra

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)