现在暂时没有完美的LLM小型设备。

我輩樹である · 发表于 2025-12-2 12:56

allensakura 发表于 2025-12-2 12:34
就算是QWEN3 235B，相比GEMINI和**体感都还是像玩具一样，没什么实用价值
跟ComfyUI这种已经普及到各路美工 ...

最主要的是线上都是agent，本地连single pass跑的都吃力。

gyc · 发表于 2025-12-2 13:11

可惜，现在没有比较好加速卡可以同时配合其他家的。不然 AMD395 那个扩展一个X4的PCIE加速卡，专门辅组特定运算。补足，应该会不错。。

fut888 · 发表于 2025-12-2 13:34

性价比最高的当然是M3 ultra512G，5万多，跑q4 deepseed 3.2。明年M5 ultra会不会出1t版本？

porsche4me · 发表于 2025-12-2 23:36

自己跑本地LLM能干啥?

所有人都在讨论性能, 几乎看不到人讨论能真正干点啥.. 我在我的RTX4070跑了跑, 做出的东西基本上有太多的错误 = 啥也干不了...买了M4 Mini 丐版, 基本效果一样... 能跑, 全是错的结果...

期望大神打脸! 我可以看到希望和接下来该干点啥!

账号		自动登录	找回密码
密码			加入我们

[显卡] 现在暂时没有完美的LLM小型设备。