Chat with RTX 来啦

fut888 · 发表于 2024-2-16 15:31

能不能导入这个模型qwen1_5-14b-chat-q8_0，速度如何，lm studio里用着不错就是慢

装陈醋的酱油瓶 · 发表于 2024-2-17 01:23

只支持bug 11......

我系我 · 发表于 2024-2-20 11:36

我也是失败了

我輩樹である · 发表于 2024-2-20 12:53

fut888 发表于 2024-2-16 15:31
能不能导入这个模型qwen1_5-14b-chat-q8_0，速度如何，lm studio里用着不错就是慢

直接往XXX\ChatWithRTX\RAG\trt-llm-rag-windows-main\config\config.json里面加看看。

黑色会 · 发表于 2024-2-21 09:47

有没有安装失败的解决办法，我是按默认安装在c盘，报错了。

账号		自动登录	找回密码
密码			加入我们

[显卡] Chat with RTX 来啦