fut888 发表于 2024-2-16 15:31

能不能导入这个模型qwen1_5-14b-chat-q8_0，速度如何，lm studio里用着不错就是慢

装陈醋的酱油瓶 发表于 2024-2-17 01:23

只支持bug 11......[生病]

我系我 发表于 2024-2-20 11:36



我也是失败了

我輩樹である 发表于 2024-2-20 12:53

fut888 发表于 2024-2-16 15:31
能不能导入这个模型qwen1_5-14b-chat-q8_0，速度如何，lm studio里用着不错就是慢

直接往XXX\ChatWithRTX\RAG\trt-llm-rag-windows-main\config\config.json里面加看看。

黑色会 发表于 2024-2-21 09:47

有没有安装失败的解决办法，我是按默认安装在c盘，报错了。
页: 1 2 [3]
查看完整版本: Chat with RTX 来啦