Chiphell - 分享与交流用户体验

标题: NVIDIA发布新版本ChatRTX，添加中文LLM模型的支持 [打印本页]

作者: ym168 时间: 2024-5-6 21:17
标题: NVIDIA发布新版本ChatRTX，添加中文LLM模型的支持
NVIDIA在2月推出了Chat with RTX的技术演示应用，可给用户体验一下本地的聊天机器人，当然了它用到了TensorRT-LLM和NVIDIA RTX加速技术，也是NVIDIA展示技术的一个方式，现在该应用正式改名为ChatRTX，增加了更多的功能，在新版本中它加入了对智谱AI的ChatGLM3-6B这个中文LLM的支持，同时还支持语音输入和图像搜索功能。

(, 下载次数: 59)

与Chat**、Google Bard和微软Copilot等在线工具不同，NVIDIA ChatRTX不需要云端计算，这对用户的隐私和数据保密性更好，ChatRTX还支持扫描和分析本地文件目录的能力，支持指定格式的文件，用户可使用该功能搭建本地的数据资料库，只需要给出文件夹路径，AI就会在数秒内把它们加载到库中。

(, 下载次数: 61)

除了加入中文LLM的支持外，ChatRTX还增添了语言识别功能，还支持OpenAI的CLIP模型，它可根据你给出的信息搜索本地指定目录里面的图片，在大量图片中找指定的复合要求图片时还是蛮有用的。

(, 下载次数: 63)

但目前该软件还是缺乏联系上下文的能力，这点体验就不太好了，此外它在Firefox浏览器上还是无法运行，此外安装包的体积大幅缩减，从此前的35GB减少到11GB，但安装完后程序依然需要35GB的空间，因此在下载之前要留够足够的空间，至于硬件需求，它只支持RTX 30和40系GPU，并且至少得需要8GB显存。

https://www.expreview.com/93610.html

作者: ioril 时间: 2024-5-6 22:26
用着7900XT和firefox浏览器的感觉受到了冒犯

作者: KingDon 时间: 2024-5-7 07:56

ioril 发表于 2024-5-6 22:26
用着7900XT和firefox浏览器的感觉受到了冒犯

new一个

作者: 暗黑MAX 时间: 2024-5-7 08:43
最开始出来时，下载后没安装成功，就没尝试了，不知道什么原因。5700x+32g+4070

作者: starlight 时间: 2024-5-7 21:42

暗黑MAX 发表于 2024-5-7 08:43
最开始出来时，下载后没安装成功，就没尝试了，不知道什么原因。5700x+32g+4070 ...

没有GFW有几个组件下载不了而且安装时间因为这几个资源下载慢给人错觉假死很多人主动放弃正确的做法有GFW 然后打开之后就让他跑睡一觉成功

作者: 暗黑MAX 时间: 2024-5-8 08:57

starlight 发表于 2024-5-7 21:42
没有GFW有几个组件下载不了而且安装时间因为这几个资源下载慢给人错觉假死很多人主动放弃正 ...

啊，这样吗，但我下载下来就有30+g，安装时还要下载吗

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)