NVIDIA ChatRTX聊天机器人支持Google Gemma模型和语音查询功能

NVIDIA 在今年 2 月首次推出了 ChatRTX，当时名为"Chat with RTX"，它是一款演示应用，需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器，可以通过浏览器访问该服务器。并输入本地文档甚至 YouTube 视频，从而获得一个强大的搜索工具，其中包含对您自己数据的总结和问题解答。

Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计，因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性，由此产生的聊天机器人界面可让您在不同模型之间进行选择，以便找到最适合您想要分析或搜索的数据的模型。

ChatRTX 可从 NVIDIA 网站下载，容量为 36GB，现在还支持基于通用语言模型框架的开放式双语（英语和中文）大型语言模型 ChatGLM3。此外，还添加了 OpenAI 的对比语言-图像预训练（CLIP），可让您搜索本地照片数据并与之交互，从而对模型进行图像识别训练。

最后，NVIDIA 还更新了 ChatRTX，以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper，可让用户使用语音搜索数据。