411 Nvidia发布了一款名为ChatwithRTX的应用程序的早期版本，这是一种可以在PC上运行的人工智能聊天机器人。您只需提供YouTube视频或您自己的文件的链接，它就会根据您的数据创建摘要并给出相关答案。它完全在PC上运行，您只需要至少8GB的RTX30或40系列GPU。
虽然RTX应用程序的聊天界面仍然有点粗糙，但我发现它在数据研究中具有很大的价值，特别是对于记者或其他需要分析大量文件的人来说。
使用RTX聊天可以处理YouTube视频。您只需输入URL即可搜索特定参考或总结整个视频。我发现这非常适合搜索视频播客，尤其是在过去的一周内，寻找有关微软新Xbox战略转变的具体参考资料。
搜索YouTube视频时，使用RTX聊天并不完美。当尝试搜索某些YouTube视频的脚本时，ChatwithRTX下载了一个完全不同视频的脚本，这显然是早期演示中的一个错误。
当它正常工作时，我可以在几秒钟内找到视频中的引言。我还创建了FTC和Microsoft文件的数据集，用于使用RTX进行聊天分析。当我去年报道这个案例时，快速搜索文件常常让我感到紧张，但与RTX聊天让我几乎可以立即在计算机上找到它们。
《与RTX聊天》还擅长从试用期间透露的内部文件中总结微软整个XboxGamePass策略。
此外，我发现这个工具在扫描PDF和检查数据时非常有用。微软自己的Copilot系统在处理Word中的PDF文件方面并不强大，但Nvidia与RTX的聊天可以轻松提取所有关键信息。响应几乎是即时的，并且不会出现使用基于云的ChatGPT或Copilot聊天机器人时通常会出现的延迟。
ChatWithRTX的主要缺点是它感觉就像是早期的开发人员演示。与RTX聊天将在您的计算机上安装Web服务器和Python实例，然后使用Mistral或Llama2模型查询您提供的数据。然后，它使用NVIDIARTXGPU上的Tensor核心来加速查询。
在我的计算机上安装ChatwithRTX的过程大约需要30分钟，该计算机配备IntelCorei9-K处理器和RTX4090GPU。该应用程序大小接近40GB，Python实例占用了我计算机64GB可用内存中的3GB。运行后，您可以从浏览器访问与RTX的聊天，同时命令提示符在后台运行，显示正在处理的内容和任何错误代码。
Nvidia不建议所有RTX用户立即下载并安装该应用程序。它有一些已知的问题和限制，包括源文件属性并不总是准确的。我最初尝试与RTX聊天来索引25,000个文件，但它似乎使应用程序崩溃，我必须在重新开始之前清除我的首选项。
尽管如此，英伟达还是在这里展示了一个不错的技术演示。它展示了未来在个人计算机上本地运行的人工智能聊天机器人的潜力，特别是如果您不想订阅CopilotPro或ChatGPTPlus等服务来分析您的个人文件。
