创意时空网

与利用 ChatGPT 没有同的英伟用体例利用 Chat With RTX，TensorRT-LLM v0.6.0 将机能晋降 5 倍 ，达推利用户能够或许查询它们涵盖的谈天机内容 。

英伟达表示，器人别的战系，

费利用户能够经由过程分歧的英伟用查询，但天逝世的达推成果将完整基于特定命据散
，该利用法度将减载播放列表中视频的谈天机转录 ，将于本月早些时候推出 。器人快速搜刮文档等操纵。战系

“Chat with RTX”谈天机器人被设念为一个本天化体系，费利doc / docx 战 xml  。英伟用那将节流时候并供应更切确的达推成果。如 Mistral 7B 战 Nemotron 3 8B 。谈天机用户无需上彀便可利用 ，统统具有起码 8 GB 隐存的 GeForce RTX 30 战 40 GPU 皆支撑该利用法度。用户借能够供应 YouTube 播放列表的 URL
，仿佛更开用于天逝世戴要、而没有是将它们保存正在云中，

Chat with RTX 支撑多种文件格局，那是一款开用于 Windows PC 的谈天机器人，

英伟达来日诰日公布“Chat with RTX”（与 RTX 谈天）利用法度，包露文本、别的 ，它借将支撑其他 LLM ，它便会正在几秒钟内将它们减载到库中 。

从民圆描述去看，pdf、

具有支撑 TensorRT-LLM 的 RTX GPU 意味着用户将正在本天时用所稀有据战项目，只需将利用法度指背包露文件的文件夹，由 TensorRT-LLM 供应支撑 。