2 月の初めに、NVIDIA は LLM ベースのチャットボット ChatwithRTX をリリースしました。 5月にチャットボットがアップデートされ、新モデルや新機能が追加され、パッケージパッケージも35Gから11Gに削減され、ソフトウェアの名前が正式にChatRTXに変更されました。
Chatwith RTX に関する前回の記事とビデオで、ChatwithRTX には中国語の返信が組み込まれていないと述べました。中国語の回答を実装したい場合は、独自の環境や大規模な言語モデルなどをインストールする必要があります。しかし、このステップはユーザーにとって敷居が比較的高く、中国語の質問と回答を実現するには多くの複雑なステップを経る必要があります。
紹介する前に、ChatRTX とは何かについて簡単に説明します。ChatRTX は RAG テクノロジーを使用し、NVIDIATensorRT-LLM と NVIDIARTX によって高速化され、RTXWindowsPC とワークステーションにチャットボット機能をもたらします。したがって、ChatRTX を使用するための前提条件は、8 GB 以上のビデオ メモリを搭載した RTX30 または RTX40 シリーズのグラフィック カードを持っている必要があるということです。
ChatRTX の主な特徴は、クラウドにアップロードされたさまざまな AI チャットボットとは異なり、ローカル コンピューティングはデータ ストレージの点でより安全であり、NVIDIATensorRT-LLM のおかげで処理も安全であることです。これにより、質問を入力した結果を長時間読み込んでから答えを見つける必要がなくなり、高速になります。
今回のChatRTXアップデートでは、オリジナルのGemmaモデルに加えて、中国語と英語のバイリンガルをサポートするChatGLM3モデルも拡張されており、以前のバージョンのように環境をインストールする必要がなく、より使いやすくなりました。また、アップデートにより、より多くのユーザーが使いやすくなり、中国語のダイアログも流暢になります。ドキュメントをインポートした後、フォルダー内の必要なコンテンツ情報をすばやく取得してユーザーに表示できます。
今回、ChatRTX は、新しい大型言語モデルに加えて、画像を含むフォルダーをインポートした後、OpenAICLIP を通じて画像のキーワードを抽出できるように、画像プロンプト単語検索機能も追加しました。登山などの写真のキーワードを入力すると、フォルダー内に登山に関する写真が表示されるので、忘れてしまった場合でもキーワードから検索することができるので、とても便利だと言えます。検索。
さらに、ChatRTX には音声認識機能も追加されており、仕事中に手を解放するためでも、中国語や英語の認識でも、30 秒以内に音声を認識してダイアログ ボックスに入力できます。将来の機能拡張、音声認識はユーザーにとって有益ですが、以前のバージョンの問題は依然として存在します。つまり、ChatRTX はコンテキストに接続できず、質問されるたびにメモリがクリアされます。 、すべての質問は「1 回限り」の質問のみにすることができます。
ただし、ChatRTX は今後も更新され、高速なフィードバックを備えたローカライズされたチャットとファイル検索ロボットになると信じています。ただし、これらすべての前提として、NVIDIARTX 30 シリーズのグラフィックス カードが必要です。古いものを購入するのではなく、新しいものを購入してください。この新しくリリースされた RTX40 SUPER シリーズ グラフィックス カード、GALAXY RTX4070 SUPER Metal Master OC が最良の選択です。
GALAXY RTX4070 SUPER Metal Master OC は、NVIDIA Ada Lovelace アーキテクチャを採用しており、強力なパフォーマンスと 12GB のビデオ メモリ容量を備えており、ゲームでも AI でも、LLM のハードウェア ニーズを簡単に満たすことができます。 OCは私が有能なので、それが好きな友達はぜひGALAXY公式ストアに行って選んで購入してください〜
以上が中国語会話にも対応!新しい NVIDIA ChatRTX が更新されましたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。