ModelScope-Agent は、ユーザーが独自のエージェントを簡単に作成できるように、汎用的でカスタマイズ可能なエージェント フレームワークを提供します。このフレームワークは、中核的にオープン ソースの大規模言語モデル (LLM) に基づいており、次の機能を備えた使いやすいシステム ライブラリを提供します。
#書き直す必要がある内容は次のとおりです。 1. シングルステップのツール呼び出しでは、エージェントは適切なツールを選択してリクエストを生成し、結果をユーザーに返す必要があります。実行結果に基づく
2. マルチステップのツール呼び出しでは、エージェントは複数のツールを計画、スケジュール、実行し、応答する必要があります。
3. 複数ラウンドのダイアログでツールが呼び出される場合、エージェントはツールに渡す必要があるパラメータをマイニングする必要があります。歴史対話。
# 検索ツールに基づくコミュニティ ナレッジ Q&A プラットフォーム
## フレームワークはじめに
ModelScope-Agent は、実用的なアプリケーション開発のための汎用のカスタマイズ可能なエージェント フレームワークであり、コアとしてオープン ソースの大規模言語モデル (LLM) に基づいており、次のようなモジュールが含まれています。メモリ制御とツールの使用。オープンソース LLM は主にタスクの計画、スケジューリング、および応答の生成を担当します。メモリ制御モジュールには主にナレッジ検索とプロンプト (プロンプト ワード) 管理が含まれ、ツール使用モジュールにはツール ライブラリ、ツール検索、およびツールのカスタマイズが含まれます。 ModelScope-Agent システム アーキテクチャは次のとおりです。
#ModelScope-Agent フレームワークの実行方法
#ModelScope-Agent は、目標を小さなタスクに分割し、それらを 1 つずつ完了することによって機能します。たとえば、ユーザーが「短編小説を書き、女性の声で読み、同時にビデオを追加する」とリクエストすると、ModelScope-Agent はタスク計画プロセス全体を表示します。まず、関連する音声合成ツールを検索します。ツール検索、その後オープンソース LLM が計画とスケジューリングを実行します。最初にストーリーを生成し、次に対応する音声生成モデルを呼び出し、音声を生成して女性の声で読み上げ、ユーザーに表示し、最後に生成されたストーリー コンテンツに基づいてビデオを生成するビデオ生成モデル。プロセス全体にユーザー構成は必要ありません。現在のリクエストには、呼び出されたツールが大幅に使いやすさを向上させます。
オープンソースの大規模モデル トレーニング フレームワーク: 新しいトレーニング方法、データとモデルのオープンソース
ModelScope-Agent フレームワークに加えて、研究チームは新しいツール命令の微調整トレーニング方法も提案しました。加重 LM は、一部の損失に重みを付けることで、オープンソースの大規模モデル ツール命令を呼び出す機能を向上させます。ツール命令によって呼び出されるトークン。 研究チームは、MSAgent-Bench と呼ばれる高品質の中国語と英語のデータセットもリリースしました。これには、600,000 のマルチラウンドおよびマルチステップ A が含まれていますツールコマンド呼び出し機能のサンプル。このデータセットに基づいて、研究チームは Qwen-7B モデルを最適化する新しいトレーニング方法を採用し、MSAgent-Qwen-7B というモデルを取得しました。関連するデータ セットとモデルはオープン ソース プラットフォームで公開されています 書き直された内容: 統合ツールリスト ##現在, ModelScope-Agent は、自然言語処理、音声、視覚、マルチモダリティなどの多くの AI モデルにデフォルトで接続されており、ナレッジ検索や API 検索などのオープンソース ソリューションもデフォルトで統合されています。 ModelScope-Agent github には、乳母レベルの実践デモ ページも提供されています, 初心者も独自のインテリジェントエージェントを構築してみましょう。 デモ ノートブックをダウンロードしてください: https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb 1. まず ModelScope-Agent コードをプルし、関連する依存関係をインストールします 2. ModelScope を含む構成ファイルを構成する必要がありますトークンとビルド API ツール 検索エンジン 3. 中央の大規模モデルを開始します 4. 以前に構築された大規模なモデル、ツール リスト、ツール検索、およびメモリ モジュールに依存したエージェントの構築と使用 1. ModelScope-Agent コードをプルした後、modelscope_agent/tools ディレクトリに入り、custom_tool.py という名前のファイルをコード レベルで追加します。このファイルで API の必要な説明、名前、パラメーターを構成します。同時に、local_call (ローカル呼び出し) と Remote_call (リモート呼び出し) の 2 つの呼び出しオプションを追加します。 #書き換える必要がある内容は、次のとおりです。 : 2、構成環境と大規模モデルのデプロイメントについては、前章の 2 と 3 を参照してください を正常に呼び出せるかどうかをテストします。 5. エージェントは自動的に対応する API を呼び出し、実行結果をメイン モデルに返し、メイン モデルは応答を返します 開発者は上記のチュートリアルを参照して、独自のエージェントを簡単に構築できます。ModelScope-Agent は Magic コミュニティに依存しており、より新しいオープン ソースに適応する予定です大規模モデルでは、顧客サービス エージェント、パーソナル アシスタント エージェント、ストーリー エージェント、モーション エージェント、マルチ エージェント (マルチモーダル エージェント) など、ModelScope-Agent に基づいて開発されたアプリケーションをさらに起動します。
ModelScope-Agent の実践
登録新しいツールの実践
One More Thing
以上がModelScope-Agent を使用すると、初心者でも専属エージェントを作成でき、乳母レベルのチュートリアルが含まれています。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。