ホームページ > バックエンド開発 > Python チュートリアル > マルチエージェント AI オーケストレーションのためのオープンソース プラットフォーム

マルチエージェント AI オーケストレーションのためのオープンソース プラットフォーム

Mary-Kate Olsen
リリース: 2024-11-23 04:07:24
オリジナル
1005 人が閲覧しました

An Open-Source Platform for Multi-Agent AI Orchestration

Bluemarz は、Python で書かれた新しい AI フレームワークです。また、複数の AI エージェントの管理と調整のために特別に設計されたオープンソース プラットフォームでもあります。これは、Ai オープンソース業界に欠けていた拡張性と柔軟性をもたらします。

Bluemarz は、ステートレス アーキテクチャから複数言語モデル (OpenAI、Anthropic Claude、Google Gemini など) のサポートに至るまで、スケーラビリティ、セキュリティ、プライバシーに関する企業のニーズを満たす堅牢なソリューションを提供します。これらはすべてプロジェクト/組織にとって重要です。機密データと複雑なワークフローの処理。 Ai エージェントを大規模に展開しようとしている開発者にとって、Bluemarz がユニークで強力なツールである理由を簡単に説明しましょう。

Bluemarz を始めましょう

インストール: pip:

を使用して GitHub からインストールすると、Bluemarz を実行できます。

pip install git https://github.com/StartADAM/bluemarz.git

基本ワークフロー: Bluemarz では、エージェント、セッション、割り当てという 3 つの主要な概念を導入しています。これらにより、開発者は、複数のエージェントが同じセッション内で対話し、必要に応じて異なる LLM から取得できる柔軟なワークフローをセットアップできます。リポジトリからの簡単なセッションの例を次に示します: https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
ログイン後にコピー
ログイン後にコピー

Bluemarz の主な利点

Bluemarz は、LangChain、LangGraph、Chainlit などの他のプラットフォームが完全には解決できていない、特にマルチエージェント、マルチ LLM サポート、セッションのスケーラビリティに関する重大な制限に対処します。

Bluemarz の特徴

ステートレスでスケーラブル: Kubernetes クラスターまたは任意のクラウド プラットフォームでの Bluemarz の実行は、ステートレスな設計により簡単であり、セッション保持が不要なため、スケーラビリティが向上します。
マルチエージェントの柔軟性: 単一セッションで複数のエージェントを割り当て、エージェントを動的に追加または削除できます。これは、セッション中に翻訳用の AI エージェントが必要な場合、進行中の会話を中断することなく、その場で追加できることを意味します。
エンタープライズ対応セキュリティ: Bluemarz は企業環境に適合するように構築されており、コンプライアンスとプライバシー管理がすでに考慮されています。
動的なエージェントの選択: コードまたは AI を活用したセレクター (近日公開予定) を使用して、開発者はエージェントのワークフローを簡単に管理し、タスクの割り当てとパフォーマンスに対する制御層を追加できます。

コアコンポーネント

プロバイダ: これらは、OpenAI、Anthropic Claude、Google Gemini など、オンプレミス モデルを柔軟に操作できる、Bluemarz がサポートする LLM です。

セッション: セッションは、Bluemarz で完全にステートレスな対話を表し、LLM プロバイダーのインフラストラクチャ内でセッションを実行および保存します。

エージェントと割り当て: エージェントは動的に定義してセッションに割り当てることができます。 Bluemarz は手動とプログラムによるエージェント割り当ての両方をサポートしており、アクティブなセッション中にリアルタイムで変更できます。

ツールを使用して Bluemarz を拡張する

Bluemarz の最も強力な機能の 1 つは、再利用可能なツールを定義できることです。ツールは、LLM を外部システム、データ ソース、またはサービスに接続することにより、LLM の機能を拡張します。以下は摂氏をケルビンに変換するツールの例です:

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
ログイン後にコピー
ログイン後にコピー

このツールを定義すると、さまざまなエージェントやセッション間で使用できるようになり、温度変換が必要なエージェントに単一の設定ポイントが提供されます。

Bluemarz の実世界の使用例

カスタマー サポートの自動化: Bluemarz のマルチエージェント サポートにより、さまざまなドメインに特化したエージェントが単一セッション内でリアルタイムで連携できるようになり、応答時間と関連性が向上します。
研究開発: 開発者は Bluemarz を使用して、エージェントがドキュメントやデータセットに動的にアクセスするリサーチ セッションを構成できます。
コストの制御と最適化: Bluemarz のエージェントの柔軟性により、必要なエージェントのみが展開され、組織のコンピューティング コストが削減されます。

結論

新しい強力かつ柔軟なオープンソース ソリューションに貢献したい場合は、https://github.com/StartADAM/bluemarz をチェックしてください。ステートレスで順応性があり、企業レベルの導入に対応しているため、ポートフォリオの中で優れたプロジェクトとなり、Ai のバンドワゴンに貢献するのは容易いでしょう。複数のエージェントにわたる単一の複雑なタスクを調整する場合でも、スケーラビリティとセキュリティを確保する必要がある場合でも、Bluemarz は AI エージェント エコシステムをサポートし、成長させるためのインフラストラクチャを提供できます。

以上がマルチエージェント AI オーケストレーションのためのオープンソース プラットフォームの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
著者別の最新記事
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート