用於多代理人工智慧編排的開源平台

Mary-Kate Olsen
發布: 2024-11-23 04:07:24
原創
924 人瀏覽過

An Open-Source Platform for Multi-Agent AI Orchestration

Bluemarz是一個新的Python編寫的AI框架;它也是一個專門為管理和編排多個人工智慧代理而設計的開源平台。它帶來了人工智慧開源產業所缺乏的可擴展性和靈活性。

從無狀態架構到對多種語言模型(例如OpenAI、Anthropic Claude 和Google Gemini)的支持,Bluemarz 提供了強大的解決方案來滿足企業在可擴展性、安全性和隱私方面的需求- 所有這些對於專案/組織都至關重要處理敏感資料和複雜的工作流程。讓我們簡要探討 Bluemarz 為何成為希望大規模部署 AI 代理程式的開發人員獨特且強大的工具。

Bluemarz 入門

安裝:您可以透過使用 pip 從 GitHub 安裝 Bluemarz 來運行它:

pip install git https://github.com/StartADAM/bluemarz.git

基本工作流程:Bluemarz 引入了三個主要概念:代理、會話和分配。這些允許開發人員建立靈活的工作流程,多個代理可以在同一會話中進行交互,並根據需要從不同的法學碩士中提取。以下是來自其儲存庫的簡單會話範例:https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
登入後複製
登入後複製

Bluemarz 的主要優點

Bluemarz 解決了 LangChain、LangGraph 和 Chainlit 等其他平台尚未完全解決的重大限制,特別是在多代理、多 LLM 支援和會話可擴展性方面。

是什麼讓 Bluemarz 與眾不同

無狀態且可擴展:由於其無狀態設計,在 Kubernetes 叢集或任何雲端平台上運行 Bluemarz 都很簡單,不需要會話保留,從而增強了可擴展性。
多代理彈性:您可以在單一會話中指派多個代理程式並動態新增或刪除代理程式。這意味著,如果在會話中需要人工智慧翻譯代理,則可以即時添加它,而不會中斷正在進行的對話。
企業級安全性: Bluemarz 專為適應企業環境而構建,已考慮到合規性和隱私控制。
動態代理選擇:無論是透過程式碼還是使用人工智慧驅動的選擇器(即將推出),開發人員都可以輕鬆管理代理工作流程,增加對任務分配和效能的控制。

核心組件

供應商:這些是 Bluemarz 支援的法學碩士,包括 OpenAI、Anthropic Claude 和 Google Gemini,可以靈活地使用本地模型。

會話:會話代表 Bluemarz 中完全無狀態的交互,在 LLM 提供者的基礎設施中運行和儲存會話。

代理與分配:可以動態定義代理並將其指派給會話。 Bluemarz 支援手動和編程代理分配,允許在活動會話期間進行即時更改。

使用工具擴充 Bluemarz

Bluemarz 最強大的功能之一是能夠定義可重複使用工具。工具透過將法學碩士連接到外部系統、資料來源或服務來擴展法學碩士的能力。以下是將攝氏度轉換為開爾文的工具範例:

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
登入後複製
登入後複製

定義後,該工具可以在不同的代理和會話中使用,為任何需要溫度轉換的代理提供單點配置。

Bluemarz 的真實用例

客戶支援自動化:Bluemarz 的多代理支援允許專門從事不同領域的代理在單一會話中即時協作,從而提高回應時間和相關性。
研發:開發人員可以使用 Bluemarz 來設定研究會話,讓代理程式動態存取文件或資料集。
成本控制和最佳化:Bluemarz 代理的靈活性意味著僅部署必要的代理,從而降低組織的計算成本。

結論

如果您希望為新的、強大的、靈活的開源解決方案做出貢獻,請查看:https://github.com/StartADAM/bluemarz。由於它是無狀態的、適應性強並且可以進行企業級部署,因此它應該是一個偉大的專案組合,並且可以輕鬆為人工智慧潮流做出貢獻。無論您是跨多個代理程式協調單一複雜的任務,還是需要確保可擴展性和安全性,Bluemarz 都可以提供基礎設施來支援和發展 AI 代理生態系統。

以上是用於多代理人工智慧編排的開源平台的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:dev.to
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
作者最新文章
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板