用于多代理人工智能编排的开源平台

Bluemarz是一个新的Python编写的AI框架；它也是一个专门为管理和编排多个人工智能代理而设计的开源平台。它带来了人工智能开源行业所缺乏的可扩展性和灵活性。

从无状态架构到对多种语言模型（例如 OpenAI、Anthropic Claude 和 Google Gemini）的支持，Bluemarz 提供了强大的解决方案来满足企业在可扩展性、安全性和隐私方面的需求 - 所有这些对于项目/组织都至关重要处理敏感数据和复杂的工作流程。让我们简要探讨一下 Bluemarz 为何成为希望大规模部署 AI 代理的开发人员独特而强大的工具。

Bluemarz 入门

安装：您可以通过使用 pip 从 GitHub 安装 Bluemarz 来运行它：

pip install git https://github.com/StartADAM/bluemarz.git

基本工作流程：Bluemarz 引入了三个主要概念：代理、会话和分配。这些允许开发人员建立灵活的工作流程，多个代理可以在同一会话中进行交互，并根据需要从不同的法学硕士中提取。以下是来自其存储库的简单会话示例：https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Bluemarz 的主要优点

Bluemarz 解决了 LangChain、LangGraph 和 Chainlit 等其他平台尚未完全解决的重大限制，特别是在多代理、多 LLM 支持和会话可扩展性方面。

是什么让 Bluemarz 与众不同

无状态且可扩展：由于其无状态设计，在 Kubernetes 集群或任何云平台上运行 Bluemarz 都很简单，不需要会话保留，从而增强了可扩展性。
多代理灵活性：您可以在单个会话中分配多个代理并动态添加或删除代理。这意味着，如果在会话中需要人工智能翻译代理，则可以即时添加它，而不会中断正在进行的对话。
企业级安全性： Bluemarz 专为适应企业环境而构建，已考虑到合规性和隐私控制。
动态代理选择：无论是通过代码还是使用人工智能驱动的选择器（即将推出），开发人员都可以轻松管理代理工作流程，增加对任务分配和性能的控制。

核心组件

提供商：这些是 Bluemarz 支持的法学硕士，包括 OpenAI、Anthropic Claude 和 Google Gemini，可以灵活地使用本地模型。

会话：会话代表 Bluemarz 中完全无状态的交互，在 LLM 提供商的基础设施中运行和存储会话。

代理和分配：可以动态定义代理并将其分配给会话。 Bluemarz 支持手动和编程代理分配，允许在活动会话期间进行实时更改。

使用工具扩展 Bluemarz

Bluemarz 最强大的功能之一是能够定义可重用工具。工具通过将法学硕士连接到外部系统、数据源或服务来扩展法学硕士的能力。以下是将摄氏度转换为开尔文的工具示例：

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

定义后，该工具可以在不同的代理和会话中使用，为任何需要温度转换的代理提供单点配置。

Bluemarz 的真实用例

客户支持自动化：Bluemarz 的多代理支持允许专门从事不同领域的代理在单个会话中实时协作，从而提高响应时间和相关性。
研发：开发人员可以使用 Bluemarz 来配置研究会话，让代理动态访问文档或数据集。
成本控制和优化：Bluemarz 代理的灵活性意味着仅部署必要的代理，从而降低组织的计算成本。

结论

如果您希望为新的、强大的、灵活的开源解决方案做出贡献，请查看：https://github.com/StartADAM/bluemarz。由于它是无状态的、适应性强并且可以进行企业级部署，因此它应该是一个伟大的项目组合，并且可以轻松为人工智能潮流做出贡献。无论您是跨多个代理协调单个复杂的任务，还是需要确保可扩展性和安全性，Bluemarz 都可以提供基础设施来支持和发展 AI 代理生态系统。

以上是用于多代理人工智能编排的开源平台的详细内容。更多信息请关注PHP中文网其他相关文章！