首页 > 后端开发 > Python教程 > 用于多代理人工智能编排的开源平台

用于多代理人工智能编排的开源平台

Mary-Kate Olsen
发布: 2024-11-23 04:07:24
原创
991 人浏览过

An Open-Source Platform for Multi-Agent AI Orchestration

Bluemarz是一个新的Python编写的AI框架;它也是一个专门为管理和编排多个人工智能代理而设计的开源平台。它带来了人工智能开源行业所缺乏的可扩展性和灵活性。

从无状态架构到对多种语言模型(例如 OpenAI、Anthropic Claude 和 Google Gemini)的支持,Bluemarz 提供了强大的解决方案来满足企业在可扩展性、安全性和隐私方面的需求 - 所有这些对于项目/组织都至关重要处理敏感数据和复杂的工作流程。让我们简要探讨一下 Bluemarz 为何成为希望大规模部署 AI 代理的开发人员独特而强大的工具。

Bluemarz 入门

安装:您可以通过使用 pip 从 GitHub 安装 Bluemarz 来运行它:

pip install git https://github.com/StartADAM/bluemarz.git

基本工作流程:Bluemarz 引入了三个主要概念:代理、会话和分配。这些允许开发人员建立灵活的工作流程,多个代理可以在同一会话中进行交互,并根据需要从不同的法学硕士中提取。以下是来自其存储库的简单会话示例:https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
登录后复制
登录后复制

Bluemarz 的主要优点

Bluemarz 解决了 LangChain、LangGraph 和 Chainlit 等其他平台尚未完全解决的重大限制,特别是在多代理、多 LLM 支持和会话可扩展性方面。

是什么让 Bluemarz 与众不同

无状态且可扩展:由于其无状态设计,在 Kubernetes 集群或任何云平台上运行 Bluemarz 都很简单,不需要会话保留,从而增强了可扩展性。
多代理灵活性:您可以在单个会话中分配多个代理并动态添加或删除代理。这意味着,如果在会话中需要人工智能翻译代理,则可以即时添加它,而不会中断正在进行的对话。
企业级安全性: Bluemarz 专为适应企业环境而构建,已考虑到合规性和隐私控制。
动态代理选择:无论是通过代码还是使用人工智能驱动的选择器(即将推出),开发人员都可以轻松管理代理工作流程,增加对任务分配和性能的控制。

核心组件

提供商:这些是 Bluemarz 支持的法学硕士,包括 OpenAI、Anthropic Claude 和 Google Gemini,可以灵活地使用本地模型。

会话:会话代表 Bluemarz 中完全无状态的交互,在 LLM 提供商的基础设施中运行和存储会话。

代理和分配:可以动态定义代理并将其分配给会话。 Bluemarz 支持手动和编程代理分配,允许在活动会话期间进行实时更改。

使用工具扩展 Bluemarz

Bluemarz 最强大的功能之一是能够定义可重用工具。工具通过将法学硕士连接到外部系统、数据源或服务来扩展法学硕士的能力。以下是将摄氏度转换为开尔文的工具示例:

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())
登录后复制
登录后复制

定义后,该工具可以在不同的代理和会话中使用,为任何需要温度转换的代理提供单点配置。

Bluemarz 的真实用例

客户支持自动化:Bluemarz 的多代理支持允许专门从事不同领域的代理在单个会话中实时协作,从而提高响应时间和相关性。
研发:开发人员可以使用 Bluemarz 来配置研究会话,让代理动态访问文档或数据集。
成本控制和优化:Bluemarz 代理的灵活性意味着仅部署必要的代理,从而降低组织的计算成本。

结论

如果您希望为新的、强大的、灵活的开源解决方案做出贡献,请查看:https://github.com/StartADAM/bluemarz。由于它是无状态的、适应性强并且可以进行企业级部署,因此它应该是一个伟大的项目组合,并且可以轻松为人工智能潮流做出贡献。无论您是跨多个代理协调单个复杂的任务,还是需要确保可扩展性和安全性,Bluemarz 都可以提供基础设施来支持和发展 AI 代理生态系统。

以上是用于多代理人工智能编排的开源平台的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:dev.to
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板