Bluemarz是一个新的Python编写的AI框架;它也是一个专门为管理和编排多个人工智能代理而设计的开源平台。它带来了人工智能开源行业所缺乏的可扩展性和灵活性。
从无状态架构到对多种语言模型(例如 OpenAI、Anthropic Claude 和 Google Gemini)的支持,Bluemarz 提供了强大的解决方案来满足企业在可扩展性、安全性和隐私方面的需求 - 所有这些对于项目/组织都至关重要处理敏感数据和复杂的工作流程。让我们简要探讨一下 Bluemarz 为何成为希望大规模部署 AI 代理的开发人员独特而强大的工具。
安装:您可以通过使用 pip 从 GitHub 安装 Bluemarz 来运行它:
pip install git https://github.com/StartADAM/bluemarz.git
基本工作流程:Bluemarz 引入了三个主要概念:代理、会话和分配。这些允许开发人员建立灵活的工作流程,多个代理可以在同一会话中进行交互,并根据需要从不同的法学硕士中提取。以下是来自其存储库的简单会话示例:https://github.com/StartADAM/bluemarz):
import bluemarz as bm import asyncio async def procedural_example(): # Initialize an agent using OpenAI agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id) # Start a session session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key) # Assign the agent to the session task = bm.Assignment(agent, session) task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?")) # Run the task and display the result res = await task.run_until_breakpoint() print(res) asyncio.run(procedural_example())
Bluemarz 解决了 LangChain、LangGraph 和 Chainlit 等其他平台尚未完全解决的重大限制,特别是在多代理、多 LLM 支持和会话可扩展性方面。
无状态且可扩展:由于其无状态设计,在 Kubernetes 集群或任何云平台上运行 Bluemarz 都很简单,不需要会话保留,从而增强了可扩展性。
多代理灵活性:您可以在单个会话中分配多个代理并动态添加或删除代理。这意味着,如果在会话中需要人工智能翻译代理,则可以即时添加它,而不会中断正在进行的对话。
企业级安全性: Bluemarz 专为适应企业环境而构建,已考虑到合规性和隐私控制。
动态代理选择:无论是通过代码还是使用人工智能驱动的选择器(即将推出),开发人员都可以轻松管理代理工作流程,增加对任务分配和性能的控制。
提供商:这些是 Bluemarz 支持的法学硕士,包括 OpenAI、Anthropic Claude 和 Google Gemini,可以灵活地使用本地模型。
会话:会话代表 Bluemarz 中完全无状态的交互,在 LLM 提供商的基础设施中运行和存储会话。
代理和分配:可以动态定义代理并将其分配给会话。 Bluemarz 支持手动和编程代理分配,允许在活动会话期间进行实时更改。
Bluemarz 最强大的功能之一是能够定义可重用工具。工具通过将法学硕士连接到外部系统、数据源或服务来扩展法学硕士的能力。以下是将摄氏度转换为开尔文的工具示例:
import bluemarz as bm import asyncio async def procedural_example(): # Initialize an agent using OpenAI agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id) # Start a session session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key) # Assign the agent to the session task = bm.Assignment(agent, session) task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?")) # Run the task and display the result res = await task.run_until_breakpoint() print(res) asyncio.run(procedural_example())
定义后,该工具可以在不同的代理和会话中使用,为任何需要温度转换的代理提供单点配置。
客户支持自动化:Bluemarz 的多代理支持允许专门从事不同领域的代理在单个会话中实时协作,从而提高响应时间和相关性。
研发:开发人员可以使用 Bluemarz 来配置研究会话,让代理动态访问文档或数据集。
成本控制和优化:Bluemarz 代理的灵活性意味着仅部署必要的代理,从而降低组织的计算成本。
如果您希望为新的、强大的、灵活的开源解决方案做出贡献,请查看:https://github.com/StartADAM/bluemarz。由于它是无状态的、适应性强并且可以进行企业级部署,因此它应该是一个伟大的项目组合,并且可以轻松为人工智能潮流做出贡献。无论您是跨多个代理协调单个复杂的任务,还是需要确保可扩展性和安全性,Bluemarz 都可以提供基础设施来支持和发展 AI 代理生态系统。
以上是用于多代理人工智能编排的开源平台的详细内容。更多信息请关注PHP中文网其他相关文章!