다중 에이전트 AI 오케스트레이션을 위한 오픈 소스 플랫폼

Bluemarz는 Python으로 작성된 새로운 AI 프레임워크입니다. 또한 여러 AI 에이전트를 관리하고 조정하기 위해 특별히 설계된 오픈 소스 플랫폼이기도 합니다. Ai 오픈소스 업계에서 부족했던 확장성과 유연성을 제공합니다.

상태 비저장 아키텍처부터 다중 언어 모델(예: OpenAI, Anthropic Claude, Google Gemini) 지원에 이르기까지 Bluemarz는 프로젝트/조직에 중요한 확장성, 보안 및 개인 정보 보호와 관련된 기업 요구 사항을 충족하는 강력한 솔루션을 제공합니다. 민감한 데이터와 복잡한 작업 흐름을 처리합니다. Bluemarz가 Ai 에이전트를 대규모로 배포하려는 개발자를 위한 독특하고 강력한 도구인 이유를 간략하게 살펴보겠습니다.

Bluemarz 시작하기

설치: pip를 사용하여 GitHub에서 Bluemarz를 설치하여 실행할 수 있습니다.

pip 설치 Git https://github.com/StartADAM/bluemarz.git

기본 워크플로우: Bluemarz는 에이전트, 세션, 할당이라는 세 가지 주요 개념을 도입합니다. 이를 통해 개발자는 여러 에이전트가 동일한 세션 내에서 상호 작용하고 필요에 따라 다른 LLM에서 가져올 수 있는 유연한 워크플로를 설정할 수 있습니다. 다음은 저장소의 간단한 세션 예입니다: https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Bluemarz의 주요 장점

Bluemarz는 특히 다중 에이전트, 다중 LLM 지원 및 세션 확장성과 관련하여 LangChain, LangGraph 및 Chainlit과 같은 다른 플랫폼이 완전히 해결하지 못한 중요한 제한 사항을 해결합니다.

Bluemarz의 차별화 요소

상태 비저장 및 확장 가능: 상태 비저장 설계로 인해 Kubernetes 클러스터 또는 모든 클라우드 플랫폼에서 Bluemarz를 실행하는 것이 간단하며 세션 보존이 필요하지 않아 확장성이 향상됩니다.
다중 에이전트 유연성: 단일 세션에서 여러 에이전트를 할당하고 동적으로 에이전트를 추가하거나 제거할 수 있습니다. 즉, 세션 중에 번역용 AI 에이전트가 필요한 경우 진행 중인 대화를 중단하지 않고 즉시 추가할 수 있습니다.
엔터프라이즈급 보안: Bluemarz는 규정 준수 및 개인 정보 보호 제어 기능이 이미 고려되어 기업 환경에 적합하도록 구축되었습니다.
동적 에이전트 선택: 개발자는 코드나 AI 기반 선택기(출시 예정)를 통해 에이전트 워크플로를 쉽게 관리하고 작업 할당 및 성능에 대한 제어 계층을 추가할 수 있습니다.

핵심 구성 요소

공급자: OpenAI, Anthropic Claude 및 Google Gemini를 포함하여 Bluemarz가 지원하는 LLM이며 온프레미스 모델과 작업할 수 있는 유연성을 갖추고 있습니다.

세션: 세션은 LLM 제공업체의 인프라 내에서 세션을 실행하고 저장하는 Bluemarz에서 완전히 상태 비저장인 상호 작용을 나타냅니다.

에이전트 및 할당: 에이전트를 동적으로 정의하고 세션에 할당할 수 있습니다. Bluemarz는 수동 및 프로그래밍 방식 에이전트 할당을 모두 지원하므로 활성 세션 중에 실시간 변경이 가능합니다.

도구로 Bluemarz 확장

Bluemarz의 가장 강력한 기능 중 하나는 재사용 가능한 도구를 정의하는 기능입니다. 도구는 LLM을 외부 시스템, 데이터 소스 또는 서비스에 연결하여 LLM의 기능을 확장합니다. 다음은 섭씨를 켈빈으로 변환하는 도구의 예입니다.

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

이 도구는 일단 정의되면 다양한 에이전트와 세션에서 사용할 수 있으며 온도 변환이 필요한 모든 에이전트에 대한 단일 구성 지점을 제공합니다.

Bluemarz의 실제 사용 사례

고객 지원 자동화: Bluemarz의 다중 에이전트 지원을 통해 다양한 도메인에 전문화된 에이전트가 단일 세션 내에서 실시간으로 협업할 수 있어 응답 시간과 관련성이 향상됩니다.
R&D: 개발자는 Bluemarz를 사용하여 에이전트가 문서 또는 데이터 세트에 동적으로 액세스하는 연구 세션을 구성할 수 있습니다.
비용 관리 및 최적화: Bluemarz의 에이전트 유연성은 필요한 에이전트만 배포하여 조직의 컴퓨팅 비용을 절감한다는 것을 의미합니다.

결론

새롭고 강력하며 유연한 오픈 소스 솔루션에 기여하고 싶다면 https://github.com/StartADAM/bluemarz를 확인하세요. 상태 비저장, 적응 가능 및 기업 수준 배포 준비가 되어 있기 때문에 포트폴리오에 대한 훌륭한 프로젝트가 되어야 하며 Ai 악대차에 기여하는 데 쉽게 승리할 수 있어야 합니다. 여러 에이전트에 걸쳐 단일하고 복잡한 작업을 조율하거나 확장성과 보안을 보장해야 하는 경우 Bluemarz는 AI 에이전트 생태계를 지원하고 성장시키기 위한 인프라를 제공할 수 있습니다.

위 내용은 다중 에이전트 AI 오케스트레이션을 위한 오픈 소스 플랫폼의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!