AWS Multi-Agent Orchestrator : 예제가있는 가이드

AWS 다중 에이전트 코디네이터 : 복잡한 AI 응용 프로그램을위한 유연한 프레임 워크 구축

새로운 생성 AI 기술은 매주 등장하며 AWS 다중 에이전트 코디네이터는 최근 여러 AI 에이전트를 관리하기위한 프레임 워크입니다. 고객 지원 시스템이나 전용 다중 에이전트 애플리케이션을 구축하든이 프레임 워크를 고려할 가치가 있습니다.

이 튜토리얼은 AWS 다중 기관 코디네이터의 독창성을 설명하고, 단계별 지침을 제공하여 환경을 설정하고, 실제로 프레임 워크를 경험하기위한 데모 프로젝트를 개발할 것입니다.

AWS 다중 에이전트 코디네이터 란 무엇입니까?

AWS 다중 기관 코디네이터는 AI 에이전트를 관리하고 복잡한 멀티 라운드 대화를 촉진하도록 설계된 유연하고 강력한 프레임 워크입니다. 사전 제작 된 구성 요소는 빠르게 개발되고 배포되므로 처음부터 재건하지 않고 자체 애플리케이션에 집중할 수 있습니다.

AWS 다중 에이전트 코디네이터는 다음과 같은 기능을 제공합니다

지능형 라우팅 : 각 쿼리에 가장 적합한 에이전트를 동적으로 식별하십시오.

스트리밍 및 비 스트리밍 응답 : 두 가지 에이전트 응답 형식을 지원합니다.

<:> 상황 관리 : 여러 라운드의 대화에서 일관성과 역사를 관리합니다.

확장 성 : 새 에이전트를 만들거나 기존 에이전트를 수정하십시오.

일반 배포 : AWS Lambda, 온-프레미스 환경 및 클라우드 플랫폼에서 실행할 수 있습니다.

이 프레임 워크는 Python 및 TypeScript를 지원합니다.

다중 에이전트 코디네이터의 작동 원리 개요. (출처) 위의 이미지는 분류기가 사용 가능한 에이전트, 사용자 프롬프트 및 이전 대화 기록을 고려하여 사용자 입력에 가장 적합한 에이전트를 선택한다는 것을 보여줍니다. 그런 다음 에이전트가 요청을 처리합니다. 워크 플로는 간단하고 효과적입니다.
• AWS 다중 에이전트 코디네이터 를 설정하십시오 환경을 신속하게 설정하려면 문서의 지침을 따라갈 수 있습니다.
• 먼저, 필요한 라이브러리를 설치하기 위해 새 폴더와 새 Python 환경을 만듭니다.
• 새로운 가상 환경을 활성화 한 후 라이브러리를 설치하십시오.
다음은 AWS 계정을 구성해야합니다. AWS 계정이없는 경우 무료 계정을 사용하여 무료 계정을 사용하려면 가입하십시오. 등록 후 AWS CLI를 다운로드하십시오.
• AWS CLI도 구성이 필요합니다. 자세한 지침은 AWS CLI를 설정하는 단계를 따르십시오. 그러나 AWS 구성 명령을 사용하여 더 쉬운 접근 방식을 사용하고 AWS 액세스 키 ID 및 비밀 액세스 키를 제공 할 수 있습니다. 대시 보드에서 새 사용자를 만든 후 이러한 키를 얻을 수 있습니다.

새 사용자를 생성 할 때 제공되는 액세스 키.

키에 액세스 할 준비가되면 AWS 구성을 실행하고 키를 제공하고 가장 가까운 지역 이름을 선택하고 (전체 목록이 제공됩니다) 기본 출력 형식을 JSON으로 설정하십시오.

CLI가 올바르게 구성된 경우 AWS STS Get-Caller-Identity 명령을 실행하면 AWS 계정 ID, 사용자 ID 및 ARN이 표시되어야합니다.

이제 AWS CLI를 준비 했으므로 필요한 LLM에 액세스하려면 AWS 기반암을 구성해야합니다. Amazon Bedrock은 API를 통해 기본 모델 (예 : LLAMA 3.2 또는 Claude 3.5 Sonnet)을 테스트하고 호출 할 수있는 서비스입니다. 다중 에이전트 코디네이터는이 서비스를 사용하여 기본적으로 두 모델을 호출합니다.

Claude 3.5 Sonnet은 분류기 입니다 Claude 3 Haiku 에이전트

물론 이 모델은 변경 될 수 있지만 기본 선택을 계속하겠습니다.
1. 두 모델에 액세스하려면 Amazon Bedrock & GT로 이동하여 모델 액세스를 선택하십시오. 두 모델 (및 원하는 다른 모델)을 선택하고 필요한 정보를 작성하십시오. 이 부분은 다음과 같습니다.
요청을 완료 한 후 모델은 1-2 분 이내에 사용할 수 있습니다. 요청 된 모델에 대한 액세스 권한을 부여한 후에는 "Access가 부여 된"이라는 것을 볼 수 있습니다.

참고 : 생성 된 사용자에게 정책을 할당해야 할 수도 있습니다. 기사의 다음 섹션 (설정 테스트)에 문제가있는 경우 테스트 할 수 있습니다. 그렇다면이 페이지를 확인하십시오. 대체로, 정의 된 사용자에게 Amazon Bedrockfullaccess에 대한 액세스 권한을 부여해야합니다.

설정을 테스트하십시오 모든 이전 단계가 올바르게 설정되었는지 확인하려면 다음 코드를 사용하십시오. 신속하고 답을받을 수 있다면 모든 것이 잘 작동합니다.

AWS 다중 에이전트 코디네이터를 사용한 데모 프로젝트 AWS 다중 기관 코디네이터 저장소는 여러 타입 및 파이썬 샘플 프로젝트를 제공합니다. 이제 Python Developer Agent와 ML Expert Agent의 두 에이전트가 포함 된 단순화 된 Python 응용 프로그램을 작성합니다.

우리는 또한 Application에 대한 간단한 UI를 구현하기 위해 Chainlit (오픈 소스 파이썬 패키지)을 사용합니다. 먼저 필요한 라이브러리를 설치하십시오

우리는 다음 코드를 데모 애플리케이션으로 사용하지만 먼저 설명해 봅시다 : .

우리는 먼저 필요한 라이브러리를 가져옵니다.
1. 우리는 분류기의 모델로 "anthropic.claude-3-haiku-20240307-v1 : 0"을 사용합니다. 새 사용자 입력이 도착하면이 분류기는 사용할 에이전트를 선택합니다.
우리는 생성 된 분류기를 MultiagentorChestrator로 전달하고 일부 구성을 정의합니다.
2. bedrockllmagent 클래스는 에이전트를 만드는 데 사용됩니다. 각 에이전트에 대한 이름과 설명을 제공하십시오. 에이전트의 경우 접근 가능한 모델을 선택할 수 있으며 Ollama를 사용하여 로컬로 실행할 수도 있습니다. 스트리밍 설정 = true 및 chainlitagentCallbacks ()를 콜백으로 사용하면 에이전트가 전체 응답 대신 스트리밍 응답을 반환합니다. 마지막으로, 우리는 각 에이전트를 코디네이터에 추가합니다.
user_session을 설정하고 사용자 및 에이전트 메시지를 처리하는 기본 부품을 정의하십시오.
4. 응용 프로그램을 실행할 시간입니다. 이렇게하려면 먼저
를 실행하십시오. 이제 브라우저에서 열리는 새 탭에서 응용 프로그램을 테스트 할 수 있습니다.

스크린 샷에 표시된대로, 이제 응용 프로그램을 테스트하고 에이전트와 채팅하기위한 UI를 제공합니다.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

첫 번째 프롬프트는 "프랑스의 수도는 무엇입니까?" 이 모델을 사용할 때 계속 채팅을하고 불필요한 포인트를 지출하지 않도록하는 것이 중요합니다. 그러나 우리의 기계 학습 전문가 에이전트는 다중 기관 코디네이터의 지능형 라우팅 덕분에 관련 질문이 제기 될 때 답변을하는 역할을합니다.

chainlit run app.py -w . 결론 이 블로그 게시물에서 우리는 최신 AWS Multiagent Coordinator 프레임 워크를 소개하고, 고유 한 기능을 강조하고, 환경을 설정하는 단계를 개괄하고, Amazon Bedrock에서 제공하는 기본 모델을 탐색하고 시연 프로젝트를 구현합니다.

글을 쓰는 시점 에서이 프레임 워크에는 포괄적이고 자세한 문서가 부족합니다. 메모리 및 도구 사용과 같은 다른 기능을 활용하려면 코드 기반을 읽고 제공된 샘플 프로젝트를 봐야합니다.

이 빠르게 진행되는 필드를 따라 잡기 위해 생성 AI 프레임 워크를 주시하는 것이 현명합니다. AWS Multiagent Coordinator는 AWS 서비스의 인프라를 기반으로 한 유망한 선택이며 개발은 주목할 가치가 있습니다.

위 내용은 AWS Multi-Agent Orchestrator : 예제가있는 가이드의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!