Orchestrateur AWS Multi-Agent: un guide avec des exemples

COORDINATEUR Multi-agent AWS: Construire un cadre flexible pour les applications d'IA complexes

Les nouvelles technologies génératrices d'IA émergent chaque semaine, et le coordinateur multi-agents AWS est un cadre récent pour gérer plusieurs agents d'IA. Que vous créiez un système de support client ou une application multi-agents dédiée, il convient de considérer ce cadre.

Ce tutoriel expliquera le caractère unique du coordinateur multi-agent AWS, fournira des conseils étape par étape pour configurer l'environnement et développer un projet de démonstration pour découvrir le cadre.

Qu'est-ce que le coordinateur multi-agent AWS?

Le coordinateur multi-agents AWS est un cadre flexible et puissant conçu pour gérer les agents d'IA et faciliter les conversations complexes multi-rondes. Ses composants prédéfinis sont rapidement développés et déployés afin que vous puissiez vous concentrer sur vos propres applications sans les reconstruire à partir de zéro.

Le coordinateur multi-agent AWS fournit les fonctionnalités suivantes:

• Routage intelligent: identifiez dynamiquement le meilleur agent pour chaque requête.
• Réponse en streaming et sans streaming: prend en charge deux formats de réponse d'agent.
• Gestion du contexte: gérer la cohérence et l'histoire dans plusieurs cycles de conversations.
• Évolutivité: créez un nouvel agent ou modifiez un agent existant.
• Déploiement général: peut fonctionner sur AWS Lambda, les environnements sur site et les plates-formes cloud.

Ce cadre prend en charge Python et TypeScript.

Aperçu du principe de travail du coordinateur multi-agents. (Source)

L'image ci-dessus montre que le classificateur considère les agents disponibles, les invites utilisateur et l'historique de conversation précédent pour sélectionner l'agent qui convient le mieux à la saisie de l'utilisateur. L'agent traite ensuite la demande. Le flux de travail est simple et efficace.

Configurer le coordinateur multi-agent AWS

Pour configurer rapidement l'environnement, vous pouvez suivre les instructions de la documentation.

Tout d'abord, créez un nouveau dossier et un nouvel environnement Python pour installer les bibliothèques requises.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Après avoir activé le nouvel environnement virtuel, installez la bibliothèque

<code>pip install multi-agent-orchestrator</code>

Ensuite, vous devez configurer votre compte AWS. Si vous n'avez pas de compte AWS, inscrivez-vous à un compte gratuit pour utiliser le niveau gratuit. Après votre inscription, téléchargez le CLI AWS.

AWS CLI nécessite également une configuration. Pour des instructions détaillées, suivez les étapes de la configuration de la CLI AWS, mais vous pouvez adopter une approche plus facile en utilisant la commande AWS Configurez et fournissez l'ID de clé d'accès AWS et la clé d'accès secret. Vous pouvez obtenir ces touches après avoir créé un nouvel utilisateur dans le tableau de bord.

Clé d'accès fourni lors de la création d'un nouvel utilisateur.

Lorsque vous êtes prêt à accéder à la clé, exécutez AWS Configurer et fournissez la clé, sélectionnez le nom de la région qui est le plus proche de vous (la liste complète est fournie ici) et définissez le format de sortie par défaut sur JSON.

Si votre CLI est configurée correctement, exécuter la commande AWS STS Get-Calller-Identity doit afficher votre ID de compte AWS, votre ID utilisateur et votre ARN.

Maintenant que nous avons le CLI AWS prêt, nous devons configurer le substratum rocheux AWS pour accéder au LLM requis. Le substratum rocheux d'Amazon est un service qui vous permet de tester et d'invoquer des modèles sous-jacents (tels que Llama 3.2 ou Claude 3.5 Sonnet) via l'API. Le coordinateur multi-agents utilise ce service pour appeler deux modèles par défaut:

1. Claude 3.5 Sonnet comme classificateur
2. Claude 3 Haiku en tant qu'agent

Bien sûr, ces modèles peuvent être modifiés, mais continuons avec la sélection par défaut.

Pour accéder aux deux modèles, accédez à Amazon Bedrock & GT; Sélectionnez les deux modèles (et autres que vous aimez) et remplissez toutes les informations requises. Cette partie est la suivante:

Après avoir terminé la demande, le modèle sera disponible dans les 1 à 2 minutes. Après avoir accordé l'accès au modèle demandé, vous devriez voir "Accès accordé" avant lui.

Remarque: vous devrez peut-être attribuer des politiques aux utilisateurs créés. Si vous avez des problèmes dans la section suivante de l'article (testez vos paramètres), vous pouvez le tester. Si c'est le cas, vérifiez cette page. Dans l'ensemble, vous devez accorder aux utilisateurs définis l'accès à Amazon Boutrockfullaccess.

Testez vos paramètres

Pour vérifier que toutes les étapes précédentes ont été définies correctement, utilisez le code suivant:

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Si vous pouvez inviter et recevoir une réponse, tout fonctionne bien.

Projet de démonstration utilisant le coordinateur multi-agent AWS

Le référentiel de coordinateur AWS Multiagent fournit plusieurs projets d'échantillons de typeScript et Python. Nous allons maintenant écrire une application Python simplifiée qui contient deux agents: les agents de développeur Python et les agents experts ML.

Nous utiliserons également Chainlit (un package Python open source) pour implémenter une interface utilisateur simple pour l'application. Tout d'abord, installez les bibliothèques nécessaires:

<code>pip install multi-agent-orchestrator</code>

Nous utilisons le code suivant comme application de démonstration, mais expliquons-le d'abord:

1. Nous importons d'abord les bibliothèques nécessaires.
2. Nous utilisons "anthropic.claude-3-haiku-20240307-v1: 0" comme modèle de notre classificateur. Lorsqu'une nouvelle entrée utilisateur arrive, ce classificateur sélectionnera l'agent à utiliser.
3. Nous transmettons le classificateur créé au multi-agentorchestrator et définissons une certaine configuration.
4. La classe BedrockllMagent est utilisée pour créer notre agent. Fournir un nom et une description pour chaque agent. Pour les agents, vous pouvez choisir n'importe quel modèle accessible et vous pouvez même les exécuter localement à l'aide d'Olllama. Définition de streaming = true et de prise chainlitagentCallbacks () car le rappel amènera l'agent à renvoyer une réponse de streaming au lieu d'une réponse complète. Enfin, nous ajoutons chaque agent au coordinateur.
5. Définissez User_Session et définissez les pièces principales qui gèrent les messages de l'utilisateur et de l'agent.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Il est temps d'exécuter l'application. Pour ce faire, exécutez d'abord chainlit run app.py -w .. Vous pouvez désormais tester votre application dans un nouvel onglet qui s'ouvre dans votre navigateur.

Comme indiqué dans la capture d'écran, nous fournissons maintenant une interface utilisateur pour tester notre application et discuter avec l'agent.

Veuillez noter que depuis la première invite "Quelle est la capitale de la France?" Ceci est crucial pour continuer à discuter pertinent et éviter de dépenser des points inutiles lors de l'utilisation de ces modèles. Cependant, nos agents experts en apprentissage automatique jouent un rôle pour donner des réponses lorsqu'ils sont invités par des questions connexes, grâce au routage intelligent du coordinateur multi-agents.

Conclusion

Dans ce billet de blog, nous présentons le dernier cadre de coordinateur multi-agent AWS, mettons en évidence certaines de ses fonctionnalités uniques, décrivez les étapes pour configurer un environnement, explorez les modèles de base fournis par Amazon Bedrock et mettant en œuvre un projet de démonstration.

Au moment de la rédaction du moment de la rédaction, ce cadre manque de documentation complète et détaillée. Pour profiter d'autres fonctionnalités, telles que l'utilisation de la mémoire et de l'outil, vous devez lire la base de code et afficher les exemples de projets fournis.

Il est sage de garder un œil sur le cadre générateur de l'IA pour suivre ce champ rapide. Le coordinateur Multiagent AWS est un choix prometteur construit sur l'infrastructure des services AWS, et son développement est digne d'attention.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!