Avec ModelScope-Agent, les novices peuvent également créer des agents exclusifs, avec des didacticiels de niveau nounou inclus

ModelScope-Agent fournit un cadre d'agent universel et personnalisable pour permettre aux utilisateurs de créer leurs propres agents. Le framework est basé sur des modèles de langage étendus (LLM) open source comme noyau et fournit une bibliothèque système conviviale avec les fonctionnalités suivantes :

• Frame personnalisable et complet : Fournit un moteur personnalisable La conception couvre des fonctions telles que la collecte de données, la récupération d'outils, l'enregistrement d'outils, la gestion du stockage, la formation de modèles personnalisés et les applications pratiques, et peut être utilisé pour mettre en œuvre rapidement des applications dans des scénarios réels.
• LLM open source comme composants de base : prend en charge la formation de modèles sur plusieurs LLM open source dans la communauté ModelScope et a open source l'ensemble de données d'instructions d'outils en chinois et en anglais MSAgent-Bench, qui est utilisé pour améliorer grands modèles open source en tant que capacités de planification et d'ordonnancement du hub Agent.
• API diversifiée et complète, prenant en charge la récupération d'API : Réalisez une intégration transparente avec les API de modèle et les API de fonction communes de manière unifiée, et fournissez des solutions de récupération d'API open source par défaut.

• Lien papier : https://arxiv.org/abs/2309.00986
• Lien code : https://github.com/modelscope/modelscope-agent
• Adresse de l'expérience ModelScope : https://modelscope.cn/studios/damo/ModelScopeGPT/summary

Affichage des capacités

Ce qui suit montrera d'abord quelques capacités de ModelScopeGPT (Magic GPT) implémentées sur la base de ModelScope-Agent :

Le contenu qui doit être réécrit est : 1. Dans un appel d'outil en une seule étape, l'agent doit sélectionner l'outil approprié et générer une requête, puis renvoyer le résultat à l'utilisateur en fonction des résultats de l'exécution

2. Dans un appel d'outil en plusieurs étapes Dans le processus, l'agent doit planifier, programmer, exécuter et répondre à plusieurs outils

3. doit extraire les paramètres qui doivent être transmis à l’outil à partir de conversations historiques.

Une plateforme de questions et réponses de connaissances communautaires basée sur des outils de récupération

Introduction au framework

Quel est le principe de conception du framework ModelScope-Agent ?

ModelScope-Agent est un framework d'agent général et personnalisable pour le développement d'applications pratiques. Il est basé sur des modèles de langage étendus (LLM) open source comme noyau et comprend des modules tels que le contrôle de la mémoire et l'utilisation des outils. Le LLM open source est principalement responsable de la planification des tâches, de la planification et de la génération de réponses ; le module de contrôle de la mémoire comprend principalement la récupération des connaissances et la gestion des invites (mot d'invite) ; le module d'utilisation des outils comprend une bibliothèque d'outils, la récupération des outils et la personnalisation des outils. L'architecture du système ModelScope-Agent est la suivante :

Comment le framework ModelScope-Agent est exécuté

Le principe de fonctionnement de ModelScope-Agent est de diviser les objectifs en tâches plus petites, puis d'effectuer les un par un Élément terminé. Par exemple, lorsqu'un utilisateur demande « Écrivez une nouvelle, lisez-la avec une voix féminine et ajoutez une vidéo en même temps », ModelScope-Agent affichera l'intégralité du processus de planification des tâches. Il récupérera d'abord les outils de synthèse vocale pertinents. recherche d'outils, puis le LLM open source effectuera la planification et l'ordonnancement, générera d'abord une histoire, puis appellera le modèle de génération de parole correspondant, générera le discours et le lira avec une voix féminine, l'affichera à l'utilisateur et enfin appellera le. modèle de génération vidéo pour générer une vidéo basée sur le contenu de l'histoire généré ; l'ensemble du processus ne nécessite pas de configuration de l'utilisateur. La demande actuelle peut nécessiter. Les outils appelés améliorent considérablement la facilité d'utilisation.

Cadre de formation open source pour grands modèles : de toutes nouvelles méthodes de formation, données et modèles open source

En plus du framework ModelScope-Agent, l'équipe de recherche a également proposé une nouvelle méthode de formation pour le réglage fin des instructions d'outils : Weighted LM, qui améliore la capacité d'appeler des instructions d'outils de grands modèles open source en pondérant la perte sur certains jetons appelés par l'outil. instructions.

L'équipe de recherche a également publié un ensemble de données en chinois et en anglais de haute qualité appelé MSAgent-Bench, qui contient 600 000 échantillons avec la possibilité d'appeler plusieurs séries d'instructions d'outils en plusieurs étapes. Sur la base de cet ensemble de données, l'équipe de recherche a adopté une nouvelle méthode de formation pour optimiser le modèle Qwen-7B et a obtenu un modèle nommé MSAgent-Qwen-7B. Les ensembles de données et modèles pertinents ont été rendus publics sur la plateforme open source

• MSAgent-Bench : https://modelscope.cn/datasets/damo/MSAgent-Bench/summary
• MSAgent -Qwen-7B : https://modelscope.cn/models/damo/MSAgent-Qwen-7B/summary

Contenu réécrit : liste d'outils intégrés

Modèle actuel ModelScope-Agent Il a été connecté par défaut à de nombreux modèles d'IA tels que le traitement du langage naturel, la parole, la vision et la multimodalité, et a également intégré par défaut des solutions open source telles que la récupération de connaissances et la récupération d'API.

Pratique ModelScope-Agent

ModelScope-Agent github fournit également une page de démonstration pratique au niveau de la nounou, permettant aux novices de créer leurs propres agents.

Veuillez télécharger le carnet de démonstration : https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb

1. Extrayez d'abord le code ModelScope-Agent et installez les dépendances associées.

2. utilisation, dépendances Grands modèles, listes d'outils, récupération d'outils et modules de mémoire précédemment construits

Enregistrer la nouvelle pratique d'outil

1 Après avoir extrait le code ModelScope-Agent, entrez dans le répertoire modelscope_agent/tools, dans le répertoire modelscope_agent/tools. niveau de code Ajoutez un nouveau fichier nommé custom_tool.py. Configurez la description, le nom et les paramètres requis de l'API dans ce fichier. En même temps, deux options de méthode d'appel sont ajoutées : local_call (appel local) et remote_call (appel à distance)

Le contenu qui doit être réécrit est : 2. L'environnement de configuration et le déploiement de grands modèles se réfèrent à 2. dans le chapitre précédent, 3

3. Construisez les outils nouvellement enregistrés dans une liste et ajoutez-les au processus de construction de l'agent

4. Utilisez la méthode agen.run() et entrez la requête pour. tester l'outil Si l'API correspondante peut être appelée avec succès

5. L'agent appellera automatiquement l'API correspondante et renverra le résultat de l'exécution au modèle principal, et le modèle principal renverra une réponse

One More Thing

Les développeurs peuvent se référer à ce qui précède tutoriel pour créer facilement un Son propre agent, ModelScope-Agent s'appuie sur la communauté Moda. À l'avenir, il s'adaptera également à davantage de nouveaux grands modèles open source et lancera davantage d'applications développées sur la base de ModelScope-Agent, telles que l'agent de service client, agent assistant personnel, agent d'histoire, agent de mouvement, multi-agent (agent multimodal), etc.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!