13 milliards de paramètres, 8 formations A100, l'UC Berkeley publie le modèle de dialogue Koala

Depuis que Meta a publié et open source la série de modèles LLaMA, des chercheurs de l'Université de Stanford, de l'UC Berkeley et d'autres institutions ont réalisé une "seconde création" sur la base de LLaMA, et ont lancé successivement plusieurs modèles "alpaga" tels que Alpaca et Vicuna. . Modèle.

Alpaca est devenu le nouvel acteur incontournable de la communauté open source. En raison de l'abondance de « créations secondaires », les mots anglais désignant le genre biologique de l'alpaga sont presque hors d'usage, mais il est également possible de nommer le grand modèle d'après d'autres animaux.

Récemment, le Berkeley Artificial Intelligence Institute (BAIR) de l'UC Berkeley a publié un modèle de conversation Koala (traduit littéralement par Koala) qui peut fonctionner sur des GPU grand public. Koala affine le modèle LLaMA à l'aide des données de conversation collectées sur le Web.

Project Adresse: https: //bair.berkeley.edu/blog/2023/04/03/koala/

koala a lancé une démo de test en ligne:

• Adresse de démonstration : https://chat.lmsys.org/?model=koala-13b
• Adresse open source : https://github.com/young-geng/EasyLM

Présentation de Koala

Semblable à Vicuna, Koala affine également le modèle LLaMA en utilisant les données de conversation collectées sur le Web, en mettant l'accent sur les données publiques sur les conversations avec de grands modèles à source fermée tels que ChatGPT.

L'équipe de recherche a déclaré que le modèle Koala est implémenté dans EasyLM à l'aide de JAX/Flax et que le modèle Koala est formé sur un seul serveur Nvidia DGX équipé de 8 GPU A100. Il faut 6 heures pour compléter 2 époques de formation. Le coût d’une telle formation est généralement inférieur à 100 $ sur les plateformes de cloud computing public.

L'équipe de recherche a comparé expérimentalement Koala avec ChatGPT et Alpaca de l'Université de Stanford. Les résultats ont montré que : Koala-13B avec 13 milliards de paramètres peut répondre efficacement à diverses requêtes des utilisateurs, et les réponses générées sont généralement meilleures que celles d'Alpaca, et en termes de performances. est comparable à ChatGPT dans plus de la moitié des cas.

L'importance la plus importante de Koala est qu'il montre qu'en s'entraînant sur un ensemble de données de meilleure qualité, un modèle suffisamment petit pour être exécuté localement peut également atteindre d'excellentes performances similaires à celles d'un grand modèle. Cela signifie que la communauté open source devrait travailler plus dur pour conserver des ensembles de données de haute qualité, car cela pourrait conduire à des modèles plus sûrs, plus réalistes et plus puissants que la simple augmentation de la taille des systèmes existants. De ce point de vue, Koala est une alternative petite mais raffinée à ChatGPT.

Cependant, Koala n'est encore qu'un prototype de recherche et présente encore des défauts majeurs en termes de contenu, de sécurité et de fiabilité, et ne doit pas être utilisé à d'autres fins que la recherche.

Ensembles de données et formation

Le principal obstacle à la création d'un modèle de conversation est la gestion des données de formation. Les grands modèles de conversation tels que ChatGPT, Bard, Bing Chat et Claude utilisent tous des ensembles de données propriétaires avec de nombreuses annotations humaines. Pour créer l'ensemble de données de formation de Koala, l'équipe de recherche a collecté et organisé des données de conversation à partir du Web et des ensembles de données publics, qui contiennent des données partagées publiquement par les utilisateurs parlant à de grands modèles de langage tels que ChatGPT.

Contrairement à d'autres modèles qui explorent autant de données Web que possible pour maximiser l'ensemble de données, Koala se concentre sur la collecte de petits ensembles de données de haute qualité, y compris des sections de questions et réponses dans des ensembles de données publics, des commentaires humains (positifs et négatifs) et des conversations avec des utilisateurs existants. modèles de langage. Plus précisément, l'ensemble de données de formation de Koala comprend les parties suivantes :

Données distillées ChatGPT :

• Données de conversation accessibles au public avec ChatGPT (ShareGPT)
• Corpus de comparaison Human ChatGPT (HC3), où les deux ; les réponses humaines et ChatGPT de l’ensemble de données HC3 sont utilisées.

Données open source :

• Open Instruction Generalist (OIG) ;
• Ensemble de données utilisé par le modèle Stanford Alpaca ;
• Résumé OpenAI ;
• Expérimentation et évaluation
• Cette étude a mené une évaluation manuelle pour comparer les résultats de génération de Koala-All avec Koala-Distill, Alpaca et ChatGPT. Les résultats sont présentés dans la figure ci-dessous. Parmi eux, deux ensembles de données différents sont utilisés pour les tests, l'un est l'ensemble de tests Alpaca de Stanford, qui comprend 180 requêtes de test (Alpaca Test Set), et l'autre est l'ensemble de tests Koala.

Dans l'ensemble, le modèle Koala est suffisant pour démontrer de nombreuses capacités de LLM, tout en étant suffisamment petit pour faciliter un réglage précis ou une utilisation avec des ressources informatiques limitées. L'équipe de recherche espère que le modèle Koala deviendra une plate-forme utile pour les futures recherches universitaires sur les modèles de langage à grande échelle. Les applications potentielles de la recherche pourraient inclure :

Sécurité et alignement : Koala permet de poursuivre les recherches sur la sécurité des modèles de langage. et s'aligne mieux sur les intentions humaines. Soyez cohérent.

Biais de modèle : Koala nous permet de mieux comprendre les biais dans les grands modèles de langage, d'approfondir les problèmes de qualité dans les ensembles de données de dialogue et, en fin de compte, de contribuer à améliorer les performances des grands modèles de langage.

• Comprendre les grands modèles de langage : étant donné que les modèles Koala peuvent fonctionner sur des GPU grand public relativement bon marché et effectuer une variété de tâches, Koala nous permet de mieux examiner et comprendre la structure interne des modèles de langage conversationnel, rendant les modèles de langage plus explicables.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!