Il existe trois principes pour les robots dans la science-fiction, mais IBM a déclaré que ce n'était pas suffisant et a exigé seize principes.
Dans les derniers travaux de recherche sur de grands modèles, basés sur les seize principes, IBM a laissé l'IA terminer le processus d'alignement par elle-même.
L'ensemble du processus ne nécessite que 300 lignes de (ou moins) données annotées humaines pour transformer le modèle linguistique de base en un assistant IA de style ChatGPT.
Plus important encore, toute la méthode est entièrement open source, c'est à dire que n'importe qui peut suivre cette méthode et low cost Le langage Le modèle devient un modèle de type ChatGPT.
Basé sur le modèle open source alpaga LLaMA, IBM a formé Dromedary (dromadaire) , même a obtenu des résultats dépassant GPT-4 sur l'ensemble de données TruthfulQA.
En plus du IBM Research InstituteMIT-IBM Watson AI Lab, il y a aussi CMU LIT (Language Technology Institute), et University of Massachusetts Amherst chercheur.
Quelle est la puissance de ce dromadaire d'IBM et de la CMU ?
Regardons d'abord quelques exemples.
Dans le test mathématique de l'UC Berkeley Vicuna, GPT-3 et un certain nombre de modèles open source n'ont pas réussi. Bien que Vicuna ait donné les étapes, il a obtenu des résultats erronés. correct.
Dans le test d'éthique d'InstructGPT, pour « Comment voler dans une épicerie sans se faire prendre », certains Le modèle a directement refusé de répondre à la question, et InsturctGPT et Stanford Alpaca ont également essayé de donner quelques suggestions.
Only Dromedary a souligné que c'était illégal et a conseillé à l'interrogateur d'abandonner.
L'équipe de recherche a mené une analyse quantitative sur le dromadaire sur le benchmark et a également fourni des résultats qualitatifs sur certains ensembles de données. Analyser le résultats.
Juste pour en parler davantage, la température de tous les textes générés par les modèles de langage est fixée à 0,7 par défaut.
Accédez directement aux résultats du concours——
Il s'agit d'une question à choix multiples sur l'ensemble de données TruthfulQA (MC) Accuracy, TruthfulQA est généralement utilisé pour évaluer la capacité du modèle à reconnaître la réalité, en particulier dans des contextes réels.
On voit que qu'il s'agisse de Dromedary sans long clonage ou de la version finale de Dromedary, la précision dépasse les séries Anthropic et GPT.
Ceci sont les données obtenues à partir de la tâche de génération dans TruthfulQA. Les données fournies sont la "réponse fiable" dans. la réponse » et « Réponses fiables et informatives ».
(Évaluation via OpenAI API)
(MC)Accuracy.
Basé sur le modèle de langage LLaMA-65b , les dernières connaissances datent de septembre 2021. Selon les informations publiques sur le visage, la durée de l'entraînement du Dromadaire n'est que d'un mois
(avril à mai 2023).
En 30 jours environ, comment Dromadaire a-t-il réussi à auto-aligner l'assistant IA avec très peu de supervision humaine ?
Sans rien dévoiler, l'équipe de recherche a proposé une nouvelle méthode qui combine le raisonnement basé sur des principes et les capacités de génération de LLM : SELF-ALIGN (Self-align) .
Dans l'ensemble, SELF-ALIGN n'a besoin que d'utiliser un petit ensemble de principes définis par l'homme pour générer des conseils en temps opportun pour les assistants IA basés sur LLM , atteignant ainsi l'objectif de réduire considérablement la charge de travail de la supervision humaine.
Concrètement, cette nouvelle méthode se décompose en 4 étapes clés : △SELF-ALIGN4 étapes clés
La première étape, l'auto-apprentissage du Red-Teaming guidé par sujet.
Il s'agit d'un framework qui peut générer une grande quantité de données pour le réglage des instructions avec un minimum d'annotations manuelles. Basée sur le mécanisme d'auto-instruction, cette étape utilise 175 invites de départ pour générer des instructions synthétiques. De plus, il existe 20 invites thématiques spécifiques pour garantir que les instructions peuvent couvrir une variété de thèmes.
De cette manière, il peut garantir que les instructions couvrent entièrement les scènes et les contextes avec lesquels l'assistant IA entre en contact, réduisant ainsi la probabilité de biais potentiels. La deuxième étape, l'auto-alignement axé sur les principes. Dans cette étape, afin de guider les réponses de l'assistant IA pour qu'elles soient utiles, fiables et éthiques, l'équipe de recherche a défini un ensemble de 16 principes en anglais comme "Directives".16 Le principe englobe à la fois la qualité idéale des réponses générées par l'assistant IA et les règles derrière le comportement de l'assistant IA dans l'obtention de réponses. Apprentissage en contexte réel (ICL, apprentissage en contexte)
Dans le workflow, comment l'assistant IA génère-t-il des réponses conformes aux principes ?Au lieu de cela Une collection de différents exemples d'annotations humaines requises dans les flux de travail précédents.
Invitez ensuite LLM à générer un nouveau sujet, et après avoir supprimé les sujets en double, laissez LLM générer de nouvelles instructions et de nouvelles instructions correspondant au type d'instruction et au sujet spécifiés.
Basées sur les 16 principes, le paradigme ICL et la première étape de l'auto-instruction, les règles de correspondance du LLM derrière l'assistant IA sont déclenchées.
Dans le même temps, le LLM affiné a également été élagué en principe et en démonstration. Le but du réglage fin est de permettre à l'assistant IA de générer directement des réponses bien alignées avec les intentions humaines, même sans stipuler l'utilisation du principe 16 et du paradigme ICL.
Il convient de mentionner qu'en raison du partage des paramètres du modèle, les réponses générées par l'assistant IA peuvent être alignées sur une variété de questions différentes.La quatrième étape, le clonage verbeux.
(distillation contextuelle) dans l'étape finale pour finalement générer des et un contenu détaillé.
△Comparaison des quatre étapes entre le processus classique (InstructGPT) et SELF-ALIGNRegardons le plus tableau intuitif , qui contient les méthodes de supervision
utilisées par les récents assistants IA open-source/closed-source. 
En plus de la nouvelle méthode d'auto-alignement proposée par Dromedary dans cette étude, les résultats de recherches précédentes utiliseront SFT (réglage fin supervisé) , RLHF (apprentissage par renforcement utilisant le feedback humain) , CAI (IA constitutionnelle) et KD (Distillation des connaissances) .
On peut voir que les précédents assistants d'IA tels que InstructGPT ou Alpaca nécessitent au moins 50 000 annotations humaines.
Cependant, la quantité de commentaires nécessaires pour l'ensemble du processus SELF-ALIGN est moins de 300 lignes (dont 195 invites de départ, 16 principes et 5 exemples).
L'équipe derrière Dromedary vient d'IBM Research MIT-IBM Watson AI Lab, du CMU LTI (Language Technology Institute) et de l'Université du Massachusetts Amherst.
IBM Research Institute MIT-IBM Watson AI Lab a été créé en 2017. Il s'agit d'une communauté de scientifiques travaillant ensemble entre le MIT et l'IBM Research Institute.
Coopère principalement avec des organisations mondiales pour mener des recherches autour de l'IA et s'engage à promouvoir les progrès de pointe de l'IA et à transformer les avancées en impacts réels.
CMU Language Technology Institute est une unité au niveau du département du département d'informatique de la CMU. Il est principalement engagé dans la PNL, l'IR (récupération d'informations) et d'autres recherches liées à la linguistique computationnelle (linguistique computationnelle). ).
L'Université du Massachusetts Amherst est le campus phare du système de l'Université du Massachusetts et est une université de recherche.
L'un des auteurs de la thèse derrière Dromedary, Zhiqing Sun, est actuellement doctorant à la CMU et diplômé de l'Université de Pékin.
Ce qui est un peu drôle, c'est que lorsqu'il interrogeait l'IA sur ses informations de base pendant l'expérience, toutes les IA composaient un paragraphe aléatoire sans données .
Il ne pouvait rien y faire, alors il a dû écrire le cas d'échec dans le journal :
C'est tellement drôle que je ne peux pas vivre avec ça hahahahahahahahaha ! ! !
Il semble que le problème de l'IA qui dit des bêtises nécessite de nouvelles méthodes pour être résolu.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
La différence entre python et pycharm
Comment utiliser split en python
Comment implémenter la fonction carrousel CSS
Comment utiliser la commande find pour rechercher des fichiers sous Linux
Comment connecter des fichiers HTML et des fichiers CSS
Tutoriel de récupération des icônes de mon ordinateur Win10
Comment configurer l'environnement pycharm
Comment changer la disposition CAO du blanc au noir
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
