Cette année est l'année du développement explosif de la technologie de l'IA, avec la popularité croissante des grands modèles de langage (LLM) représentés par ChatGPT.
En plus de montrer un grand potentiel dans le domaine du langage naturel, les modèles de langage ont également commencé à rayonner progressivement vers d'autres modalités. Par exemple, le modèle de graphe vincentien Stable Diffusion nécessite également un modèle de langage.
Former un modèle de langage visuel (VL-LLM) à partir de zéro nécessite souvent beaucoup de ressources, les solutions existantes consistent donc à connecter le modèle de langage et le modèle de génération d'invites visuelles (Visual Prompt Generator, VPG). ainsi, continuer à régler VPG nécessite toujours des milliers d’heures GPU et des millions de données d’entraînement.
Récemment, des chercheurs de l'Université nationale de Singapour et de l'Université Tsinghua ont proposé une solution, VPGTrans, pour migrer le VPG existant vers le modèle VL-LLM existant afin d'obtenir le modèle LLM cible de manière peu coûteuse.
Lien papier : https://arxiv.org/abs/2305.01278
Lien code : https://github.com/VPGTrans/VPGTrans
Démo du modèle de dialogue multimodal : https://vpgtrans.github.io/
Auteurs : Zhang Ao, Fei Hao, Yao Yuan, Ji Wei, Li Li, Liu Zhiyuan, Chua Tat-Seng
Unité : Université nationale de Singapour, Université Tsinghua
Les principaux points d'innovation de l'article comprennent :
1 Coût de formation extrêmement faible :
Grâce à notre méthode VPGTrans proposée, il peut être rapide (moins de 10 % du temps de formation) Migrez le module visuel du modèle de dialogue multimodal existant vers le nouveau modèle de langage et obtenez des résultats similaires ou meilleurs.
Par exemple, par rapport à la formation du module de vision à partir de zéro, nous pouvons réduire le coût de formation du BLIP-2 FlanT5-XXL de 19 000+ RMB à moins de 1 000 RMB :
Image 1 : Comparaison de la réduction des frais généraux de formation BLIP-2 basée sur notre méthode VPGTrans
2 Personnalisation multimodale de grands modèles :
Grâce à notre framework VPGTrans, divers nouveaux modèles peuvent être personnalisés en fonction. aux besoins Les grands modèles de langage peuvent ajouter des modules visuels de manière flexible. Par exemple, nous avons produit VL-LLaMA et VL-Vicuna basés sur LLaMA-7B et Vicuna-7B.
3. Modèle de dialogue multimodal open source :
Nous open source VL-Vicuna, un modèle de dialogue multimodal de type GPT-4, qui peut atteindre des niveaux élevés de dialogue. multimodalité de qualité Dialogue :
Figure 2 : Exemple d'interaction VL-Vicuna
1. Introduction à la motivationLLM a déclenché un tendance dans le domaine de la compréhension multimodale. Transformation du modèle de langage visuel (VLM) traditionnel pré-entraîné en modèle de langage visuel basé sur un grand modèle de langage (VL-LLM).
En connectant le module visuel au LLM, VL-LLM peut hériter des connaissances, de la capacité de généralisation sans échantillon, de la capacité de raisonnement et de la capacité de planification du LLM existant. Les modèles associés incluent BLIP-2[1], Flamingo[2], PALM-E, etc.
Figure 3 : Architecture VL-LLM couramment utilisée# 🎜🎜#
Le VL-LLM existant couramment utilisé adopte essentiellement l'architecture présentée dans la figure 3 : formation d'un module de génération d'invites visuelles logicielles basé sur un LLM de base (Visual Prompt Générateur, VPG) et une couche linéaire (Projecteur) qui effectue une transformation dimensionnelle.
En termes d'échelle de paramètres, LLM représente généralement la partie principale (comme 11B) , et VPG représente la partie mineure (comme 1,2B), le projecteur est le plus petit (4M).
Pendant le processus de formation, Les paramètres LLM ne sont généralement pas mis à jour , ou seulement un très petit nombre de paramètres sont mis à jour. Les paramètres entraînables proviennent principalement du VPG et du projecteur.
En fait, même si les paramètres du LLM de base sont figés et non entraînés , en raison du LLM En raison de la grande quantité de paramètres, le coût clé de la formation d'un VL-LLM réside toujours dans le chargement du LLM de base.
Par conséquent, la formation d'un VL-LLM ne peut toujours pas éviter d'énormes coûts de calcul. Par exemple, pour obtenir BLIP-2 (le LLM de base est FlanT5-XXL), plus de 600 heures de formation A100 sont nécessaires. Si vous louez la machine A100-40G d'Amazon, cela vous coûtera près de 20 000 yuans.
Comme former un VPG à partir de zéro coûte si cher, nous avons commencé à réfléchir à Pouvons-nous migrer un VPG existant vers un nouveau LLM#🎜 🎜# pour économiser de l'argent. Figure 4 : Migration VPG : migration entre les tailles de LLM et migration de types entre LLM de VPG : #🎜🎜 # (1) Migration de taille Cross-LLM (TaS) : par exemple de OPT-2.7B à OPT-6.7B.
(2) Migration de type Cross-LLM (TaT) : par exemple d'OPT vers FlanT5.
L'importance du TaS est la suivante : dans la recherche scientifique liée au LLM, nous devons généralement ajuster les paramètres d'un petit LLM, puis l'étendre à un grand LLM. Avec TaS, nous pouvons directement migrer le VPG qui a été formé sur le petit LLM vers le grand LLM après avoir ajusté les paramètres.
La signification de TaT est la suivante : des LLM avec différents types fonctionnels émergent à l'infini, comme LLaMA aujourd'hui, Alpaca et Vicuna demain. TaT nous permet d'utiliser les VPG existants pour ajouter rapidement des capacités de perception visuelle à de nouveaux modèles de langage.1.3 Contribution
(1) Proposer des méthodes efficaces : # 🎜🎜#
Nous avons d'abord exploré les facteurs clés qui affectent l'efficacité de la migration VPG à travers une série d'expériences exploratoires. Sur la base des résultats expérimentaux exploratoires, nous proposons un cadre de migration efficace en deux étapes VPGTrans. Ce cadre peut réduire considérablement la surcharge de calcul et les données de formation requises pour former VL-LLM.
Par exemple, par rapport à une formation à partir de zéro, nous ne pouvons
utiliser qu'environ 10 % en migrant VPG de BLIP-2 OPT-2.7B vers 6.7B Les données et le temps de calcul.
(2) Faites des découvertes intéressantes :Nous sommes à en même temps Fournit quelques résultats intéressants dans les scénarios TaS et TaT, et essaie de donner des explications :
a) Dans le scénario TaS, l'utilisation de VPGTrans pour migrer de petit à grand n'affectera pas l'effet final du modèle.
b) Dans le scénario TaS, Plus le VPG formé sur le modèle de langage est petit, plus l'efficacité lors de la migration vers le grand modèle est élevée, et mieux c'est l'effet final# 🎜🎜#.
c) Dans le scénario TaT, plus l'écart de migration est petit, plus l'écart entre les modèles est grand. Dans nos expériences de vérification, la migration mutuelle entre OPT350M et FlanT5-base à l'aide de VPGTrans est presque aussi lente qu'une formation à partir de zéro.
(3) Open source :
# 🎜🎜# Nous avons utilisé VPGTrans pour obtenir deux nouveaux VL-LLM : VL-LLaMA et VL-Vicuna, et les avons open source dans la communauté. Parmi eux, VL-Vicuna implémente un dialogue multimodal de haute qualité similaire à GPT4. 2. Solution de migration VPG à haute efficacité : VPGTrans
Tout d'abord, nous menons une série d'expériences d'exploration et de vérification pour analyser comment pour maximiser la valeur de l’efficacité de la migration VPG. Nous proposons ensuite une solution basée sur ces observations importantes.2.1 Expérience d'exploration
Les tâches en aval sont évaluées à l'aide des paramètres zéro-shot de COCO Caption, NoCaps, VQAv2, GQA et OK-VQA (la tâche de sous-titrage n'est pas strictement zéro-shot) . Voici nos principales conclusions :
(1) Hériter directement d'un VPG formé peut accélérer la convergence, mais l'effet est limité : # 🎜🎜# Nous avons constaté que la migration directe d'un VPG formé sur un LLM vers un grand LLM peut accélérer la convergence du modèle, mais l'effet d'accélération est limité et la convergence L'effet final du modèle
diminuera par rapport à l'entraînement VPG à partir de zéro (les points les plus élevés des lignes bleues VQAv2 et GQA sur la figure 5 sont tous deux inférieurs à la ligne orange). Nous pensons que cette baisse est due au fait que le projecteur initialisé aléatoirement endommagera la capacité de perception visuelle existante dans VPG au début de l'entraînement.
(2) Un entraînement d'échauffement avec le projecteur en premier peut empêcher les points de tomber et accélérer davantage la convergence :
#🎜 🎜 #Donc, nous avons réparé le VPG et le LLM, avons d'abord entraîné le projecteur pendant 3 époques, puis dégelé le VPG pour la prochaine étape de l'entraînement.
Nous avons constaté que cela peut non seulement éviter les chutes de points, mais également accélérer davantage la convergence VPG (Figure 6).
Mais il convient de souligner que puisque le coût principal de la formation est le LLM (paramètres énormes),
n'est que le coût du projecteur de formation #🎜 🎜#ne sera pas beaucoup moins cher que formation VPG et projecteur en même temps . Nous avons donc commencé à explorer les technologies clés pour accélérer le préchauffage du projecteur.
Figure 6 : Le projecteur d'entraînement d'échauffement peut être fait en premier Empêcher les points perdus + accélérer la convergence
(3) L'initialisation du convertisseur de vecteurs de mots peut accélérer le préchauffage du projecteur : #🎜🎜 ## 🎜🎜#
Tout d'abord, VPG produit des effets en convertissant les images en invites logicielles que LLM peut comprendre. L'utilisation de soft prompt est en fait très similaire à word vector Ils saisissent tous deux directement le modèle de langage pour inviter le modèle à générer le contenu correspondant. Nous avons donc utilisé des vecteurs de mots comme proxy pour les invites logicielles et formé un convertisseur de vecteurs de mots (une couche linéaire) de
à 
. 
Ensuite, nous fusionnons le convertisseur de vecteur de mots et le projecteur sur
comme initialisation du projecteur. 
(4) Le projecteur peut converger rapidement à un taux d'apprentissage très élevé :
Nous avons approfondi nos expériences et constaté que le projecteur peut être entraîné avec un taux d'apprentissage 5 fois supérieur à la normale sans planter en raison de son petit nombre de paramètres. .
Grâce à un entraînement avec un taux d'apprentissage 5 fois supérieur, l'échauffement du projecteur peut être encore raccourci à 1 époque
.(5) Un constat supplémentaire :
Bien que l'échauffement du projecteur soit important, la formation du projecteur à elle seule ne suffit pas. Surtout pour la tâche de sous-titrage, l'effet de l'entraînement du projecteur seul est pire que celui de l'entraînement du VPG en même temps (la ligne verte de la figure 5 est bien inférieure à la ligne bleue dans COCO Caption et NoCaps).
Cela signifie également que la simple formation du projecteur entraînera un sous-ajustement
, c'est-à-dire quene pourra pas être entièrement aligné sur les données d'entraînement. 2.2 Notre méthode proposée
Comme le montre la figure 7, notre méthode est divisée en deux étapes :
(1) La première étape : Nous utilisons d'abord le convertisseur de vecteur de mots pour fusionner avec le projecteur d'origine comme initialisation du nouveau projecteur, puis utilisons Le nouveau projecteur est entraîné avec un taux d'apprentissage 5 fois supérieur pour une époque.
(2) La deuxième étape : entraîner directement VPG et projecteur normalement.
3. Résultats expérimentaux
3.1 Ratio d'accélération
Comme le montre le tableau 1, nous avons testé le taux d'accélération de VPGTrans sur différents ensembles de données sous différents types de migration.
Le taux d'accélération de VPGTrans sur un ensemble de données spécifié A est obtenu en divisant le nombre de cycles d'entraînement à partir de zéro pour obtenir le meilleur effet a sur A par le nombre minimum de cycles d'entraînement où l'effet de VPGTrans sur A dépasse a.
Par exemple, entraîner VPG sur OPT-2.7B à partir de zéro nécessite 10 époques pour obtenir les meilleurs résultats dans la légende COCO, mais la migration de VPG de OPT-125M vers OPT-2.7B ne prend qu'une seule époque pour obtenir les meilleurs résultats. . Le rapport d'accélération est de 10/1 = 10 fois.
Nous pouvons voir que notre VPGTrans peut atteindre une accélération stabledans les scénarios TaS et TaT.
Nous avons sélectionné l'une des découvertes les plus intéressantes à expliquer. Pour des découvertes plus intéressantes, veuillez vous référer à notre article.
Dans le scénario TaS, plus le VPG formé sur le modèle de langage est petit, plus l'efficacité de la migration est élevée et meilleur est l'effet de modèle final. En nous référant au tableau 1, nous pouvons constater que le rapport d'accélération de l'OPT-1.3B à l'OPT-2.7B est bien inférieur au rapport d'accélération de l'OPT-125M et de l'OPT-350M à l'OPT-2.7b.
Nous avons essayé de fournir une explication : Généralement, plus le modèle de langage est grand, en raison de la dimensionnalité plus élevée de son espace de texte, sera plus susceptible d'endommager le VPG (VPG est généralement un modèle pré-entraîné similaire à CLIP) Propre capacité de perception visuelle . Nous l'avons vérifié d'une manière similaire au sondage linéaire :
Figure 8 : Transfert de taille Cross-LLM de la seule couche de projecteur linéaire d'entraînement (sondage linéaire simulé)
Comme le montre la figure 8 , nous avons effectué une migration sur des tailles LLM comprises entre OPT-125M, 350M, 1,3B, 2,7B.
Dans l'expérience, Afin de comparer équitablement les capacités de perception visuelle du VPG formé sous différentes tailles de modèle, nous avons fixé les paramètres du VPG et formé uniquement la couche de projecteur linéaire. Nous avons sélectionné l'indicateur SPICE sur COCO Caption comme mesure de la capacité de perception visuelle.
Il n'est pas difficile de constater que pour chaque 
donné, c'est presque cohérent avec le phénomène selon lequel plus le 
est petit, plus l'ÉPICE finale est élevée.
Les expériences précédentes visent principalement à vérifier la conjecture dans des scénarios à petite échelle. Afin de prouver l'efficacité de notre méthode, nous avons simulé le processus de pré-entraînement de BLIP-2 et mené des expériences à grande échelle :
Tableau 2 : Résultats expérimentaux à grande échelle dans des scénarios réels
Comme le montre le tableau 2, notre VPGTrans est toujours efficace dans des scénarios à grande échelle. En migrant d'OPT-2.7B vers OPT-6.7B, nous n'avons utilisé que 10,8 % des données et moins de 10 % du temps de formation pour obtenir des résultats similaires ou meilleurs.
En particulier, notre méthode permet d'obtenir un 4,7% de contrôle des coûts de formation en BLIP-2 VL-LLM basé sur FlanT5-XXL.
Notre VPGTrans peut rapidement ajouter des modules de perception visuelle à tout nouveau LLM, obtenant ainsi un tout nouveau VL-LLM de haute qualité. Dans ce travail, nous formons en outre un VL-LLaMA et un VL-Vicuna. L'effet de VL-LLaMA est le suivant :
Tableau 3 : Affichage des effets de VL-LLaMA
En même temps, notre VL-Vicuna peut mener des conversations multimodales similaires à GPT-4. Nous avons fait une comparaison simple avec MiniGPT-4 :
Dans ce travail, nous avons mené une recherche sur le problème de migration des VPG entre LLM Enquête complète. Nous explorons d’abord les facteurs clés qui maximisent l’efficacité de la migration.
Sur la base d'observations clés, nous proposons un nouveau cadre de migration en deux étapes, à savoir VPGTrans. Il peut atteindre des performances équivalentes ou supérieures tout en réduisant considérablement les coûts de formation.
Grâce à VPGTrans, nous avons réalisé la migration VPG de BLIP-2 OPT 2.7B vers BLIP-2 OPT 6.7B. Par rapport à la connexion de VPG à OPT 6.7B à partir de zéro, VPGTrans ne nécessite que 10,7 % des données de formation et moins de 10 % du temps de formation.
De plus, nous présentons et discutons une série de découvertes intéressantes et les raisons possibles qui les sous-tendent. Enfin, nous démontrons la valeur pratique de notre VPGTrans dans la personnalisation du nouveau VL-LLM en formant VL-LLaMA et LL-Vicuna.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Inscription ChatGPT
Encyclopédie ChatGPT nationale gratuite
Comment installer chatgpt sur un téléphone mobile
Chatgpt peut-il être utilisé en Chine ?
Comment utiliser Winimage
Comment introduire du CSS externe dans HTML
Comment ouvrir le fichier img
Une fois l'ordinateur allumé, le moniteur n'affiche aucun signal
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
