Table des matières
Avoir une place dans les modèles d'intelligence artificielle
Une famille nombreuse et croissante de modèles de langage
Maison Périphériques technologiques IA ChatGPT contre GPT-3 contre GPT-4 n'est qu'un combat interne entre les familles de chatbots

ChatGPT contre GPT-3 contre GPT-4 n'est qu'un combat interne entre les familles de chatbots

Mar 31, 2023 pm 10:39 PM
人工智能 chatgpt 聊天机器人

Lorsqu'ils expliquent les capacités de copie publicitaire et de génération de bannières de SoMin, les gens demandent souvent si GPT-3 a été remplacé par ChatGPT ou s'il fonctionne toujours dans un mode obsolète.

Lorsqu'ils expliquent les capacités de copie publicitaire et de génération de bannières de SoMin, les gens demandent souvent si GPT-3 a été remplacé par ChatGPT ou s'il fonctionne toujours dans un mode obsolète. "Nous ne l'avons pas fait et n'envisageons pas de le faire", a répondu un porte-parole de SoMin, même si le chatbot ChatGPT lancé par OpenAI est en plein essor. Cela surprend souvent le client, alors voici une explication des raisons pour lesquelles il donnerait une telle réponse.

ChatGPT contre GPT-3 contre GPT-4 n'est qu'un combat interne entre les familles de chatbots

Avoir une place dans les modèles d'intelligence artificielle

GPT-2, GPT-3, ChatGPT et le GPT-4 récemment lancé appartiennent tous au même type de modèle d'intelligence artificielle - Transformer. Cela signifie que, contrairement aux modèles d’apprentissage automatique des générations précédentes, ils sont formés pour accomplir une tâche plus uniforme, de sorte qu’ils n’ont pas besoin d’être recyclés pour chaque tâche spécifique afin de produire des résultats exploitables. Ce dernier explique leur taille massive (175 milliards de paramètres dans le cas de GPT-3), alors qu'un modèle pourrait avoir besoin de « mémoriser l'intégralité d'Internet » pour être suffisamment flexible pour basculer entre différents éléments de données en fonction des entrées de l'utilisateur. Le modèle est alors capable de générer des résultats lorsque l'utilisateur saisit une question de requête, une description de la tâche et quelques exemples (comme si vous demandiez à un bibliothécaire des livres d'intérêt). Cette approche est appelée « apprentissage en quelques étapes » et est devenue récemment une tendance en fournissant une contribution aux modèles Transformer modernes.

Mais est-il toujours nécessaire de tout savoir sur Internet pour accomplir la tâche en cours ? Bien sûr que non - dans de nombreux cas, comme ChatGPT, de grands (millions) échantillons de données spécifiques à la tâche sont nécessaires, ces échantillons permettront au modèle pour lancer le processus « Reinforcement Learning from Human Feedback (RLHF) ». À son tour, le RLHF développera un processus de formation collaboratif entre l’IA et les humains pour former davantage les modèles d’IA afin de produire des conversations de type humain. Par conséquent, ChatGPT excelle non seulement dans le scénario du chatbot, mais aide également les gens à rédiger du contenu court (comme des poèmes ou des paroles) ou du contenu long (comme des essais lorsque les gens ont besoin d'obtenir des réponses rapidement, en termes simples ou) ; connaissances approfondies Expliquer des sujets complexes ; proposer un brainstorming, de nouveaux sujets et idées utiles dans le processus de création, soutenir le service commercial dans la communication personnalisée, comme la génération d'e-mails auxquels répondre.

Bien qu'il soit techniquement possible pour un grand modèle de Transformer de tenter d'accomplir ces tâches, il est peu probable que cela soit accompli par ChatGPT ou même GPT-4 - en effet, ChatGPT et les autres Transformers d'OpenAI ont une connaissance très limitée de ce qui se passe dans le monde, car ce sont des modèles pré-entraînés, de sorte que leurs données ne sont pas mises à jour assez fréquemment en raison des exigences informatiques très élevées du recyclage des modèles. C'est probablement la plus grande lacune de tous les modèles pré-entraînés produits par OpenAI (et par n'importe qui d'autre) à ce jour. Un problème plus important est spécifique à ChatGPT : contrairement à GPT-3, il a été formé sur un ensemble de données conversationnelles très ciblées, ce n'est donc que dans les tâches conversationnelles que ChatGPT surpasse ses prédécesseurs, tout en accomplissant d'autres tâches humaines. moins avancé.

Une famille nombreuse et croissante de modèles de langage

Les gens savent désormais que ChatGPT n'est qu'une version plus petite et plus spécifique de GPT-3, mais cela signifie-t-il qu'il y aura davantage de ces modèles dans un avenir proche : pour la commercialisation de MarGPT, AdGPT pour la publicité numérique, MedGPT pour répondre aux questions médicales ?

C'est possible et voici pourquoi : Lorsque la société SoMin a soumis une demande pour accéder à GPT-3 Beta, il suffit de la remplir. Un long formulaire de candidature a été remis expliquant en détail le logiciel actuel. qui serait construit, mais il lui a été demandé d'accepter de fournir des commentaires sur la façon dont le modèle était utilisé au quotidien et sur les résultats reçus. La société OpenAI a fait cela pour une raison, principalement parce qu'il s'agissait d'un projet de recherche et qu'elle avait besoin d'informations commerciales sur les meilleures applications du modèle, et elle l'a financé en échange de la chance de participer à cette grande révolution de l'intelligence artificielle. Les applications Chatbot semblent être l’une des plus populaires, donc ChatGPT vient en premier. ChatGPT est non seulement plus petit (20 milliards de paramètres contre 175 milliards de paramètres), mais aussi plus rapide et plus précis que GPT-3 pour résoudre les tâches conversationnelles - pour un produit d'IA à faible coût et de haute qualité. Pour moi, c'est une entreprise parfaite cas.

Alors, en matière d’IA générative, est-ce qu’il vaut mieux être plus grand ? La réponse est que cela dépend. Lorsqu’on construit un modèle d’apprentissage général capable d’accomplir de nombreuses tâches, la réponse est oui, plus c’est gros, mieux c’est, comme en témoignent les avantages de GPT-3 par rapport à GPT-2 et à d’autres prédécesseurs. Mais lorsque l’on veut bien effectuer une tâche spécifique, comme le chatbot dans ChatGPT, alors la concentration sur les données et un processus de formation approprié sont bien plus importants que le modèle et la taille des données. C'est pourquoi chez SoMin, au lieu d'utiliser ChatGPT pour générer des textes et des bannières, des données spécifiques liées aux publicités numériques sont utilisées pour guider GPT-3 afin de créer un meilleur contenu pour les nouvelles publicités qui n'ont pas encore été vues.

Alors, on pourrait se demander, comment l'avenir de l'IA générative va-t-il se développer ? La multimodalité sera l'une des avancées inévitables que les gens verront dans le prochain GPT-4, comme l'a mentionné le PDG d'OpenAI, Sam Altman, dans son discours. Dans le même temps, Altman a également dissipé la rumeur selon laquelle le modèle comporte 100 000 milliards de paramètres. Par conséquent, les gens savent que plus grand ne signifie pas toujours meilleur dans ce type de modèle d’intelligence artificielle.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

ChatGPT permet désormais aux utilisateurs gratuits de générer des images en utilisant DALL-E 3 avec une limite quotidienne ChatGPT permet désormais aux utilisateurs gratuits de générer des images en utilisant DALL-E 3 avec une limite quotidienne Aug 09, 2024 pm 09:37 PM

Le DALL-E 3 a été officiellement introduit en septembre 2023 en tant que modèle considérablement amélioré par rapport à son prédécesseur. Il est considéré comme l’un des meilleurs générateurs d’images IA à ce jour, capable de créer des images avec des détails complexes. Cependant, au lancement, c'était exclu

Bytedance Cutting lance le super abonnement SVIP : 499 yuans pour un abonnement annuel continu, offrant une variété de fonctions d'IA Bytedance Cutting lance le super abonnement SVIP : 499 yuans pour un abonnement annuel continu, offrant une variété de fonctions d'IA Jun 28, 2024 am 03:51 AM

Ce site a rapporté le 27 juin que Jianying est un logiciel de montage vidéo développé par FaceMeng Technology, une filiale de ByteDance. Il s'appuie sur la plateforme Douyin et produit essentiellement du contenu vidéo court pour les utilisateurs de la plateforme. Il est compatible avec iOS, Android et. Windows, MacOS et autres systèmes d'exploitation. Jianying a officiellement annoncé la mise à niveau de son système d'adhésion et a lancé un nouveau SVIP, qui comprend une variété de technologies noires d'IA, telles que la traduction intelligente, la mise en évidence intelligente, l'emballage intelligent, la synthèse humaine numérique, etc. En termes de prix, les frais mensuels pour le clipping SVIP sont de 79 yuans, les frais annuels sont de 599 yuans (attention sur ce site : équivalent à 49,9 yuans par mois), l'abonnement mensuel continu est de 59 yuans par mois et l'abonnement annuel continu est de 59 yuans par mois. est de 499 yuans par an (équivalent à 41,6 yuans par mois) . En outre, le responsable de Cut a également déclaré que afin d'améliorer l'expérience utilisateur, ceux qui se sont abonnés au VIP d'origine

Le réglage fin peut-il vraiment permettre au LLM d'apprendre de nouvelles choses : l'introduction de nouvelles connaissances peut amener le modèle à produire davantage d'hallucinations Le réglage fin peut-il vraiment permettre au LLM d'apprendre de nouvelles choses : l'introduction de nouvelles connaissances peut amener le modèle à produire davantage d'hallucinations Jun 11, 2024 pm 03:57 PM

Les grands modèles linguistiques (LLM) sont formés sur d'énormes bases de données textuelles, où ils acquièrent de grandes quantités de connaissances du monde réel. Ces connaissances sont intégrées à leurs paramètres et peuvent ensuite être utilisées en cas de besoin. La connaissance de ces modèles est « réifiée » en fin de formation. À la fin de la pré-formation, le modèle arrête effectivement d’apprendre. Alignez ou affinez le modèle pour apprendre à exploiter ces connaissances et répondre plus naturellement aux questions des utilisateurs. Mais parfois, la connaissance du modèle ne suffit pas, et bien que le modèle puisse accéder à du contenu externe via RAG, il est considéré comme bénéfique de l'adapter à de nouveaux domaines grâce à un réglage fin. Ce réglage fin est effectué à l'aide de la contribution d'annotateurs humains ou d'autres créations LLM, où le modèle rencontre des connaissances supplémentaires du monde réel et les intègre.

Afin de fournir un nouveau système de référence et d'évaluation de questions-réponses scientifiques et complexes pour les grands modèles, l'UNSW, Argonne, l'Université de Chicago et d'autres institutions ont lancé conjointement le cadre SciQAG. Afin de fournir un nouveau système de référence et d'évaluation de questions-réponses scientifiques et complexes pour les grands modèles, l'UNSW, Argonne, l'Université de Chicago et d'autres institutions ont lancé conjointement le cadre SciQAG. Jul 25, 2024 am 06:42 AM

L'ensemble de données ScienceAI Question Answering (QA) joue un rôle essentiel dans la promotion de la recherche sur le traitement du langage naturel (NLP). Des ensembles de données d'assurance qualité de haute qualité peuvent non seulement être utilisés pour affiner les modèles, mais également évaluer efficacement les capacités des grands modèles linguistiques (LLM), en particulier la capacité à comprendre et à raisonner sur les connaissances scientifiques. Bien qu’il existe actuellement de nombreux ensembles de données scientifiques d’assurance qualité couvrant la médecine, la chimie, la biologie et d’autres domaines, ces ensembles de données présentent encore certaines lacunes. Premièrement, le formulaire de données est relativement simple, et la plupart sont des questions à choix multiples. Elles sont faciles à évaluer, mais limitent la plage de sélection des réponses du modèle et ne peuvent pas tester pleinement la capacité du modèle à répondre aux questions scientifiques. En revanche, les questions et réponses ouvertes

Les performances de SOTA, la méthode d'IA de prédiction d'affinité protéine-ligand multimodale de Xiamen, combinent pour la première fois des informations sur la surface moléculaire Les performances de SOTA, la méthode d'IA de prédiction d'affinité protéine-ligand multimodale de Xiamen, combinent pour la première fois des informations sur la surface moléculaire Jul 17, 2024 pm 06:37 PM

Editeur | KX Dans le domaine de la recherche et du développement de médicaments, il est crucial de prédire avec précision et efficacité l'affinité de liaison des protéines et des ligands pour le criblage et l'optimisation des médicaments. Cependant, les études actuelles ne prennent pas en compte le rôle important des informations sur la surface moléculaire dans les interactions protéine-ligand. Sur cette base, des chercheurs de l'Université de Xiamen ont proposé un nouveau cadre d'extraction de caractéristiques multimodales (MFE), qui combine pour la première fois des informations sur la surface des protéines, la structure et la séquence 3D, et utilise un mécanisme d'attention croisée pour comparer différentes modalités. alignement. Les résultats expérimentaux démontrent que cette méthode atteint des performances de pointe dans la prédiction des affinités de liaison protéine-ligand. De plus, les études d’ablation démontrent l’efficacité et la nécessité des informations sur la surface des protéines et de l’alignement des caractéristiques multimodales dans ce cadre. Les recherches connexes commencent par "S

SK Hynix présentera de nouveaux produits liés à l'IA le 6 août : HBM3E à 12 couches, NAND à 321 hauteurs, etc. SK Hynix présentera de nouveaux produits liés à l'IA le 6 août : HBM3E à 12 couches, NAND à 321 hauteurs, etc. Aug 01, 2024 pm 09:40 PM

Selon les informations de ce site le 1er août, SK Hynix a publié un article de blog aujourd'hui (1er août), annonçant sa participation au Global Semiconductor Memory Summit FMS2024 qui se tiendra à Santa Clara, Californie, États-Unis, du 6 au 8 août, présentant de nombreuses nouvelles technologies de produit. Introduction au Future Memory and Storage Summit (FutureMemoryandStorage), anciennement Flash Memory Summit (FlashMemorySummit) principalement destiné aux fournisseurs de NAND, dans le contexte de l'attention croissante portée à la technologie de l'intelligence artificielle, cette année a été rebaptisée Future Memory and Storage Summit (FutureMemoryandStorage) pour invitez les fournisseurs de DRAM et de stockage et bien d’autres joueurs. Nouveau produit SK hynix lancé l'année dernière

Préparant des marchés tels que l'IA, GlobalFoundries acquiert la technologie du nitrure de gallium de Tagore Technology et les équipes associées Préparant des marchés tels que l'IA, GlobalFoundries acquiert la technologie du nitrure de gallium de Tagore Technology et les équipes associées Jul 15, 2024 pm 12:21 PM

Selon les informations de ce site Web du 5 juillet, GlobalFoundries a publié un communiqué de presse le 1er juillet de cette année, annonçant l'acquisition de la technologie de nitrure de gallium (GaN) et du portefeuille de propriété intellectuelle de Tagore Technology, dans l'espoir d'élargir sa part de marché dans l'automobile et Internet. des objets et des domaines d'application des centres de données d'intelligence artificielle pour explorer une efficacité plus élevée et de meilleures performances. Alors que des technologies telles que l’intelligence artificielle générative (GenerativeAI) continuent de se développer dans le monde numérique, le nitrure de gallium (GaN) est devenu une solution clé pour une gestion durable et efficace de l’énergie, notamment dans les centres de données. Ce site Web citait l'annonce officielle selon laquelle, lors de cette acquisition, l'équipe d'ingénierie de Tagore Technology rejoindrait GF pour développer davantage la technologie du nitrure de gallium. g

Une nouvelle ère de développement front-end VSCode : 12 assistants de code IA hautement recommandés Une nouvelle ère de développement front-end VSCode : 12 assistants de code IA hautement recommandés Jun 11, 2024 pm 07:47 PM

Dans le monde du développement front-end, VSCode est devenu l'outil de choix pour d'innombrables développeurs grâce à ses fonctions puissantes et son riche écosystème de plug-ins. Ces dernières années, avec le développement rapide de la technologie de l'intelligence artificielle, des assistants de code IA sur VSCode ont vu le jour, améliorant considérablement l'efficacité du codage des développeurs. Les assistants de code IA sur VSCode ont poussé comme des champignons après la pluie, améliorant considérablement l'efficacité du codage des développeurs. Il utilise la technologie de l'intelligence artificielle pour analyser intelligemment le code et fournir une complétion précise du code, une correction automatique des erreurs, une vérification grammaticale et d'autres fonctions, ce qui réduit considérablement les erreurs des développeurs et le travail manuel fastidieux pendant le processus de codage. Aujourd'hui, je recommanderai 12 assistants de code d'IA de développement frontal VSCode pour vous aider dans votre parcours de programmation.

See all articles