


Pour résoudre le plus gros obstacle à la mise en œuvre de l'IA, OpenAI a-t-il trouvé un moyen ?
OpenAI semble avoir trouvé une solution aux « graves absurdités » de l’intelligence artificielle générative.
Le 31 mai, OpenAI a annoncé sur son site officiel avoir formé un modèle qui peut aider à éliminer les « illusions » courantes et d'autres problèmes courants de l'IA générative.
OpenAI a déclaré que les modèles de récompense peuvent être entraînés pour détecter les hallucinations, et les modèles de récompense sont divisés en modèle de supervision des résultats (fournissant un retour d'information basé sur le résultat final) ou de supervision du processus (fournissant un retour d'information pour chaque étape de la chaîne de réflexion).
C'est-à-dire que la supervision des processus récompense chaque étape correcte du raisonnement, tandis que la supervision des résultats récompense simplement les réponses correctes.
OpenAI dit qu'en revanche, la supervision des processus présente un avantage important - Elle entraîne directement le modèle à produire des chaînes de pensée approuvées par l'homme :
La supervision des processus présente plusieurs avantages en termes de cohérence par rapport à la supervision des résultats. Chaque étape est supervisée avec précision, elle récompense donc un comportement qui suit un modèle de chaîne de pensée cohérent.
La supervision des processus est également plus susceptible de produire un raisonnement explicable car elle encourage le modèle à suivre un processus approuvé par l'homme
Le suivi des résultats peut récompenser un processus incohérent et est souvent plus difficile à examiner.
OpenAI a testé les deux modèles sur un ensemble de données mathématiques, constatant que l'approche de supervision des processus aboutissait à « des performances nettement meilleures ».
Mais il est important de noter que jusqu’à présent, l’approche de supervision de processus n’a été testée que dans le domaine mathématique, et des travaux supplémentaires sont nécessaires pour voir comment elle fonctionne de manière plus générale.
De plus, OpenAI n'a pas indiqué combien de temps il faudrait pour que cette recherche soit appliquée à ChatGPT, qui est encore en phase de recherche.
Bien que les premiers résultats soient bons, OpenAI mentionne que l'approche la plus sûre entraîne une réduction des performances, appelée taxe d'alignement.
Les résultats actuels montrent que la supervision des processus ne génère pas de taxes d'alignement lorsqu'il s'agit de problèmes mathématiques, mais la situation en termes d'informations générales n'est pas encore connue.
L'« illusion » de l'IA générative
Depuis l’avènement de l’IA générative, les accusations de fabrication de fausses informations et de « génération d’hallucinations » n’ont jamais disparu. C’est également l’un des plus gros problèmes des modèles d’IA générative actuels.
En février de cette année, Google a lancé à la hâte le chatbot Bard en réponse au ChatGPT financé par Microsoft. Cependant, il a été constaté que des erreurs de bon sens avaient été commises lors de la démonstration, provoquant la chute du cours de l'action de Google.
Il existe de nombreuses raisons qui provoquent des hallucinations dans l'IA. L'une d'entre elles est la saisie de données pour inciter le programme d'IA à effectuer une mauvaise classification.
Par exemple, les développeurs utilisent des données (telles que des images, du texte ou d'autres types) pour entraîner des systèmes d'intelligence artificielle. Si les données sont modifiées ou déformées, l'application interprétera l'entrée différemment et produira des résultats incorrects.
Une illusion peut se produire dans de grands modèles basés sur le langage comme ChatGPT en raison d'un décodage incorrect du convertisseur, ce qui amène le modèle de langage à produire potentiellement une histoire ou un récit qui n'est ni illogique ni ambigu.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

AI Hentai Generator
Générez AI Hentai gratuitement.

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Le codage des ambiances est de remodeler le monde du développement de logiciels en nous permettant de créer des applications en utilisant le langage naturel au lieu de lignes de code sans fin. Inspirée par des visionnaires comme Andrej Karpathy, cette approche innovante permet de dev

Février 2025 a été un autre mois qui change la donne pour une IA générative, nous apportant certaines des mises à niveau des modèles les plus attendues et de nouvelles fonctionnalités révolutionnaires. De Xai's Grok 3 et Anthropic's Claude 3.7 Sonnet, à Openai's G

Yolo (vous ne regardez qu'une seule fois) a été un cadre de détection d'objets en temps réel de premier plan, chaque itération améliorant les versions précédentes. La dernière version Yolo V12 introduit des progrès qui améliorent considérablement la précision

Chatgpt 4 est actuellement disponible et largement utilisé, démontrant des améliorations significatives dans la compréhension du contexte et la génération de réponses cohérentes par rapport à ses prédécesseurs comme Chatgpt 3.5. Les développements futurs peuvent inclure un interg plus personnalisé

Gencast de Google Deepmind: une IA révolutionnaire pour les prévisions météorologiques Les prévisions météorologiques ont subi une transformation spectaculaire, passant des observations rudimentaires aux prédictions sophistiquées alimentées par l'IA. Gencast de Google Deepmind, un terreau

L'article traite des modèles d'IA dépassant Chatgpt, comme Lamda, Llama et Grok, mettant en évidence leurs avantages en matière de précision, de compréhension et d'impact de l'industrie. (159 caractères)

O1'S O1: Une vague de cadeaux de 12 jours commence par leur modèle le plus puissant à ce jour L'arrivée de décembre apporte un ralentissement mondial, les flocons de neige dans certaines parties du monde, mais Openai ne fait que commencer. Sam Altman et son équipe lancent un cadeau de don de 12 jours

Mistral OCR: révolutionner la génération de la récupération avec une compréhension du document multimodal Les systèmes de génération (RAG) (RAG) de la récupération ont considérablement avancé les capacités d'IA, permettant à de vastes magasins de données pour une responsabilité plus éclairée
