Maison Périphériques technologiques IA Yang Likun, lauréat du prix Turing : L'IA a des capacités de raisonnement logique et de planification limitées et commettra des erreurs factuelles et logiques.

Yang Likun, lauréat du prix Turing : L'IA a des capacités de raisonnement logique et de planification limitées et commettra des erreurs factuelles et logiques.

Jun 10, 2023 pm 05:05 PM
图灵奖 ai推理 事实错误

Yang Likun, lauréat du prix Turing : LIA a des capacités de raisonnement logique et de planification limitées et commettra des erreurs factuelles et logiques.

Produit par Sohu Technology

Auteur|Zheng Songyi

Le 9 juin, la conférence Zhiyuan sur l'intelligence artificielle 2023 s'est tenue à Pékin. A quatre heures du matin, heure locale en France, Yann LeCun, connu comme l'un des « Trois géants du Deep Learning dans le monde », a prononcé un discours sur la liaison vidéo française à Pékin sur le thème « Vers un grand modèle ». Capable d'apprendre, de raisonner et de planifier" Le discours exprimait une réflexion approfondie sur l'intelligence artificielle.

Sohu Technology a regardé ce discours lors de la conférence Zhiyuan. D'après l'expression souriante de Yang Likun pendant le discours, nous pouvons ressentir l'attitude positive et optimiste de Yang Likun envers le développement de l'intelligence artificielle. Auparavant, lorsque Musk et d'autres avaient signé une lettre commune affirmant que le développement de l'intelligence artificielle entraînerait des risques pour la civilisation humaine, Yang Likun l'avait publiquement réfuté, estimant que l'intelligence artificielle ne s'était pas encore développée au point de constituer une menace sérieuse pour l'humanité. Dans son discours, Yang Likun a une fois de plus souligné que l'intelligence artificielle est contrôlable. Il a déclaré : « La peur est causée par l'attente de résultats négatifs potentiels, tandis que l'exaltation est causée par la prédiction de résultats positifs. Je l'appelle « IA axée sur les objectifs », elle sera contrôlable car nous pouvons lui fixer des objectifs via une fonction de coût, garantissant que ces systèmes ne veulent pas conquérir le monde, mais succombent plutôt à l'humanité et à la sécurité.

Yang Likun a déclaré que l'écart entre l'intelligence artificielle et les humains et les animaux réside dans le raisonnement logique et la planification, qui sont des caractéristiques importantes de l'intelligence. Les grands modèles d'aujourd'hui ne peuvent que « réagir instinctivement ».

"Si vous les entraînez avec un billion ou deux billions de jetons, les performances de la machine sont incroyables, mais finalement la machine fera des erreurs factuelles, des erreurs logiques et leurs capacités de raisonnement sont limitées

."

Yang Likun a souligné que les modèles linguistiques basés sur l'auto-supervision ne peuvent pas acquérir de connaissances sur le monde réel. Il pense que les machines ne sont pas très douées pour apprendre par rapport aux humains et aux animaux. Pendant des décennies, la manière de développer des systèmes a été d'utiliser l'apprentissage supervisé, mais l'apprentissage supervisé nécessite trop d'étiquettes, tout apprendre nécessite beaucoup d'essais et les résultats de l'apprentissage par renforcement sont insatisfaisants et font des erreurs. mal, et pas vraiment capable de raisonner ou de planifier.

"Tout comme lorsque nous prononçons un discours, la façon dont nous exprimons un point à un autre et la façon dont nous expliquons les choses est planifiée dans notre cerveau au lieu d'improviser mot par mot. Peut-être qu'à un niveau bas, nous improvisons, mais à un niveau élevé, nous devons planifier, donc le besoin de planification est très évident. Ma prédiction est que dans un laps de temps relativement court, les personnes sensées n'utiliseront certainement pas d'éléments autorégressifs (l'un des modèles de ceux-ci). les systèmes seront bientôt abandonnés car irréparables. »

Il a déclaré que pour que le modèle de langage comprenne véritablement la connaissance du monde réel, une nouvelle architecture est nécessaire pour le remplacer, et cette architecture est l'architecture qu'il a proposée dans l'article qu'il a publié il y a un an, "Autonomous Intelligence". . Il s'agit d'une architecture dans laquelle un module de configuration contrôle l'ensemble du système et effectue des prédictions, un raisonnement et une prise de décision basés sur les informations d'entrée. Le « module mondial » a la capacité d’estimer les informations manquantes et de prédire les futures conditions extérieures.

Yang Likun, lauréat du prix Turing : LIA a des capacités de raisonnement logique et de planification limitées et commettra des erreurs factuelles et logiques.

Parlant des défis auxquels l'IA sera confrontée dans les prochaines années, Yang Likun a souligné trois aspects : le premier est d'apprendre le modèle de représentation et de prédiction du monde ; le second est d'apprendre à raisonner, c'est-à-dire d'apprendre à raisonner. utiliser la pensée consciemment et délibérément pour accomplir des tâches ; enfin, un défi consiste à planifier des séquences d'actions complexes en décomposant des tâches complexes en tâches plus simples, en les exécutant de manière hiérarchique.

En parlant de cela, Yang Likun a présenté un autre modèle qu'il a publié dans le journal "World Model", qui peut imaginer une scène et prédire les résultats des actions basées sur la scène. L’objectif est de trouver une séquence d’actions prédite par son propre modèle du monde et minimisant une série de coûts.

Lorsque Yang Likun a été interrogé lors de la séance de questions-réponses sur un débat à venir sur le statut et l'avenir de l'AGI, il a déclaré que le débat tournerait autour de la question de savoir si les systèmes d'intelligence artificielle présentent des risques existentiels pour les humains. Max Tegmark et Yoshua Bengio se rangeront du côté du « oui » en affirmant que les systèmes d’IA puissants peuvent présenter des risques existentiels pour les humains. Et Liqun Yang et Melanie Mitchell seront du côté du « non ».

« Notre argument n’est pas qu’il n’y a pas de risques, mais que ces risques, bien qu’ils existent, peuvent facilement être atténués ou supprimés grâce à une conception minutieuse. »

Yang Likun estime que le système super-intelligent n'a pas encore été développé. Une fois inventé, il sera trop tard pour discuter "si le système super-intelligent peut être rendu sûr pour les humains".

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
2 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Repo: Comment relancer ses coéquipiers
1 Il y a quelques mois By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Comment obtenir des graines géantes
1 Il y a quelques mois By 尊渡假赌尊渡假赌尊渡假赌
Combien de temps faut-il pour battre Split Fiction?
4 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

J'ai essayé le codage d'ambiance avec Cursor Ai et c'est incroyable! J'ai essayé le codage d'ambiance avec Cursor Ai et c'est incroyable! Mar 20, 2025 pm 03:34 PM

Le codage des ambiances est de remodeler le monde du développement de logiciels en nous permettant de créer des applications en utilisant le langage naturel au lieu de lignes de code sans fin. Inspirée par des visionnaires comme Andrej Karpathy, cette approche innovante permet de dev

Replit Agent: un guide avec des exemples pratiques Replit Agent: un guide avec des exemples pratiques Mar 04, 2025 am 10:52 AM

Révolutionment du développement des applications: une plongée profonde dans l'agent de repelit Vous en avez assez de lutter avec des environnements de développement complexes et des fichiers de configuration obscurs? Replit Agent vise à simplifier le processus de transformation des idées en applications fonctionnelles. Cet ai-p

Top 5 Genai Lunets de février 2025: GPT-4.5, Grok-3 et plus! Top 5 Genai Lunets de février 2025: GPT-4.5, Grok-3 et plus! Mar 22, 2025 am 10:58 AM

Février 2025 a été un autre mois qui change la donne pour une IA générative, nous apportant certaines des mises à niveau des modèles les plus attendues et de nouvelles fonctionnalités révolutionnaires. De Xai's Grok 3 et Anthropic's Claude 3.7 Sonnet, à Openai's G

Comment utiliser YOLO V12 pour la détection d'objets? Comment utiliser YOLO V12 pour la détection d'objets? Mar 22, 2025 am 11:07 AM

Yolo (vous ne regardez qu'une seule fois) a été un cadre de détection d'objets en temps réel de premier plan, chaque itération améliorant les versions précédentes. La dernière version Yolo V12 introduit des progrès qui améliorent considérablement la précision

Comment utiliser Dall-E 3: Conseils, exemples et fonctionnalités Comment utiliser Dall-E 3: Conseils, exemples et fonctionnalités Mar 09, 2025 pm 01:00 PM

Dall-E 3: Un outil de création d'images génératifs AI L'IA générative révolutionne la création de contenu, et Dall-E 3, le dernier modèle de génération d'images d'Openai, est à l'avant. Sorti en octobre 2023, il s'appuie sur ses prédécesseurs, Dall-E et Dall-E 2

Elon Musk et Sam Altman s'affrontent plus de 500 milliards de dollars Stargate Project Elon Musk et Sam Altman s'affrontent plus de 500 milliards de dollars Stargate Project Mar 08, 2025 am 11:15 AM

Le projet de 500 milliards de dollars Stargate IA, soutenu par des géants de la technologie comme Openai, Softbank, Oracle et Nvidia, et soutenu par le gouvernement américain, vise à consolider la direction de l'IA américaine. Cette entreprise ambitieuse promet un avenir façonné par AI Advanceme

5 invites Grok 3 qui peuvent faciliter votre travail 5 invites Grok 3 qui peuvent faciliter votre travail Mar 04, 2025 am 10:54 AM

GROK 3 - Elon Musk et le dernier modèle d'IA de Xai est le discours de la ville ces jours-ci. De Andrej Karpathy aux influenceurs technologiques, tout le monde parle des capacités de ce nouveau modèle. Initialement, l'accès était limité à

Google & # 039; s Gencast: Prévision météorologique avec Mini démo Gencast Google & # 039; s Gencast: Prévision météorologique avec Mini démo Gencast Mar 16, 2025 pm 01:46 PM

Gencast de Google Deepmind: une IA révolutionnaire pour les prévisions météorologiques Les prévisions météorologiques ont subi une transformation spectaculaire, passant des observations rudimentaires aux prédictions sophistiquées alimentées par l'IA. Gencast de Google Deepmind, un terreau

See all articles