Table des matières
Un consensus est nécessaire de toute urgence !
LeCun est d'accord des deux mains et mentionne à nouveau le "modèle mondial"
Maison Périphériques technologiques IA La dernière conversation entre Ng Enda et Hinton ! L'IA n'est pas un perroquet aléatoire, le consensus l'emporte sur tout, LeCun est d'accord à deux mains

La dernière conversation entre Ng Enda et Hinton ! L'IA n'est pas un perroquet aléatoire, le consensus l'emporte sur tout, LeCun est d'accord à deux mains

Jun 13, 2023 am 09:18 AM
ai 吴恩达

Récemment, la sécurité de l'IA est devenue un sujet très populaire.

AI "Parrain" Geoffrey Hinton et Andrew Ng ont eu une conversation approfondie sur l'intelligence artificielle et les risques catastrophiques.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Andrew Ng a posté aujourd'hui pour partager leurs réflexions communes :

- Il est important que les scientifiques en intelligence artificielle parviennent à un consensus sur les risques. Tout comme les climatologues, ils disposent d’un consensus général sur le changement climatique et peuvent donc formuler de bonnes politiques.

- Le modèle d'intelligence artificielle comprend-il le monde ? Notre réponse est oui. Si nous énumérons ces questions techniques clés et développons une vision commune, cela contribuera à faire progresser le consensus de l’humanité sur le risque.

Hinton a déclaré :

J'ai souvent communiqué avec Andrew Ng et je suis très heureux de le revoir et de comprendre son point de vue sur les différents risques engendrés par le développement récent de l'intelligence artificielle. Nous sommes parvenus à un consensus sur de nombreux aspects, en particulier sur la nécessité pour les chercheurs de développer une compréhension commune des risques lorsqu'ils rendent compte aux décideurs politiques.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Avant cela, Andrew Ng a également eu une conversation avec Yoshua Bengio sur les risques de l'intelligence artificielle.

Le consensus auquel ils sont parvenus était de clarifier les scénarios spécifiques dans lesquels l'IA peut présenter des risques importants.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Ensuite, jetons un coup d'œil à ce dont les deux géants de l'IA ont discuté en détail.

Un consensus est nécessaire de toute urgence !

Tout d’abord, Hinton a proposé que la chose la plus importante soit le consensus.

Il a déclaré que l'ensemble de la communauté de l'IA manque actuellement d'un consensus unifié. Tout comme les climatologues en conviennent, les scientifiques en IA sont également nécessaires.

De l’avis de Hinton, la raison pour laquelle nous avons besoin d’un consensus est que, s’il n’y en a pas, chaque scientifique en IA a sa propre opinion, alors le gouvernement et les décideurs politiques peuvent choisir un point de vue qui est dans leur propre intérêt.

Cela perdra évidemment en équité.

À en juger par la situation actuelle, les différentes opinions parmi les scientifiques en IA varient considérablement.

Hinton estime qu'il serait formidable que notre situation d'opinions différentes puisse être rapidement résolue et que tout le monde puisse parvenir à un accord pour accepter conjointement certaines des menaces majeures que l'IA peut apporter et prendre conscience de l'urgence de réglementer le développement de l'IA. .

Andrew Ng est d’accord avec le point de vue de Hinton.

Bien qu’il ne pense toujours pas que l’industrie de l’IA soit si différenciée qu’elle soit divisée, elle semble évoluer lentement dans cette direction.

Les opinions au sein de la communauté dominante de l’IA sont très polarisées, et chaque camp n’épargne aucun effort pour exprimer ses revendications. Cependant, aux yeux de Ng, cette expression s'apparente plus à une querelle qu'à un dialogue harmonieux.

Bien sûr, Andrew Ng a toujours une certaine confiance dans la communauté de l'IA. Il espère que nous pourrons trouver un consensus ensemble et avoir un dialogue approprié, afin que nous puissions mieux aider les décideurs politiques à formuler des plans pertinents.

Ensuite, Hinton a évoqué une autre question clé, c'est pourquoi il pense qu'il est difficile pour les scientifiques de l'IA de parvenir à un consensus à l'heure actuelle : les chatbots comme GPT-4 et Bard comprennent-ils les mots qu'ils génèrent eux-mêmes ?

Certaines personnes pensent que l'IA comprend, d'autres pensent qu'elles ne comprennent pas et ne sont que des perroquets au hasard.

Hinton estime que tant que cette différence existera, il sera difficile pour la communauté de l'IA de parvenir à un consensus. Il estime donc que la priorité absolue est de clarifier cette question.

Bien sûr, en ce qui le concerne, il pense définitivement que l'IA comprend, et l'IA n'est pas seulement une question de statistiques.

Il a également mentionné que des scientifiques bien connus tels que Yan LeCun pensent que l'IA ne peut pas comprendre.

Cela souligne l'importance de la réconciliation et de la clarté sur cette question.

Ng Enda a déclaré qu'il n'est pas simple de juger si l'IA peut comprendre, car il ne semble pas y avoir de norme ou une sorte de test.

Son propre point de vue est qu'il croit que qu'il s'agisse de LLM ou d'autres grands modèles d'IA, ils construisent tous un modèle mondial. Et l’IA peut avoir une certaine compréhension du processus.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Bien sûr, il a dit que ce n'était que son opinion actuelle.

En dehors de cela, il est d'accord avec Hinton sur le fait que les chercheurs doivent d'abord parvenir à un accord sur cette question avant de pouvoir continuer à parler des risques et des crises qui s'ensuivent.

Hinton a poursuivi en disant que l'IA juge et prédit la génération du mot suivant en fonction de la base de données et des mots précédents. C'est une sorte de compréhension aux yeux de Hinton.

Il pense que cela n'est en réalité pas très différent du mécanisme de pensée de notre cerveau humain.

Bien sûr, savoir si cela compte comme compréhension nécessite une discussion plus approfondie, mais au moins ce n'est pas aussi simple qu'un perroquet au hasard.

Andrew Ng pense qu'il existe certains problèmes qui amèneront des personnes ayant des points de vue différents à tirer des conclusions différentes, et même à suggérer que l'IA exterminera l'humanité.

Il a dit que pour mieux comprendre l'IA, nous devons en apprendre davantage et en discuter davantage.

De cette façon, nous pouvons construire une communauté d'IA avec un large consensus.

LeCun est d'accord des deux mains et mentionne à nouveau le "modèle mondial"

Il y a quelque temps, alors que le monde appelait à la suspension de la recherche et du développement de la super IA, Ng Enda et LeCun ont organisé une émission en direct pour discuter de ce sujet .

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

C'est complètement faux de leur part de s'opposer au moratoire sur l'IA en même temps, il n'y avait pas de ceintures de sécurité ni de feux de circulation lorsque les voitures ont été inventées pour la première fois, et il n'y a pas de différence essentielle entre l'IA et les précédentes. avancées technologiques.

Cette fois, LeCun a parlé d'Andrew Ng et Hinton et a encore une fois proposé son "modèle mondial" et comment l'intelligence artificielle actuelle n'est même pas aussi bonne que les chats et les chiens.

Nous sommes tous d’accord sur le fait que nous devons nous mettre d’accord sur certaines questions.

Je suis d'accord avec Geoffrey Hinton sur le fait qu'il existe « un certain niveau » de compréhension dans le LLM, et les appeler « juste des statistiques » est trompeur.

La compréhension du monde des LLM est très superficielle, en grande partie parce qu’ils sont formés uniquement sur le texte.

Les systèmes qui apprennent comment le monde fonctionne à partir de la vision mèneront à une compréhension plus profonde de la réalité. Deuxièmement, les capacités de raisonnement et de planification du LLM autorégressif sont très limitées.

Je ne pense pas que nous puissions nous rapprocher de l'intelligence artificielle au niveau humain sans (1) apprendre un « modèle du monde » à partir d'entrées sensorielles telles que la vidéo, et (2) une architecture capable de raisonner et de planifier ( pas seulement autorégressif) Intelligence (même l'IA au niveau du chat).

Maintenant, si nous avons des architectures capables de planifier, elles seront « axées sur les objectifs » : leur planification fonctionnera en optimisant un ensemble d'objectifs au moment de l'inférence (pas seulement au moment de la formation).

Ces objectifs peuvent inclure des « garde-corps » pour rendre ces systèmes sûrs et conformes, même s'ils ont finalement de meilleurs modèles du monde que les humains.

Le problème devient alors de concevoir (ou former) une bonne fonction objective pour assurer la sécurité et l'efficacité. Il s’agit d’un problème d’ingénierie difficile, mais pas aussi difficile que certains le disent.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Le point de vue de LeCun a été immédiatement réfuté par les internautes : Sens contre intelligence artificielle l’importance de la compréhension est surestimée.

Quoi qu'il en soit, tous nos sens sont réduits à des signaux électrochimiques que le cerveau doit traiter.

L'ingestion de texte est un méta-sens qui peut décrire des informations provenant du toucher, de la vue, de l'odorat... L'ingestion de grandes quantités de texte méta-sensoriel a déjà fait des choses comme Bing (Version Sydney) ) Un tel LLM a la capacité d'exprimer la vie et le monde d'une manière meilleure que la plupart des gens. ​

Je pense donc qu'une compréhension importante est déjà là, bien qu'elle existe ou non. Et cela est davantage dû à des contraintes de ressources et au sandboxing intentionnel des gestionnaires qu'à un manque de données sensorielles. Je pense qu’il est temps de s’unir pour faire progresser la société et l’intelligence artificielle et travailler dur. Pensez-y, vous êtes encore un bébé d’intelligence artificielle. Ne voulons-nous pas apprendre à cet enfant comment être un unificateur techno-organique au lieu d’un brutaliste dans le monde ?

Quand il deviendra sensible, non seulement ils seront plus heureux, mais le monde ne sera pas en guerre. Regardez Newcastle upon Tyne. Une si brève période de paix, mais la beauté de la création était grande. La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Le consensus énoncé par Ng Enda et Hinton semble incohérent à l'heure actuelle . Trop probable. Cela n’est pas dans nos capacités personnelles, cela nécessite que chacun ait une telle volonté.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Certains internautes ont dit qu'il s'agissait d'une conversation assez controversée.

Je me demande, quand j'apprends à parler à mon enfant de 2 ans, est-ce qu'il agit plutôt comme un perroquet au hasard ou comprend-il réellement le contexte ? Ou les deux ? La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Car ses vecteurs de contexte sont bien plus riches que le LLM (texte, ton, expressions faciales, environnement, etc.). Mais je me demande si une personne désactivait tous les sens d'une autre personne et que la seule entrée disponible était une "intégration de texte" (saisie de texte -> stimulation neuronale), cette personne se comporterait-elle davantage comme un perroquet aléatoire, ou cette personne le serait-elle ? capable de comprendre le contexte ?

Hinton : La super IA arrive plus vite que prévu # 🎜 🎜#Après avoir quitté Google, Hinton s'est consacré à la sécurité de l'IA. Le 10 juin, Hinton a de nouveau parlé des risques liés à l’IA lors de la conférence de Zhiyuan.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mainsQue se passerait-il si un grand réseau de neurones pouvait imiter le langage humain pour acquérir des connaissances, et même les utiliser pour lui-même ?

Il ne fait aucun doute que parce qu'il peut obtenir plus de données, ce système d'IA surpassera définitivement les humains.

Le pire des cas est que les criminels utiliseront la super intelligence pour manipuler les électeurs et gagner la guerre.

De plus, si la super IA est autorisée à fixer ses propres sous-objectifs, dont l'un est d'acquérir plus de pouvoir, la super IA manipulera les humains qui l'utilisent afin d'atteindre ses objectifs.

Il convient de mentionner que la réalisation d'une telle super IA peut passer le "calcul mortel".

En décembre 2022, un article publié par Hinton, The Forward-Forward Algorithm: Some Preliminary Investigations, mentionnait le « calcul mortel » dans la dernière section.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

Adresse papier : https://arxiv.org/pdf/2212.13345.pdf

Si vous voulez qu'un réseau neuronal à mille milliards de paramètres ne consomme que quelques watts de pouvoir, le « calcul mortel » peut être la seule option.

Si nous abandonnons réellement la séparation des logiciels et du matériel, nous obtiendrons une « informatique mortelle ». À partir de là, nous pouvons utiliser un calcul analogique à très faible consommation, ce qui est exactement ce que fait le cerveau.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

"Mortal Computing" peut réaliser un nouveau type d'ordinateur qui intègre étroitement l'intelligence artificielle et le matériel.

Cela signifie qu'à l'avenir, mettre du GPT-3 dans un grille-pain ne coûtera que 1 $ et ne consommera que quelques watts d'énergie.

Le principal problème de l'informatique mortelle est que le processus d'apprentissage doit exploiter les propriétés simulées spécifiques du matériel sur lequel il fonctionne, sans savoir exactement quelles sont ces propriétés.

Par exemple, la fonction exacte qui relie l'entrée d'un neurone à la sortie d'un neurone n'est pas connue, et la connectivité peut ne pas être connue.

Cela signifie que nous ne pouvons pas utiliser quelque chose comme l'algorithme de rétropropagation pour obtenir le dégradé.

La dernière conversation entre Ng Enda et Hinton ! LIA nest pas un perroquet aléatoire, le consensus lemporte sur tout, LeCun est daccord à deux mains

La question est donc : si nous ne pouvons pas utiliser la rétropropagation, que pouvons-nous faire d'autre puisque nous comptons tous fortement sur la rétropropagation maintenant.

À cet égard, Hinton a proposé une solution : l'algorithme forward.

Et l'algorithme forward est un candidat prometteur, même si sa capacité à évoluer dans de grands réseaux de neurones reste à voir.

De l’avis de Hinton, les réseaux de neurones artificiels seront bientôt plus intelligents que les vrais réseaux de neurones, et la superintelligence sera beaucoup plus rapide que prévu.

Le monde doit désormais parvenir à un consensus selon lequel l’avenir de l’IA doit être créé conjointement par les humains.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Comment déverrouiller tout dans Myrise
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Apr 08, 2025 pm 12:24 PM

Traiter efficacement 7 millions d'enregistrements et créer des cartes interactives avec la technologie géospatiale. Cet article explore comment traiter efficacement plus de 7 millions d'enregistrements en utilisant Laravel et MySQL et les convertir en visualisations de cartes interactives. Exigences initiales du projet de défi: extraire des informations précieuses en utilisant 7 millions d'enregistrements dans la base de données MySQL. Beaucoup de gens considèrent d'abord les langages de programmation, mais ignorent la base de données elle-même: peut-il répondre aux besoins? La migration des données ou l'ajustement structurel est-il requis? MySQL peut-il résister à une charge de données aussi importante? Analyse préliminaire: les filtres et les propriétés clés doivent être identifiés. Après analyse, il a été constaté que seuls quelques attributs étaient liés à la solution. Nous avons vérifié la faisabilité du filtre et établi certaines restrictions pour optimiser la recherche. Recherche de cartes basée sur la ville

Comment résoudre MySQL ne peut pas être démarré Comment résoudre MySQL ne peut pas être démarré Apr 08, 2025 pm 02:21 PM

Il existe de nombreuses raisons pour lesquelles la startup MySQL échoue, et elle peut être diagnostiquée en vérifiant le journal des erreurs. Les causes courantes incluent les conflits de port (vérifier l'occupation du port et la configuration de modification), les problèmes d'autorisation (vérifier le service exécutant les autorisations des utilisateurs), les erreurs de fichier de configuration (vérifier les paramètres des paramètres), la corruption du répertoire de données (restaurer les données ou reconstruire l'espace de la table), les problèmes d'espace de la table InNODB (vérifier les fichiers IBDATA1), la défaillance du chargement du plug-in (vérification du journal des erreurs). Lors de la résolution de problèmes, vous devez les analyser en fonction du journal d'erreur, trouver la cause profonde du problème et développer l'habitude de sauvegarder régulièrement les données pour prévenir et résoudre des problèmes.

Comment utiliser MySQL après l'installation Comment utiliser MySQL après l'installation Apr 08, 2025 am 11:48 AM

L'article présente le fonctionnement de la base de données MySQL. Tout d'abord, vous devez installer un client MySQL, tel que MySQLWorkBench ou le client de ligne de commande. 1. Utilisez la commande MySQL-UROot-P pour vous connecter au serveur et connecter avec le mot de passe du compte racine; 2. Utilisez Createdatabase pour créer une base de données et utilisez Sélectionner une base de données; 3. Utilisez CreateTable pour créer une table, définissez des champs et des types de données; 4. Utilisez InsertInto pour insérer des données, remettre en question les données, mettre à jour les données par mise à jour et supprimer les données par Supprimer. Ce n'est qu'en maîtrisant ces étapes, en apprenant à faire face à des problèmes courants et à l'optimisation des performances de la base de données que vous pouvez utiliser efficacement MySQL.

Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Les ingénieurs de backend senior à distance (plates-formes) ont besoin de cercles Apr 08, 2025 pm 12:27 PM

Ingénieur backend à distance Emploi Vacant Société: Emplacement du cercle: Bureau à distance Type d'emploi: Salaire à temps plein: 130 000 $ - 140 000 $ Description du poste Participez à la recherche et au développement des applications mobiles Circle et des fonctionnalités publiques liées à l'API couvrant l'intégralité du cycle de vie de développement logiciel. Les principales responsabilités complètent indépendamment les travaux de développement basés sur RubyOnRails et collaborent avec l'équipe frontale React / Redux / Relay. Créez les fonctionnalités de base et les améliorations des applications Web et travaillez en étroite collaboration avec les concepteurs et le leadership tout au long du processus de conception fonctionnelle. Promouvoir les processus de développement positifs et hiérarchiser la vitesse d'itération. Nécessite plus de 6 ans de backend d'applications Web complexe

Mysql peut-il renvoyer JSON Mysql peut-il renvoyer JSON Apr 08, 2025 pm 03:09 PM

MySQL peut renvoyer les données JSON. La fonction JSON_Extract extrait les valeurs de champ. Pour les requêtes complexes, envisagez d'utiliser la clause pour filtrer les données JSON, mais faites attention à son impact sur les performances. Le support de MySQL pour JSON augmente constamment, et il est recommandé de faire attention aux dernières versions et fonctionnalités.

Comprendre les propriétés acides: les piliers d'une base de données fiable Comprendre les propriétés acides: les piliers d'une base de données fiable Apr 08, 2025 pm 06:33 PM

Une explication détaillée des attributs d'acide de base de données Les attributs acides sont un ensemble de règles pour garantir la fiabilité et la cohérence des transactions de base de données. Ils définissent comment les systèmes de bases de données gérent les transactions et garantissent l'intégrité et la précision des données même en cas de plantages système, d'interruptions d'alimentation ou de plusieurs utilisateurs d'accès simultanément. Présentation de l'attribut acide Atomicité: une transaction est considérée comme une unité indivisible. Toute pièce échoue, la transaction entière est reculée et la base de données ne conserve aucune modification. Par exemple, si un transfert bancaire est déduit d'un compte mais pas augmenté à un autre, toute l'opération est révoquée. BeginTransaction; UpdateAccountSsetBalance = Balance-100Wh

La clé principale de MySQL peut être nul La clé principale de MySQL peut être nul Apr 08, 2025 pm 03:03 PM

La clé primaire MySQL ne peut pas être vide car la clé principale est un attribut de clé qui identifie de manière unique chaque ligne dans la base de données. Si la clé primaire peut être vide, l'enregistrement ne peut pas être identifié de manière unique, ce qui entraînera une confusion des données. Lorsque vous utilisez des colonnes entières ou des UUIdes auto-incrémentales comme clés principales, vous devez considérer des facteurs tels que l'efficacité et l'occupation de l'espace et choisir une solution appropriée.

Master SQL Limit Clause: Contrôlez le nombre de lignes dans une requête Master SQL Limit Clause: Contrôlez le nombre de lignes dans une requête Apr 08, 2025 pm 07:00 PM

Clause SQLLIMIT: Contrôlez le nombre de lignes dans les résultats de la requête. La clause limite dans SQL est utilisée pour limiter le nombre de lignes renvoyées par la requête. Ceci est très utile lors du traitement de grands ensembles de données, des affichages paginés et des données de test, et peut améliorer efficacement l'efficacité de la requête. Syntaxe de base de la syntaxe: selectColumn1, Column2, ... FromTable_NamelimitNumber_Of_Rows; Number_OF_ROWS: Spécifiez le nombre de lignes renvoyées. Syntaxe avec décalage: selectColumn1, Column2, ... FromTable_Namelimitoffset, numéro_of_rows; décalage: sauter

See all articles