Entretien exclusif avec 'Père de l'intelligence artificielle moderne' Juergen Schmidhuber, dont l'œuvre de toute une vie n'apportera pas de destruction

Le public ne se souviendra de Juergen Schmidhuber que lorsqu'il y aura une énorme contradiction entre la technologie et l'économie. De la lettre ouverte d'avril suspendant le développement de la technologie de l'intelligence artificielle, jusqu'au départ de Geoffrey Hinton de Google au début de ce mois afin de pouvoir parler plus « librement » des risques de l'IA. La technologie la plus imaginative et la plus controversée de ce siècle se trouve enfin à la croisée des chemins.

Au cours des deux dernières années, la vedette de Juergen Schmidhuber a été éclipsée par les trois géants de l'intelligence artificielle (Yoshua Bengio, Geoffrey Hinton et Yann LeCun) qui ont remporté le Turing Award, de sorte que le public a inconsciemment mis ce penseur de l'intelligence artificielle et pionnier de la technologie dans l'ombre. sous les projecteurs. Un endroit relativement sous-estimé.

Pour comprendre la raison pour laquelle il a raté le prix Turing, il convient peut-être de se référer aux commentaires du professeur Zhou Zhihua, doyen de l'école d'intelligence artificielle de l'université de Nanjing : « En termes de contribution à l'apprentissage profond, Hinton ne fait aucun doute. se classe premier, et LeCun et Schmidhuber ont tous deux apporté de grandes contributions. Mais HLB est toujours ensemble, et Schmidhuber ne fait évidemment pas partie de ce petit groupe. Les nominations et les votes sont nécessaires pour gagner, mais cela n'a pas d'importance. LSTM, il est assez calme.

Plus tôt en 1990, Schmidhuber a clarifié les réseaux neuronaux antagonistes génératifs non supervisés. Ces réseaux neuronaux se font concurrence dans des jeux minimax pour atteindre une curiosité artificielle. En 1991, il a introduit le programme de pondération neuronale rapide, qui est formellement équivalent à ce qu'on appelle aujourd'hui un transformateur avec une attention personnelle linéarisée. Aujourd’hui, ce convertisseur pilote le fameux ChatGPT. En 2015, son équipe a lancé les réseaux de neurones routiers, qui sont plusieurs fois plus profonds que les réseaux précédents.

Tout au long de sa carrière, Schmidhuber a reçu de nombreux prix et distinctions pour son travail révolutionnaire. En 2013, il a reçu le prix Helmholtz en reconnaissance de ses contributions significatives au domaine de l'apprentissage automatique. En 2016, il a reçu le prix IEEE Neural Network Pioneer Award pour ses « contributions pionnières à l'apprentissage profond et aux réseaux de neurones ». Il convient également de noter qu'avant que Yoshua Bengio, Geoffrey Hinton et Yann LeCun ne remportent le prix Turing, Juergen Schmidhuber était déjà connu comme le « père de l'intelligence artificielle moderne ».

Sa voix est souvent à l'opposé du « mainstream », mais elle a souvent raison. Schmidhuber a accepté une interview exclusive avec Forbes Chine plus tôt cette année et a récemment répondu à une série de questions de Hessie Jones, collaboratrice de Forbes, sur les préoccupations concernant l'intelligence artificielle. Nous avons organisé la conversation pertinente comme suit :

Forbes Chine : Des technologies telles que l'apprentissage profond et les réseaux de neurones ont-elles annoncé des changements fondamentaux après l'émergence de ChatGPT ?

Schmidhuber : En fait non, car ChatGPT est essentiellement un réseau neuronal d'apprentissage, dont les bases ont été posées au cours du dernier millénaire. Cependant, grâce à l'accélération matérielle constante, il est désormais possible de construire des réseaux neuronaux plus grands qu'auparavant et d'évoluer vers ce réseau. Ils alimentent Internet dans son intégralité, apprenant à prédire des parties de texte (telles que « chat ») et des images. L’intelligence de ChatGPT est principalement le résultat de ces énormes échelles.

Le réseau neuronal sur lequel est basé ChatGPT est ce qu'on appelle le « convertisseur d'attention ». J'en suis heureux car il y a plus de 30 ans, j'ai publié ce qu'on appelle aujourd'hui "Transformers with Linear Self-Attention" (J. Schmidhuber. Apprendre à contrôler les mémoires à poids rapide : une alternative aux réseaux récurrents. Calcul neuronal, 4( 1):131-139, 1992). Ils sont équivalents à ce que j'appelle des programmeurs neuronaux de poids rapide (sauf pour la normalisation), avec un stockage et un contrôle séparés ; le terme attention a été introduit à l'ICANN en 1993 ;

Forbes Chine : Vous êtes allé en Chine, alors que pensez-vous du développement de la technologie de l'intelligence artificielle en Chine ? Comment la Chine devrait-elle rattraper les pays technologiquement avancés comme les États-Unis ?

Schmidhuber : Alors que la plupart des algorithmes de base pour l'apprentissage profond ont été inventés par des Européens, les grandes entreprises américaines ont fait un meilleur travail de commercialisation de ces algorithmes. Je ne pense pas que les entreprises chinoises soient à la traîne. Ces méthodes de base sont déjà accessibles au public et open source. Ce dont vous avez besoin, ce sont des ordinateurs rapides, beaucoup de données et des talents en ingénierie. J'ai visité la Chine à plusieurs reprises et je sais que la Chine a tout pour plaire et qu'elle est déjà le pays qui publie le plus d'articles sur l'intelligence artificielle. Je suis donc très optimiste quant à l’intelligence artificielle chinoise !

Forbes Chine : Actuellement, la plupart de la puissance de calcul et des données sont entre les mains de certains géants de l'industrie. Comment les MPME et les startups peuvent-elles surmonter les barrières ?

Schmidhuber : Il y a 40 ans, j'ai connu un homme riche. Il a une Porsche. Mais le plus surprenant, c'est qu'il y a un téléphone portable dans la Porsche. Ainsi, via satellite, il peut appeler d'autres personnes possédant des Porsche similaires.

Aujourd'hui, tout le monde possède un smartphone bon marché qui est meilleur à bien des égards que celui de votre Porsche. Et à mesure que l’intelligence artificielle se développera, elle évoluera également. N’oubliez pas : tous les 5 ans, l’IA deviendra 10 fois moins chère. Tout le monde aura des tonnes d’IA bon marché à son service. (Il s'agit d'une loi plus ancienne que la loi de Moore et qui existe depuis près de mille ans depuis la découverte des engrenages.)

En effet, la devise de notre entreprise NNAISENSE est : « L'Intelligence Artificielle est pour tous » ! Notre intelligence artificielle rend déjà la vie humaine plus longue, plus saine, plus facile et plus heureuse. L’intelligence artificielle ne sera pas contrôlée par quelques grandes entreprises. Non, tout le monde disposera d’une intelligence artificielle bon marché mais puissante pour améliorer sa vie de plusieurs manières.

Forbes Chine : Selon vous, quelles opportunités existent pour les entrepreneurs et les start-ups dans le domaine de l'intelligence artificielle et du deep learning ?

Schmidhuber : Je peux parler du point de vue de NNAISENSE, l'entreprise que nous avons fondée. Il se prononce comme « nascence » (« naissance » en anglais) mais s’écrit différemment car il est basé sur l’intelligence artificielle générale des réseaux neuronaux. Aujourd’hui, la plupart des bénéfices de l’IA sont réalisés dans des mondes virtuels, utilisés pour le marketing et la vente de publicités – ce que font les grandes sociétés de plateformes du Pacifique : Alibaba, Amazon, Facebook, Tencent, Google, Baidu et d’autres. Cependant, le marketing ne représente qu’une petite partie de l’économie mondiale. Des parties plus grandes seront également envahies par l’intelligence artificielle, tout comme dans le film. Il existe de nombreuses opportunités pour les startups comme la nôtre.

Forbes Chine : Selon vous, quelle est la tendance selon laquelle l'intelligence artificielle remplace les emplois humains, compte tenu de l'incroyable expérience apportée par ChatGPT ?

Schmidhuber : Avec ChatGPT, les utilisateurs peuvent soudainement avoir l'impression de parler à une personne très compétente qui semble avoir des réponses bien conçues à tous les sujets et questions. Même une tâche complexe comme « rédiger un résumé d'un article à ce sujet dans le style de cet écrivain » peut souvent être résolue si rapidement que seules des modifications mineures sont nécessaires par la suite. De nombreuses tâches de bureau seront grandement facilitées par un compagnon IA aussi intelligent.

Quel type d’IA fonctionne plutôt bien aujourd’hui ? La réponse est l’intelligence artificielle au service des employés de bureau. Les exemples incluent répondre à des questions d'examen de droit, résumer des documents d'entreprise, vaincre vos adversaires dans des mondes virtuels (par exemple des jeux vidéo) ou suivre vos mouvements sur Internet et vous proposer des publicités personnalisées.

Forbes Chine : Que pensez-vous des défis auxquels l'IA est confrontée en termes d'éthique, de moralité, de confidentialité et de sécurité ?

Schmidhuber : Ce sera une course aux armements entre les IA, certaines IA se battant pour certaines normes éthiques et morales, la vie privée et la sécurité, et d'autres étant moins bienveillantes.

Forbes Chine : Le développement actuel de l’IA répond-il à vos prévisions ? Comment le deep learning va-t-il se développer à l’avenir ?

Schmidhuber : Depuis que j'ai environ 15 ans, mon objectif principal est de construire une intelligence artificielle qui s'améliore automatiquement et qui est plus intelligente que moi, puis de prendre ma retraite. Les développements actuels sont conformes à mes prévisions.

N'oubliez pas que tous les 5 ans depuis 1941, les ordinateurs sont devenus 10 fois moins chers. Une extrapolation naïve de cette tendance exponentielle prédit que le 21e siècle verra des ordinateurs bon marché dotés d’une puissance de calcul jusqu’à mille fois supérieure à celle de tous les cerveaux humains. Il y aura bientôt des millions, des milliards, voire des milliards de ces appareils.

Ce qui suit est une conversation entre Hessie Jones, contributeur de Forbes, et Schmidhuber sur une série de questions concernant l'intelligence artificielle. Pour garantir que le texte soit clair et cohérent, ce qui suit a été modifié.

Jones : Vous avez signé une lettre d'avertissement concernant les armes IA. Mais vous n’avez pas signé la « Suspension des expériences sur de grands modèles en intelligence artificielle : une lettre ouverte » récemment publiée. Y a-t-il une raison ?

Schmidhuber : 

Je me suis rendu compte que bon nombre de ceux qui mettent publiquement en garde contre les dangers de l’IA recherchent simplement de la publicité. Je ne pense pas que cette dernière lettre aura un impact significatif, car de nombreux chercheurs, entreprises et gouvernements en IA l’ignoreront complètement.

Le mot « nous » a été utilisé à plusieurs reprises dans cette lettre ouverte, faisant référence à « nous tous », c'est-à-dire les êtres humains. Mais comme je l’ai souligné à maintes reprises dans le passé, il n’existe pas de « nous » auquel tout le monde puisse s’identifier. Demandez à 10 personnes différentes et vous entendrez 10 opinions différentes sur ce qu’est le « bien ». Certains de ces points de vue sont totalement incompatibles. N’oubliez pas le grand conflit entre de nombreuses personnes.

La lettre disait également : « Si cette suspension ne peut pas être mise en place rapidement, le gouvernement devrait intervenir. » Le problème est que les différents gouvernements ont des points de vue différents sur ce qui est bon pour eux-mêmes et ce qui est bon pour les autres. La puissance A dira que si nous ne le faisons pas, la puissance B le fera, peut-être secrètement, pour obtenir un avantage sur nous. Il en va de même pour le grand pays C et le grand pays D.

Jones : Tout le monde reconnaît cette peur de la technologie actuelle d’IA générative. De plus, le PDG d’OpenAI, Sam Altman, a lui-même reconnu publiquement les menaces existentielles de cette technologie et a appelé à une régulation de l’intelligence artificielle. De votre point de vue, l’IA constitue-t-elle une menace existentielle pour l’humanité ?

Schmidhuber : L’IA peut en effet être transformée en arme, et je n’ai aucun doute qu’il y aura une sorte de course aux armements en matière d’IA, mais l’IA n’introduit pas de nouvelle menace existentielle. La menace posée par les armes de l’intelligence artificielle semble éclipsée par la menace plus ancienne des bombes nucléaires et à hydrogène. Nous devrions avoir davantage peur de la technologie des fusées à bombe à hydrogène d’il y a un demi-siècle. La Tsar Bomba de 1961 (une bombe à hydrogène développée par l’Union soviétique pendant la guerre froide au début des années 1960) était près de 15 fois plus destructrice que toutes les armes de la Seconde Guerre mondiale réunies. Bien que les pays se soient engagés dans un désarmement nucléaire spectaculaire depuis les années 1980, le monde dispose encore de suffisamment d’ogives nucléaires pour anéantir la civilisation humaine en deux heures, sans l’aide de l’intelligence artificielle. Je suis plus préoccupé par les anciennes menaces existentielles que par les armes d'IA relativement inoffensives.

Jones : Je me rends compte que même si vous comparez l'IA à la menace des bombes nucléaires, il existe un danger que la technologie actuelle puisse être maîtrisée par les humains et leur permettre de cibler "éventuellement" les humains de manière très précise. d’autres dommages, comme des frappes ciblées de drones. Comme certaines personnes l'ont souligné, vous donnez aux gens un ensemble d'outils qu'ils n'avaient jamais eu auparavant, permettant aux méchants de faire plus de mauvaises choses qu'ils ne le pouvaient auparavant parce qu'ils ne disposaient pas de la technologie.

Schmidhuber : En principe, cela semble effrayant, mais nos lois existantes sont adéquates pour lutter contre ces nouvelles armes alimentées par l'IA. Si vous tuez quelqu’un avec une arme à feu, vous allez en prison, et il en va de même si vous tuez quelqu’un avec un drone. Les forces de l’ordre comprendront mieux les nouvelles menaces et les nouvelles armes, et disposeront d’une meilleure technologie pour les contrer. Faire en sorte qu'un drone cible une cible à distance nécessite un certain suivi et une certaine intelligence, ce qui est traditionnellement effectué par des humains qualifiés, mais pour moi, cela ressemble simplement à une version améliorée d'une arme traditionnelle, comme l'actuelle. je sais, c'est juste un peu plus intelligent que les vieilles armes.

Jones : La menace existentielle implicite est la mesure dans laquelle les humains contrôlent cette technologie. Nous observons quelques premiers cas d’opportunisme qui, comme vous l’avez dit, tendent à attirer davantage l’attention des médias que les avancées positives. Mais voulez-vous dire que tout s’équilibrera ?

Schmidhuber : Historiquement, nous avons une longue tradition selon laquelle les percées technologiques conduisent à des progrès dans le domaine des armes, tant pour la défense que pour la protection. Des bâtons aux pierres, des haches à la poudre, des canons aux roquettes et maintenant aux drones, tout cela a eu un impact énorme sur l'histoire de l'humanité, mais tout au long de l'histoire, ceux qui utilisent la technologie pour parvenir à leurs propres fins ont également été confrontés aux mêmes techniques que leurs compatriotes. les adversaires apprennent également à utiliser cette technique contre eux. Cela s’est répété tout au long des milliers d’années de l’histoire de l’humanité, et cela continuera de se produire. Je ne pense pas que la nouvelle course aux armements basée sur l’IA pose la même menace existentielle que les ogives nucléaires à l’ancienne.

Vous avez dit quelque chose de très important, certaines personnes préfèrent parler des inconvénients de cette technologie plutôt que de ses avantages, mais cela est trompeur car 95 % de la recherche et du développement en IA visent à rendre les gens plus heureux et à promouvoir la vie et la santé humaines.

Jones : Parlons des progrès de la recherche sur l’intelligence artificielle qui sont bénéfiques et peuvent changer fondamentalement les méthodes actuelles et réaliser des percées.

Schmidhuber : Okay ! Par exemple, il y a 11 ans, notre équipe et mon postdoc Dan Ciresan ont été les premiers à remporter un concours d'imagerie médicale utilisant le deep learning. Nous avons analysé les cellules mammaires féminines dans le but de distinguer les cellules inoffensives de celles au stade précancéreux. Il faut souvent beaucoup de temps à un oncologue qualifié pour prendre ces décisions. Notre équipe ne savait rien du cancer, mais elle a pu entraîner un réseau neuronal artificiel sur une grande quantité de ces données, même si le réseau était très stupide au départ. Elle surpasse toutes les autres méthodes. Aujourd'hui, il est utilisé non seulement dans le cancer du sein, mais aussi en radiologie et pour détecter la plaque dans les artères, entre autres. Certains des réseaux neuronaux que nous avons développés au cours des 30 dernières années sont désormais utilisés dans des milliers d’applications de soins de santé, détectant des maladies telles que le diabète et le COVID-19. Cela finira par imprégner tous les domaines de la santé. Les bons résultats de ce type d’IA sont bien plus importants que de nouvelles façons accrocheuses d’utiliser l’IA pour commettre des crimes.

Jones : L'application est le produit de résultats améliorés. L'adoption à grande échelle nous amène soit à croire que les gens sont égarés, soit, à l'inverse, que la technologie a un impact positif sur la vie des gens.

Schmidhuber : Ce dernier scénario est le plus probable. Nous sommes soumis à une énorme pression commerciale pour avoir besoin d’une bonne IA plutôt que d’une mauvaise, car les entreprises veulent vous vendre des produits et vous n’achèterez que ce que vous pensez être bon pour vous. Ainsi, sous cette simple pression commerciale, vous avez un énorme penchant en faveur d’une bonne IA par opposition à une mauvaise IA. Cependant, les scènes apocalyptiques des films de Schwarzenegger sont plus susceptibles d'attirer l'attention des gens que les documentaires sur l'intelligence artificielle qui améliorent la vie des gens.

Jones : Je pense que les gens sont attirés par les bonnes histoires, les histoires qui ont des antagonistes et des difficultés, mais qui ont finalement une fin heureuse. Cela est cohérent avec votre évaluation de la nature humaine et avec le fait que l’histoire, malgré ses tendances violentes et destructrices, a tendance à s’auto-corriger dans une certaine mesure.

Schmidhuber : Prenons comme exemple une technologie que vous connaissez tous : les réseaux contradictoires génératifs (GAN, Generative Adversarial Networks), qui sont aujourd'hui facilement utilisés pour les fausses nouvelles et les applications liées aux fausses nouvelles. information. En fait, le but pour lequel le GAN a été inventé est loin d’être utilisé aujourd’hui.

GANs Le nom a été créé en 2014, mais nous avions déjà les principes de base au début des années 90. Il y a plus de 30 ans, je l’appelais « curiosité artificielle ». Il s'agit d'un moyen très simple d'injecter de la créativité dans un petit système à deux réseaux. Cette IA créative n’essaie pas seulement d’imiter servilement les humains, elle crée ses propres objectifs. Je m'explique :

Vous disposez désormais de deux réseaux. Un réseau produit un résultat, qui peut être n'importe quoi, n'importe quelle action. Un deuxième réseau observe alors ces actions et tente d’en prédire les conséquences. Une action peut déplacer un robot, puis quelque chose d'autre se produit, tandis que l'autre réseau essaie simplement de prédire ce qui va se passer.

Désormais, nous pouvons atteindre une curiosité artificielle en réduisant l'erreur de prédiction du deuxième réseau, qui est également la récompense du premier réseau. Le premier réseau veut maximiser sa récompense, il va donc inventer des actions qui conduiront à des situations qui surprendront le deuxième réseau, c'est-à-dire celles qu'il n'a pas appris à bien prédire.

Dans le cas de sortie d'une fausse image, le premier réseau tentera de générer une image de suffisamment bonne qualité pour tromper le deuxième réseau, et ce dernier tentera de prédire la réaction de l'environnement : l'image est-elle réelle ou faux? Le deuxième système tente d'avoir un plus grand pouvoir prédictif tandis que le premier réseau continuera à s'améliorer dans la génération d'images, rendant impossible pour le deuxième réseau de déterminer si elles sont authentiques ou fausses. Les deux systèmes sont donc en guerre l’un contre l’autre. Le deuxième réseau continuera à réduire son erreur de prédiction, tandis que le premier réseau tentera de maximiser l’erreur du système de prédiction.

Grâce à ce jeu à somme nulle, le premier réseau est devenu de mieux en mieux capable de produire ces fausses sorties convaincantes, produisant des images qui semblaient presque entièrement réelles. Ainsi, une fois que vous disposez d’un ensemble intéressant d’images de Van Gogh, vous pouvez utiliser son style pour générer de nouvelles images sans que Van Gogh lui-même ne crée l’œuvre d’art.

Jones : Parlons du futur. Vous avez dit que « les humains traditionnels ne joueront pas un rôle significatif dans la diffusion de l’intelligence à travers l’univers ».

Schmidhuber :Tout d'abord, distinguons conceptuellement deux types d'intelligence artificielle. Le premier type d’intelligence artificielle est un outil guidé par un humain. Ils sont formés pour faire des choses spécifiques, comme détecter avec précision le diabète ou les maladies cardiaques et prévenir l’apparition de la maladie avant qu’elle ne survienne. Dans ces cas-là, les cibles de l’IA sont les humains. Et le plus intéressant, c’est que l’IA fixe ses propres objectifs. Ils inventent leurs propres expériences et en tirent des leçons, leurs horizons continuent de s'élargir et, finalement, ils deviennent de plus en plus des résolveurs de problèmes dans le monde réel. Ils ne sont pas sous le contrôle de leurs parents et la plupart de ce qu’ils apprennent se fait grâce à des expériences qu’ils ont eux-mêmes inventées.

Par exemple, un robot fait tourner un jouet, et ce faisant, il peut commencer à apprendre les changements dans cette vidéo grâce à la vidéo provenant de la caméra qui change au fil du temps, et apprendre que si le jouet tourne d'une certaine manière , c'est comment la nature tridimensionnelle de l'objet produira certains changements visuels. Finalement, il apprendra comment fonctionne la gravité, comment fonctionne la physique du monde et bien plus encore, tout comme un petit scientifique !

Et je prédis depuis des décennies qu’à l’avenir, cette version amplifiée de l’IA, les scientifiques voudront élargir davantage leurs horizons et éventuellement aller là où se trouvent la plupart des ressources physiques pour construire une IA plus grande et plus grande. Bien sûr, presque toutes ces ressources se trouvent dans un espace éloigné de la Terre, ce qui est hostile aux humains mais convivial pour les robots contrôlés par l’IA et les usines de robots auto-réplicateurs conçus de manière appropriée. Nous ne parlons donc plus ici de notre minuscule biosphère, mais du reste beaucoup plus vaste de l’univers. D’ici des dizaines de milliards d’années, une intelligence artificielle curieuse et auto-améliorée colonisera l’univers visible d’une manière irréalisable pour les humains. Cela ressemble à de la science-fiction, mais je n’ai pas pu voir d’alternative raisonnable à ce scénario depuis les années 1970, à moins qu’une catastrophe mondiale telle qu’une guerre nucléaire totale n’arrête cette technologie avant qu’elle n’atteigne le ciel. ■

Article exclusif de Forbes Chine, veuillez ne pas réimprimer sans autorisation

Source de l'image d'en-tête : Getty Images ‍‍‍‍‍‍‍

Ne manquez jamais d'informations passionnantes

▽

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!