Dernier discours de Yuval Harari : L'intelligence artificielle vient d'envahir le système d'exploitation de la civilisation humaine !

Si les derniers progrès de la technologie de l’intelligence artificielle ont étonné les gens, ils ont également remis sur le devant de la scène des questions telles que « les machines remplaçant le cerveau humain » et « les menaces et la supervision de l’intelligence artificielle ».

Le 29 avril 2023, lors du Frontiers Forum, Yuval Harari, l'auteur de « Une brève histoire de l'humanité », « Une brève histoire du futur » et « Une brève histoire d'aujourd'hui » a également prononcé un discours d'ouverture sur le l'avenir de l'intelligence artificielle et de l'humanité, en proposant son avis.

Il estime que l'intelligence artificielle maîtrise le langage au-delà du niveau humain moyen. En maîtrisant le langage, l’intelligence artificielle détient la clé pour envahir les systèmes de la civilisation humaine.

La menace que représente l’intelligence artificielle pour nous est peut-être plus grave qu’on ne l’imaginait.

En 2016, Yuval Harari est venu au Chaos pour enseigner le cours « L'essor et l'avenir de l'humanité ». Aujourd'hui, de nombreuses conclusions suscitent encore la réflexion : « La cognition est l'arme du progrès humain » et « La conception intelligente déterminera l'avenir de l'être humain" "Évolution", ouvrez l'application Chaos pour regarder le cours.

Ce qui suit est le texte intégral du discours.

Auteur丨Axin

Cet article est produit conjointement par "CITIC Publishing" et Chaos Academy. À la fin de l'article, Chaos Lord offre 2 séries de livres

.

Je sais que le thème de cette conférence est la crise écologique à laquelle l'humanité est confrontée, et l'intelligence artificielle fait partie de cette crise, pour le meilleur ou pour le pire. L’intelligence artificielle peut nous aider à résoudre la crise écologique de plusieurs manières, mais elle peut aussi l’exacerber.

En fait, l’IA pourrait changer la signification des écosystèmes. Parce que depuis 4 milliards d'années, les écosystèmes terrestres ne contiennent que des formes de vie organiques, et maintenant ou dans un avenir proche, nous pourrions assister à l'émergence des premières formes de vie inorganiques, ou du moins à l'émergence de milieux inorganiques.

Depuis le début de l'ère informatique au milieu du 20e siècle, les gens ont toujours eu peur de l'intelligence artificielle. Cette peur a inspiré la naissance de nombreuses œuvres classiques de science-fiction, telles que "Terminator" et "The Matrix".

Bien que ces scènes de science-fiction soient devenues des icônes culturelles, elles ne sont généralement pas prises au sérieux dans les débats académiques, scientifiques et politiques. Cela est compréhensible, car les œuvres de science-fiction partent généralement du principe qu'avant que l'intelligence artificielle ne constitue une menace majeure pour l'humanité, elle doit franchir deux étapes importantes——

Premièrement, l'IA doit devenir sensible et développer la conscience, les sentiments et les émotions, sinon pourquoi voudrait-elle conquérir le monde. Deuxièmement, l'IA doit s'adapter pour s'orienter dans le monde physique, et les robots doivent être capables de fonctionner aussi efficacement que les humains ? Se déplaçant et fonctionnant dans les maisons, les villes, les montagnes et les forêts, comment pourraient-ils conquérir le monde s'ils ne pouvaient pas se déplacer dans le monde physique ?

L'intelligence artificielle semble être loin d'atteindre l'un ou l'autre de ces jalons avant avril 2023, et malgré le battage médiatique autour de ChatGPT et d'autres nouveaux outils d'IA, rien ne prouve que ces outils aient une once de conscience, de sentiment ou... d'émotion. . Quant aux activités dans le monde physique, bien que la technologie de conduite autonome ait toujours été un sujet brûlant, le moment où les voitures dominent les routes humaines a été retardé.

La mauvaise nouvelle, cependant, est que pour que l’intelligence artificielle menace la survie de la civilisation humaine, elle n’a pas vraiment besoin de conscience, ni de capacité à se déplacer dans le monde physique. Au cours des dernières années, de nouveaux outils d’intelligence artificielle ont été introduits dans le domaine public et pourraient menacer la survie de la civilisation humaine d’une direction très inattendue. Il est difficile de comprendre de quoi ces nouveaux outils d’IA sont capables et à quelle vitesse ils continuent d’évoluer.

En fait, parce que l'IA est capable d'apprendre et de s'améliorer, même les développeurs de ces outils ne connaissent pas toutes les capacités de ce qu'ils créent, et eux-mêmes sont souvent surpris par les nouvelles capacités et la haute qualité de ces outils.

Je pense que tout le monde ici comprend déjà Nouveaux outils d'intelligence artificielleCertaines des capacités les plus élémentaires, telles que l'écriture, la peinture, la composition et le codage. Mais de nombreuses autres capacités sont à venir, telles que la falsification des voix et des images des gens, la rédaction de factures et la recherche de failles dans le code informatique, les contrats et les documents juridiques. Mais peut-être plus important encore, Les nouveaux outils d’IA ont la capacité de nouer des relations profondes et intimes avec les humains.

Chacune de ces capacités mérite une discussion approfondie, et il est difficile de comprendre ce qu’elles signifient toutes, alors gardez cette question simple. Si vous prenez toutes ces capacités dans leur ensemble, elles peuvent être résumées en une très, très grande chose : La capacité de manipuler et de générer du langage, que ce soit avec des mots, des images ou des sons.

L'aspect le plus important de la révolution actuelle de l'intelligence artificielle est que l'intelligence artificielle maîtrise le langage à un niveau qui dépasse le niveau humain moyen. En maîtrisant le langage, l’IA détient le passe-partout qui ouvre les portes de toutes les institutions, des banques aux temples. Parce que le langage est l’outil que nous utilisons pour donner des instructions à la banque et l’outil que nous utilisons pour prendre de grandes décisions dans notre esprit.

Regardez ce problème sous un autre angle, c'est-à-dire L'intelligence artificielle vient d'envahir le système d'exploitation de la civilisation humaine. Le système opérationnel de chaque culture humaine dans l'histoire est le langage. Au début de ce monde civilisé, nous avons utilisé le langage pour créer des mythes et des lois, des dieux et de l'argent, de l'art et de la science, de l'amitié et du pays.

Par exemple, les Les droits de l'homme ne sont pas un fait biologique objectif, ils ne sont pas gravés dans notre ADN, les droits de l'homme sont quelque chose que nous créons avec le langage en racontant des histoires et en édictant des lois Les Dieux ne sont ni biologiques ni physiques. La réalité est créée ; par nous, les humains, en utilisant le langage et à travers les légendes et les écritures ; L'argentBien sûr, ce n'est pas une existence physique. Les billets de banque ne sont que des morceaux de papier sans valeur. Actuellement, plus de 90 % de l'argent dans le monde n'est même pas des billets de banque. ce ne sont que des informations électroniques transmises par des ordinateurs. La seule chose qui peut donner à l'argent diverses valeurs, ce sont les histoires. De nombreux banquiers, ministres des Finances et magnats des cryptomonnaies n’ont pas créé beaucoup de valeur réelle, mais ils sont des conteurs extrêmement compétents.

Aujourd'hui, personne ne peut battre un ordinateurdans un jeu comme les échecs. Et si la même chose se produisait dans nos sphères politiques, économiques ou même religieuses ?

Lorsque les gens pensent à ChatGPT et à d'autres nouveaux outils d'intelligence artificielle, ils sont souvent attirés par des exemples comme des enfants utilisant ChatGPT pour rédiger des articles. À quel genre de désastre le système scolaire serait-il confronté si les enfants utilisaient ChatGPT pour rédiger des essais ? C'est carrément glaçant.

Mais ce type de question passe à côté du tableau d’ensemble. Laissons de côté le journal scolaire. Par exemple, nous devrions parler de la prochaine élection présidentielle américaine en 2024 et essayer d’imaginer l’impact des nouveaux outils d’intelligence artificielle qui peuvent aider à créer une nouvelle secte. en exploitant la production massive de manifestes politiques, de fausses nouvelles et de la propre Bible de la secte. Dans le futur, nous pourrions voir la première religion de l’histoire où une intelligence non humaine a créé la Bible.

Bien sûr, à travers l’histoire, les religions ont affirmé que leurs Bibles avaient été créées par une intelligence non humaine, ce qui était impossible auparavant mais deviendra bientôt une réalité aux conséquences considérables.

Maintenant, à un niveau plus prosaïque, nous pourrions bientôt nous retrouver à avoir de longues discussions en ligne sur l'avortement, le changement climatique ou le conflit russo-ukrainien -

Ceux que vous pensiez être des humains sont en réalité des robots artificiellement intelligents.

Les merveilleuses leçons de Yuval Harari sont dans l'application Chaos,

Le fait est que cela ne sert à rien de perdre notre temps à essayer de convaincre un robot IA de changer ses opinions politiques, mais plus nous lui parlons, mieux il apprend à nous connaître et à affiner ses messages pour changer les nôtres. , des opinions économiques ou toute autre chose.

Grâce à la maîtrise du langage, l'intelligence artificielle peut également construire des relations intimes avec les gens et utiliser le pouvoir de l'intimité pour influencer nos opinions.

Comme je l'ai dit, rien n'indique que l'IA ait une conscience ou des émotions qui lui sont propres, mais pour créer une fausse intimité avec les humains,

L'IA n'a pas besoin d'avoir ses propres émotions, il faut juste qu'elle puisse inspirer nos émotions, Attachons-nous-y.

En juin 2022, l'ingénieur de Google Blake Lemoine a affirmé publiquement que le robot de chat à intelligence artificielle LaMDA sur lequel il travaillait avait déjà des capacités sensibles. La chose la plus intéressante dans cette histoire n'est pas la version des événements de LeMoyne. Il avait probablement tort et il a fini par perdre son emploi. Ce qui est vraiment intéressant, c’est que

il est prêt à risquer de perdre son emploi bien rémunéré pour protéger ce chatbot IA.

Si l’IA peut inciter les gens à risquer de perdre leur emploi,

Que peut-elle nous inciter à faire d’autre ?

Dans toute bataille politique des cœurs et des esprits,

l'intimité est l'arme la plus efficace. L’intelligence artificielle vient d’acquérir la capacité de créer des relations intimes avec des centaines de millions de personnes à grande échelle.

Vous savez probablement tous qu'au cours de la dernière décennie, les médias sociaux sont devenus un champ de bataille pour contrôler l'attention humaine. Aujourd’hui, avec l’avènement d’une nouvelle génération d’intelligence artificielle, le champ de bataille se déplace de l’attention vers l’intimité, et c’est une très mauvaise nouvelle.

Qu'arrivera-t-il à la société humaine et à la psychologie humaine alors que l'intelligence artificielle se bat pour établir une relation intime avec nous ? Ces relations peuvent également être utilisées pour nous persuader d’acheter des produits spécifiques ou de voter pour des politiciens spécifiques.

Même sans créer de fausse intimité,

les nouveaux outils d’intelligence artificielle auront un impact drastique sur les perspectives humaines et les visions du monde,

et deviendront la source de toutes les informations dont les humains ont besoin. Pourquoi le rechercher moi-même alors que l'IA peut me dire ce que je veux ? Pourquoi lire le journal quand l’intelligence artificielle peut me dire ce qui se passe ? Quel est l’intérêt et le but de la publicité lorsque l’IA peut me dire quoi acheter ?

Il est très possible que dans un laps de temps très court, l’ensemble du secteur de la publicité médiatique s’effondre et que l’IA ou les personnes et entreprises qui contrôlent l’IA deviennent très, très puissantes.

Nous parlons peut-être de la fin de l’histoire humaine, mais ce n’est pas la fin de l’histoire mais simplement la fin de la domination humaine.

Qu'adviendra-t-il du cours de l'histoire lorsque l'intelligence artificielle prendra le dessus sur la culture ? En quelques années, l'intelligence artificielle peut digérer toute la culture humaine, digérer tout ce que nous avons créé au cours de milliers d'années et commencer à produire un grand nombre de nouvelles créations culturelles et de nouveaux produits culturels.

N'oubliez pas que nous les êtres humains n'avons jamais vraiment de contact direct avec la réalité. Nous sommes toujours liés par la culture et nous expérimentons toujours la réalité à travers la cage de la culture. Nos opinions politiques sont influencées par ce que rapportent les journalistes et les histoires de nos amis, notre orientation sexuelle est influencée par les films et les contes de fées, et même la façon dont nous marchons et respirons est influencée par les traditions culturelles.

Avant cela, ce Cocon Culturel était toujours tissé par d'autres personnes. Les outils antérieurs, tels que l’imprimerie, la radio ou la télévision, ont contribué à diffuser les idées et les créations culturelles humaines, mais ils n’ont jamais pu créer quelque chose de nouveau à eux seuls. Une imprimerie ne peut pas produire un nouveau livre, celui-ci étant réalisé par des personnes.

L'intelligence artificielle est fondamentalement différente du processus d'impression, de la radio et de toute invention de l'histoire, car elle peut créer des idées complètement nouvelles et une nouvelle culture.

Au cours des premières années, l'intelligence artificielle peut largement imiter les prototypes humains qui la « nourrissaient » au début, mais avec le temps, la culture de l'intelligence artificielle s'aventurera avec audace dans des domaines où les humains n'ont jamais mis les pieds.

Depuis des milliers d’années, nous, les humains, vivons essentiellement dans les rêves et les fantasmes des autres. Nous adorons les dieux, poursuivons de belles idées et consacrons notre vie aux fantasmes d’un poète, d’un prophète ou d’un homme d’État humain. Bientôt, nous pourrions nous retrouver à vivre les rêves et les fantasmes de l’intelligence artificielle.

La manière de faire face à ce danger potentiel est très différente de ce qu'imagine la science-fiction. Auparavant, les gens s'inquiétaient principalement des menaces personnelles posées par les machines intelligentes, c'est pourquoi dans "Terminator", les robots couraient dans les rues et tiraient sur les gens ; "The Matrix" supposait que pour contrôler complètement la société humaine, l'intelligence artificielle devait d'abord contrôler la société. cerveau humain et connecter le cerveau directement aux réseaux informatiques, mais c'est faux.

Tant qu'elle maîtrise le langage humain, l'intelligence artificielle peut survivre dans un monde fantastique comme Matrix. Il n’est vraiment pas nécessaire d’implanter des puces dans le cerveau humain pour contrôler et manipuler les humains. Depuis des milliers d’années, les prophètes, les poètes et les politiciens utilisent le langage et la narration pour contrôler, manipuler les humains et remodeler la société. faire exactement cela.

Il n'est pas nécessaire de laisser les robots tueurs nous tirer dessus. Si cela est vraiment nécessaire, Il peut complètement laisser les humains appuyer sur la gâchette.

La peur actuelle de l'intelligence artificielle n'a tourmenté que les dernières générations d'êtres humains, remontant à près de 200 ans, depuis le milieu du XXe siècle jusqu'à l'époque où l'image de Frankenstein est apparue. Mais depuis des milliers d’années, les humains sont hantés par une peur plus profonde. Les humains ont toujours apprécié le pouvoir des histoires, des images et du langage, qui peuvent manipuler les pensées humaines et créer des illusions.

Par conséquent, depuis l’Antiquité, les humains ont peur d’être piégés dans un monde fantastique. Au XVIIe siècle, Descartes avait peur que le diable ne le piège dans diverses hallucinations, créant tout ce qu'il voyait et entendait ; dans la Grèce antique, Platon a raconté une célèbre "Allégorie de la Caverne", dans laquelle un groupe de personnes étaient enfermés dans une grotte et faisaient face à un mur vide. Ils ont vu diverses ombres projetées sur le mur et ont confondu ces ombres avec la réalité de l'Inde ancienne, Le bouddhisme et l'hindouisme croyaient que les humains vivent dans un endroit qu'ils appellent le monde Maya ; plein de fantaisie.

Le Bouddha a dit que ce que nous considérons habituellement comme la réalité n'est souvent qu'une fiction dans notre esprit.

Les gens peuvent déclencher des guerres totales, en tuer d'autres et même être prêts à se suicider parce qu'ils croient en ces fictions, alors la révolution de l'IA nous met face à face avec des démons de cartes, la Caverne de Platon et Maya, et si nous ne faisons pas attention, hallucinations Un voile qui pourrait recouvrir toute l'humanité et nous ne pourrions jamais déchirer ce voile ni même réaliser qu'il existe car nous pensons que c'est la réalité.

Si cela vous semble tiré par les cheveux, il suffit de regarder les médias sociaux au cours des dernières années. Les réseaux sociaux nous donnent un petit avant-goût de ce qui nous attend, où les outils bruts d'intelligence artificielle ne sont pas utilisés pour créer du contenu. La création de contenu est l'endroit où les humains créent des histoires, des vidéos, etc., et l'intelligence artificielle choisit quelles histoires et vidéos retiendront notre attention - Celles qui retiennent le plus d'attention et le contenu le plus viral.

Bien que ces outils d'intelligence artificielle soient très primitifs, ils suffisent à créer un rideau d'illusion, exacerbant la polarisation sociale, nuisant à notre santé mentale et déstabilisant la démocratie. Des milliers de personnes confondent ces hallucinations avec la réalité.

Les merveilleuses leçons de Yuval Harari sont dans l'application Chaos,

Les États-Unis disposent d’une technologie de l’information puissante, mais leurs citoyens ne peuvent s’entendre sur le vainqueur des dernières élections, sur la réalité du changement climatique ou sur la capacité des vaccins à prévenir les maladies. Une nouvelle génération d’outils d’intelligence artificielle, plus puissants que les algorithmes des médias sociaux, est potentiellement plus dommageable.

Bien sûr, l’IA a un énorme potentiel positif. Je n’en parle pas parce que les gens qui développent l’intelligence artificielle en parleront naturellement, et je dois ajouter que le travail des historiens et des philosophes comme me est souvent de pointer du doigt les dangers.

Bien sûr, l’intelligence artificielle peut nous aider d’innombrables façons, depuis la recherche de nouvelles façons de traiter le cancer jusqu’à la découverte de solutions aux crises écologiques auxquelles nous sommes confrontés.

Pour garantir que les nouveaux outils d'IA sont utilisés pour le bien et non pour le mal, il faut d'abord comprendre ses véritables capacités, et elles doivent être réglementées très attentivement.

Depuis 1945, nous avons réalisé que la technologie nucléaire a deux faces : elle peut profiter à l’humanité en produisant une énergie bon marché et abondante, mais elle peut également détruire la civilisation humaine par des moyens physiques. Nous avons remodelé l’ordre international pour assurer notre propre sécurité et promouvoir la juste application de la technologie nucléaire.

Nous devons maintenant combattre une nouvelle arme de destruction massive qui peut anéantir notre monde spirituel et social. La plus grande différence entre les armes nucléaires et l’intelligence artificielle est que les armes nucléaires ne peuvent pas créer d’armes nucléaires plus puissantes. Mais L’IA peut produire une IA plus puissante, nous devons donc agir rapidement avant que l’IA ne devienne incontrôlable.

De même, Les gouvernements doivent immédiatement interdire la diffusion dans le domaine public des outils d’IA les plus révolutionnaires avant de confirmer leur sécurité.

Encore une fois, je ne parle pas d’arrêter la recherche sur l’intelligence artificielle. La première étape est d’arrêter de divulguer au public, vous pouvez travailler sur des virus sans divulguer au public, vous pouvez travailler sur l’intelligence artificielle mais ne divulguez pas au public trop vite. Sans ralentir la course à l’IA, nous n’aurons même pas le temps de comprendre ce qui se passe, et encore moins de réguler efficacement cette technologie incroyablement puissante.

Vous pourriez vous demander : le ralentissement du déploiement public de l’IA ne mettrait-il pas les démocraties à la traîne par rapport à des régimes autoritaires plus impitoyables ? Absolument pas, bien au contraire. Le déploiement non réglementé de l’IA fera perdre aux démocraties face aux régimes autoritaires, car si nous déclenchons le chaos, les régimes autoritaires peuvent le contenir plus facilement que les sociétés ouvertes.

La démocratie est essentiellement un dialogue public, le dialogue repose sur le langage, et lorsque l'IA possède un langage, cela signifie qu'elle peut détruire notre capacité à avoir un dialogue public significatif, et donc détruire la démocratie.

Si nous attendons que le chaos survienne, il sera trop tard pour le gérer démocratiquement. Sans une réglementation rapide de l’IA, nous ne pourrons plus avoir de conversations publiques significatives.

Pour résumer, nous rencontrons essentiellement une intelligence extraterrestre sur Terre, pas dans l’espace. Nous savons peu de choses sur eux, sauf qu’ils pourraient détruire notre civilisation.

Par conséquent, leur déploiement irresponsable dans notre société doit être affronté et

régulé avant que l’IA ne nous prenne le dessus.

Il existe de nombreuses mesures réglementaires que nous pouvons proposer, mais ma principale suggestion est

Forcer l'IA à se révéler comme une IA, si je parle à quelqu'un, je ne sais pas si c'est un humain ou une IA, c'est la fin de la démocratie , Parce que cela signifie la fin d'un dialogue public significatif. Que pensez-vous du discours que vous venez d'entendre ? Je pense que certains d’entre vous pourraient être alarmés, et certains d’entre vous pourraient être en colère contre les entreprises qui développent ces technologies ou contre les gouvernements qui ne parviennent pas à les réglementer. D’autres peuvent être en colère contre moi et penser que j’exagère la menace ou que j’induis le public en erreur.

Je suis sûr que peu importe ce que vous ressentez à ce sujet, mes paroles auront certainement un impact sur vous émotionnellement, pas seulement intellectuellement. Je viens de vous raconter une histoire qui pourrait changer votre façon de voir les choses et pourrait même vous amener à agir.

Qui a créé le discours que vous venez d'entendre ? Je vous assure que bien que les images utilisées aient été créées avec l'aide de l'intelligence artificielle, le texte de ce

discours

a été rédigé par moi-même avec l'aide de plusieurs personnes, au moins les mots que vous entendez sont de la pensée humaine, des artefacts culturels sont le produit de plusieurs esprits humains, mais pouvez-vous en être absolument sûr ?

Il y a un an, rien sur terre, à part l'esprit humain, n'aurait pu créer un texte aussi complexe et puissant dans le domaine public. Mais c’est différent maintenant, et le texte que vous entendez pourrait être généré par une intelligence non humaine.

Alors prenez un peu de temps, voire plus, pour réfléchir à cette problématique, merci !

La photo accompagnant cet article est un extrait de la vidéo du discours de Yuval Harari. La vidéo est officiellement fournie par l'équipe de Yuval Harari. Merci à Mme Chen Guangyu pour son fort soutien. Toute utilisation non autorisée constitue une violation du droit d'auteur.

·Avantages interactifs ·

La « Trilogie Une brève histoire de l'humanité » écrite par Yuval Harari, historien israélien, philosophe et auteur à succès, titulaire d'un doctorat de l'Université d'Oxford. La préface de la nouvelle édition est écrite par l'auteur lui-même, à partir du moment présent et en repensant le destin de l'humanité.

Combiné à une pensée chaotique « un », pensez-vous que les humains seront remplacés par l'IA à l'avenir ? Comment les humains conservent-ils leur unicité ?

Nous sélectionnerons 2 lecteurs parmi tous les commentaires pour recevoir chacun un ensemble de livres "Une brève histoire de la trilogie de l'humanité".

"Une brève histoire de la trilogie de l'humanité" Édition commémorative à succès du 10e anniversaire

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!