Une lettre ouverte demande un moratoire sur la recherche sur l'intelligence artificielle

Le Future of Life Institute a publié une lettre ouverte appelant à un moratoire de six mois sur certaines formes de recherche sur l'intelligence artificielle. Invoquant « des risques sérieux pour la société et l'humanité », le groupe a demandé aux laboratoires d'IA de suspendre la recherche sur les systèmes d'IA plus puissants que GPT-4 jusqu'à ce que davantage de « garde-corps de sécurité » puissent être mis en place autour d'eux.

Le Future of Life Institute a écrit dans une lettre ouverte le 22 mars : « Avoir des systèmes d'IA qui rivalisent avec les humains présente d'énormes risques pour la société et l'humanité. » la vie sur Terre doit être planifiée et gérée avec des soins et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion n'a pas été atteint

sans intelligence artificielle, estime l'institut - comme les principes d'Asilomar AI (Asilomar AI). (Ces 23 principes ont été dirigés par l'institut.) - Nous Il y a un manque de mécanismes de contrôle appropriés pour garantir que l'IA se développe de manière planifiée et contrôlée. C'est ce à quoi nous sommes confrontés aujourd'hui.

La lettre dit : «

Malheureusement, ce niveau de planification et de gestion n’a pas été atteint, même si ces derniers mois les laboratoires d’IA se sont retrouvés engagés dans une course incontrôlable pour développer et déployer des esprits numériques de plus en plus puissants qu’aucun personne – même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ”

En l’absence d’un moratoire volontaire sur les chercheurs en IA, le Future of Life Institute exhorte le gouvernement à prendre des mesures pour prévenir les dommages causés par la recherche en cours sur la grande intelligence artificielle. modèles.

Les meilleurs chercheurs en IA sont divisés sur l'opportunité de suspendre la recherche. Plus de 5 000 personnes ont signé pour soutenir la lettre ouverte, dont Yoshua Bengio, lauréat du prix Turing, Elon Musk, cofondateur d'OpenAI, et Steve Wozniak, cofondateur d'Apple.

Cependant, tout le monde n’est pas convaincu qu’interdire la recherche sur des systèmes d’IA plus puissants que GPT-4 est dans notre intérêt.

«Je n'ai pas signé cette lettre», a déclaré sur Twitter Yann LeCun, scientifique en chef de l'intelligence artificielle de Meta et lauréat du prix Turing (qui a remporté le prix Turing en 2018 avec Bengio et Geoffrey Hinton). "Je ne suis pas d'accord avec sa prémisse."

LeCun, Bengio et Hinton sont appelés les "pères de la révolution du deep learning" par l'Association for Computing Machinery (ACM), qui l'a lancée il y a plus de dix ans. avec leurs recherches sur les réseaux de neurones. L'engouement actuel pour l'intelligence artificielle. À l’époque, les réseaux de neurones profonds constituaient une priorité majeure pour les chercheurs en intelligence artificielle du monde entier.

Avec l'article Transformer publié par Google en 2017, la recherche sur l'intelligence artificielle est passée à la vitesse supérieure. Bientôt, les chercheurs ont remarqué la richesse inattendue des grands modèles de langage, comme la capacité d’apprendre les mathématiques, le raisonnement en chaîne de pensée et le suivi des instructions.

Fin novembre 2022, le public a eu un avant-goût de ce que ces LLM peuvent faire lorsqu'OpenAI a lancé ChatGPT dans le monde. Depuis lors, la communauté technologique s’efforce de mettre en œuvre le LLM dans tout ce qu’elle fait, et la « course aux armements » pour construire des modèles plus grands et plus puissants a pris un nouvel élan, comme le démontre l’annonce de GPT-4 le 15 mars.

Bien que certains experts en IA aient exprimé leurs inquiétudes quant aux impacts négatifs du LLM, notamment la tendance au mensonge, le risque de divulgation de données privées et l'impact potentiel sur l'emploi, cela n'a pas refroidi l'énorme demande du public pour nouvelles capacités d'IA. Le PDG de Nvidia, Jensen Huang, affirme que nous sommes peut-être à un tournant dans le domaine de l'intelligence artificielle. Mais le génie semble être sorti de la bouteille, et on ne sait pas où il ira ensuite.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!