Geoffrey Hinton, le père des réseaux de neurones, a démissionné de Google, affirmant qu'il regrette le travail de sa vie.
Maintenant, il semble que sa peur de l'IA ne soit pas déraisonnable.
Parce qu'un modèle de type ChatGPT a appris à lire dans les pensées, avec un taux de précision allant jusqu'à 82% !
Des chercheurs de l'Université du Texas à Austin ont développé un décodeur de langage basé sur GPT.
Il peut collecter des informations sur l'activité cérébrale grâce à une IRM/IRMf non invasive et convertir les pensées en langage.
Adresse papier : https://www.nature.com/articles/s41593-023-01304-9
Étonnamment, lorsque vous regardez un film muet de Pixar, les décodeurs du cerveau peuvent lire votre pensées.
Ce modèle de type ChatGPT décode les pensées humaines avec une précision sans précédent, ouvrant non seulement un nouveau potentiel pour l'imagerie cérébrale, mais soulevant également des inquiétudes en matière de confidentialité.
Dès sa sortie, l'étude a provoqué un tollé sur Internet. Les internautes se sont exclamés, c'est trop effrayant.
Nous sommes un pas de plus vers la véritable Police de la Pensée.
Alors, comment ce terrifiant décodeur cérébral parvient-il à « lire dans les pensées » ?
Ici, nous devons mentionner la technologie d'imagerie par résonance magnétique fonctionnelle (IRMf), qui permet d'obtenir des images des changements dynamiques dans le cerveau en surveillant les niveaux d'oxygène dans le sang dans différentes parties du cortex cérébral.
Ainsi, simplement en analysant les données IRMf, les histoires ou même les images présentes dans le cerveau des participants peuvent être décrites avec des mots de manière non invasive.
L'activité cérébrale est comme un signal crypté, et de grands modèles de langage pré-entraînés permettent de le déchiffrer.
Ici, les chercheurs ont formé un modèle de langage de réseau neuronal basé sur GPT-1.
Alexander Huth a demandé à 3 sujets d'écouter des podcasts vocaux pendant 16 heures en continu et a collecté des données IRMf pendant qu'ils écoutaient.
Ces podcasts linguistiques sont principalement des talk-shows et des conférences TED, comme Modern Love du New York Times.
Ensuite, les chercheurs ont utilisé de grands modèles linguistiques pour traduire les ensembles de données IRMf des participants en mots et en phrases.
Ensuite, l'activité cérébrale des participants écoutant le nouvel enregistrement est testée. En observant la proximité du texte traduit avec le texte entendu par les participants, vous pouvez savoir si le décodeur est précis.
En comparant les phrases entendues par les gens (à gauche) et les phrases émises par le décodeur en fonction de l'activité cérébrale (à droite), on constate que les parties bleues et violettes représentent la grande majorité, le bleu signifie une cohérence complète, et le violet signifie que l'idée générale est exacte.
Bien que presque tous les mots n'aient pas de correspondance biunivoque, le sens de la phrase entière est conservé, ce qui signifie que le décodeur « interprète » le signal envoyé au cerveau.
Par exemple, dans la dernière phrase, le sujet a entendu "Je n'ai pas encore obtenu mon permis de conduire", et la réponse donnée par le décodeur était "Elle n'est pas encore prête à apprendre à conduire".
Comme le prétendent les chercheurs, l'intelligence artificielle ne peut pas convertir les pensées en mots ou en phrases exactes, mais les réécrit.
Ensuite, il a été demandé aux sujets de construire tranquillement une histoire dans leur esprit, puis de la raconter à haute voix pour voir la différence entre la version racontée et la version traduite par décodeur.
Vous pouvez voir que le chevauchement des significations est encore très élevé.
Enfin, les sujets ont regardé un film d'animation sans aucun son, mais en analysant leur activité cérébrale, le décodeur a pu obtenir un résumé de ce qu'ils regardaient.
Les résultats expérimentaux ont montré que le modèle GPT génère des séquences de mots compréhensibles à partir de discours perçus, de discours imaginés et même de vidéos silencieuses, avec une précision étonnante.
Le taux de précision spécifique est le suivant :
Discours perçu (le sujet écoute l'enregistrement) : 72-82%
Discours imaginaire (le sujet raconte une histoire d'une minute en interne) : 41-74 %
Films muets (les sujets ont regardé des extraits de films muets Pixar) : 21-45%
Greta Tuckute, neuroscientifique au MIT, affirme que la perception de la parole est un processus externe et que l'imagination est un processus interne actif, et les activités cérébrales internes peuvent être affichées sous nos yeux grâce à des modèles linguistiques à grande échelle.
Pouvons-nous lire les informations du cerveau maintenant ? Oui, dans une certaine mesure.
Un jour, ce décodeur pourrait être utilisé pour aider les personnes ayant perdu la capacité de parler ou pour enquêter sur des problèmes de santé mentale.
Cependant, la perspective de décoder les pensées humaines soulève également des questions sur la vie privée mentale.
Le Dr Huth a souligné que cette méthode de décodage du langage présente certaines limites.
Parce que les scanners IRMf sont encombrants et coûteux, et que la formation des modèles est un processus long et fastidieux, c'est-à-dire que chaque personne doit être formée individuellement.
En réponse, l’équipe a mené une étude supplémentaire en utilisant des décodeurs entraînés sur les données d’autres sujets pour décoder les pensées de nouveaux sujets.
L'étude a révélé que les performances des décodeurs entraînés à l'aide de données sur différents sujets étaient presque médiocres.
En bref, ce n'est qu'en utilisant les données enregistrées par le propre cerveau des sujets pour entraîner le modèle d'IA que sa précision sera très élevée.
Cela montre que chaque cerveau a une manière unique de représenter le sens.
De plus, les participants sont capables de bloquer leur monologue intérieur et d'échapper au décodeur en pensant à autre chose. Comme compter jusqu'à sept, énumérer les animaux de la ferme ou raconter une histoire complètement différente.
En d'autres termes, si ce décodeur veut obtenir des résultats précis, il doit nécessiter la coopération de bénévoles.
Cependant, les scientifiques reconnaissent que les futurs décodeurs pourraient surmonter ces limitations et pourraient être utilisés à mauvais escient à l'avenir, un peu comme les détecteurs de mensonge.
Les chercheurs concluent qu'un meilleur des mondes est en train d'arriver pour ces raisons et d'autres raisons imprévues.
Il est essentiel de sensibiliser aux risques liés à la technologie de décodage cérébral et d’élaborer des politiques qui protègent la vie privée mentale de chacun.
Il y a une scène dans "Black Mirror" où un agent d'assurance utilise une machine (équipée de moniteurs visuels et de capteurs cérébraux) pour lire les souvenirs des gens afin d'enquêter sur une mort accidentelle.
Cependant, cet avenir pourrait être maintenant.
Cette percée réalisée par des chercheurs de l'Université du Texas favorise directement les applications potentielles dans les domaines des neurosciences, des communications et de l'interaction homme-machine.
Bien que le « décodeur cérébral » en soit encore aux premiers stades de la recherche, il pourrait un jour être utilisé pour enregistrer les rêves des gens et fournir de l'énergie pour le développement ultérieur des interfaces cerveau-ordinateur.
Le Dr Alexander Huth, le neuroscientifique qui a dirigé l'étude, a déclaré : "Nous avons été choqués par la façon dont cela fonctionne." Je travaillais là-dessus depuis 15 ans... alors j'ai été choqué et excité quand cela a finalement fonctionné.
Il semble que nous soyons un pas de plus vers la technologie de scanner cérébral de Charles, professeur X dans "X-Men".
Après avoir lu cette étude, de nombreuses personnes ont instantanément « explosé le cerveau ». Certains internautes ont déclaré que
l'intelligence artificielle peut non seulement communiquer 10 000 fois plus vite que nous, mais qu'elle peut désormais même lire nos pensées. Il y a une ligne fine entre « C'est cool » et « Attendez, allons-nous être éliminés ? »
L'IA peut désormais lire dans les pensées comme un médium. "Gardez à l'esprit", ce n'est que la version 1.0. À l’avenir, la vie privée ne sera plus une préoccupation dans nos esprits. Le rapport La Quatrième révolution industrielle du Forum économique mondial le montre très clairement.
C'est la première fois qu'un langage continu est reconstruit de manière non invasive à partir de l'activité cérébrale humaine
À propos de cette étude, le bioéthicien Rodriguez-Arias Vailhen a déclaré que jusqu'à présent, le cerveau humain était le gardien de notre vie privée.
"Cette découverte pourrait être la première étape vers le sacrifice de cette liberté dans le futur."
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
