Lors de l'utilisation de ChatGPT, pourquoi n'est-il pas recommandé d'anthropomorphiser l'IA ?

Tout le monde semble parler d’intelligence artificielle. Si vous sentez que vous ne comprenez pas ce que disent les autres ou si vous n’êtes pas sûr de ce qu’ils font, ne vous inquiétez pas, je peux vous aider.

J'ai invité certains des meilleurs journalistes IA du secteur à partager leurs meilleurs conseils sur la façon de parler de l'IA avec confiance. Mes collègues et moi passons nos journées à être obsédés par cette technologie, à écouter les experts en IA, puis à traduire ce qu'ils disent en un texte clair et pertinent qui inclut un contexte important. Nous savons donc une chose ou deux de ce dont nous parlons.

Voici sept éléments auxquels il faut prêter attention lorsque l’on parle d’intelligence artificielle.

Ne vous inquiétez pas d'avoir l'air stupide

Nitasha Tiku, journaliste à la culture technologique du Washington Post, a déclaré : "Alors que l'industrie technologique insiste sur le fait que les grands modèles linguistiques changeront le monde, elle n'est pas très douée pour s'expliquer clairement. Si vous êtes confus, vous n'êtes pas seul." Elle a ajouté que la conversation. sur l’intelligence artificielle est rempli de jargon, ce qui est contre-productif. "Hallucination" est une façon particulière de dire quelque chose qu'un système d'IA invente ; un "ingénieur d'indices" est simplement quelqu'un qui sait comment parler à une IA pour obtenir ce qu'elle veut.

Tiku recommande aux gens de regarder les explications YouTube des concepts et des modèles d'IA. Elle a déclaré : « Évitez l'influenceur de l'IA et choisissez un hôte plus discret. Si vous avez besoin d'une solution technique simple, la technologie IBM est un bon choix. Elle peut aider à démystifier le fonctionnement de l'intelligence artificielle

.

Peu importe à quel point vous parlez d'intelligence artificielle, quelqu'un se plaindra. Will Douglas Heaven, rédacteur en chef de l'intelligence artificielle au MIT Technology Review, a déclaré : « Parfois, on a l'impression que le monde de l'intelligence artificielle s'est fragmenté en de nombreux cercles de fans, chacun parlant fort et insistant sur sa propre définition et ses propres croyances, mais ne le faites pas. Je ne veux pas que les autres le comprennent. Découvrez ce que l’intelligence artificielle signifie pour vous et respectez-le.

Décrivez précisément de quel type d'intelligence artificielle vous parlez

Karen Hao, journaliste chinoise sur la technologie et la société pour le Wall Street Journal, a déclaré : « Dans le discours public, « l'intelligence artificielle » est souvent considérée comme une seule chose, mais il s'agit en réalité d'une centaine de choses différentes.

Hao dit qu'il est utile de distinguer de quelle fonctionnalité de l'IA vous parlez afin de pouvoir avoir une conversation plus spécifique : parlez-vous de traitement du langage naturel et de modèles de langage, ou de vision par ordinateur ? Ou différentes applications, comme les chatbots ou la détection du cancer ?

Parler de « l’intelligence artificielle » comme d’une chose singulière obscurcit la réalité de la technologie, déclare Billy Perrigo, envoyé spécial du magazine Time.

Il a déclaré : "Il existe différents modèles qui font des choses différentes, réagissent différemment aux mêmes signaux, et chaque modèle a aussi ses propres préjugés

."

Gardez ça réel

« Les deux questions les plus importantes concernant les nouveaux produits et outils d'IA sont simples : que font-ils ? Comment cela fonctionne-t-il ? », explique James Vincent, rédacteur en chef de The Verge.

Actuellement, discuter des risques et du potentiel à long terme de l'intelligence artificielle est devenu une tendance dans le domaine de l'intelligence artificielle. Vincent a ajouté qu'il est facile de se laisser distraire par des scénarios hypothétiques et d'imaginer ce que la technologie pourrait faire à l'avenir, mais les discussions sur l'intelligence artificielle sont souvent mieux adaptées au pragmatisme et à la concentration sur le pratique plutôt que sur l'hypothétique.

L'industrie technologique a également tendance à exagérer les capacités de ses produits. Douglas Haven a déclaré : « Adhérez à une attitude sceptique et interrogative. »

Cela est particulièrement important lorsqu'on parle d'AGI ou d'intelligence générale artificielle, qui est souvent utilisée pour désigner un logiciel aussi intelligent qu'un humain (quoi que cela signifie en soi).

Il a ajouté : « Si quelque chose ressemble à de la mauvaise science-fiction, c'est peut-être le cas 

.

Ajustez vos attentes

Les modèles linguistiques « créent souvent des artefacts » et alimentent des chatbots d’intelligence artificielle tels que ChatGPT. Madhumita Murgia, rédactrice en chef de l'IA au Financial Times, a déclaré que cela pourrait être ennuyeux et surprenant pour les gens, mais c'est ainsi que fonctionnent ces modèles.

Il est important de se rappeler que les modèles linguistiques ne sont pas des moteurs de recherche conçus pour trouver et donner les « bonnes » réponses, et qu’ils n’ont pas non plus de connaissances infinies. Murgia a ajouté qu'étant donné votre question et tout ce sur quoi ils ont été formés, ce ne sont que des systèmes prédictifs qui génèrent les mots les plus probables.

Ne pas anthropomorphiser

Les chatbots d'intelligence artificielle ont captivé l'imagination du public car le texte qu'ils génèrent ressemble à quelque chose écrit par un humain et donne aux utilisateurs l'illusion d'interagir avec autre chose qu'un programme informatique. Mais en fait, ce sont des programmes informatiques.

Chloe Xiang, journaliste à Motherboard, a déclaré qu’il était important de ne pas anthropomorphiser la technologie ni de lui attribuer des caractéristiques humaines. "Ne lui donnez pas de pronom (de genre), et ne dites pas qu'il ressent, pense, croit, etc."

Cela ne fera que renforcer l’idée fausse que les systèmes d’IA sont plus performants et plus sensibles qu’ils ne le sont.

Je trouve qu’il est très facile de se tromper car notre langage n’a pas rattrapé les façons de décrire ce que font les systèmes d’IA. En cas de doute, je remplace « programme informatique » par « intelligence artificielle ». Vous réalisez soudain qu'utiliser un programme informatique pour amener quelqu'un à divorcer de sa femme est stupide

Tout est une question de pouvoir

Même si le battage médiatique et les mauvaises choses peuvent faire la une des journaux, il est crucial de réfléchir au rôle du pouvoir lorsque l’on parle d’intelligence artificielle, déclare Khari Johnson, rédacteur principal de Wired.

Johnson a déclaré : « Le pouvoir est essentiel pour fabriquer les matières premières de l’IA, telles que l’informatique et les données ; pour remettre en question l’utilisation éthique de l’IA et pour comprendre qui a la capacité d’obtenir des diplômes supérieurs en informatique et qui dirige le processus de concevoir des modèles d’IA. La clé.

Hao est d'accord. Il est également utile de se rappeler que le développement de l’IA est profondément politique et implique d’énormes sommes d’argent et de nombreux organismes de recherche aux intérêts concurrents, dit-elle : « Parfois, la conversation autour de l’IA porte moins sur la technologie que sur les personnes. »

Ne le considérez pas comme un robot

Ne décrivez pas l’IA comme un robot effrayant ou une machine omnisciente. "N'oubliez pas que l'IA est essentiellement une programmation informatique réalisée par des humains combinant de grands ensembles de données avec d'énormes quantités de puissance de calcul et des algorithmes intelligents", a déclaré Sharon Goldman, rédactrice principale chez VentureBeat

.

Soutien : Ren

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!