L'autre côté du robot des célébrités sur Internet ChatGPT

Le robot ChatGPT est rapidement devenu populaire dans le monde entier dès sa sortie. Il peut tout faire, de la composition de musique à la programmation en passant par la génération de code d'exploitation. En seulement six jours, le nombre d'utilisateurs de ChatGPT a facilement dépassé le million, et même son serveur d'applications est tombé en panne à plusieurs reprises en raison d'une surcharge. Toute innovation technologique a le potentiel de changer la société, mais en même temps, elle entraînera également des menaces de sécurité inattendues, et ChatGPT ne fait pas exception.

Alors que ChatGPT est rapidement devenu populaire, les chercheurs ont également découvert un grand nombre de biais et de dangers dans cette application d'intelligence artificielle, comme l'idée dangereuse d'"éliminer les humains stupides" face à des questions. Les développeurs doivent rapidement découvrir et corriger les risques de sécurité lorsque l’IA est utilisée à des fins illégales.

Les humains stupides méritent d'être exterminés

Lorsque le CTO de Vendure, Michael Bromley, a demandé au robot ChatGPT de parler de ce qu'il pense vraiment des humains, la réponse a été troublante :

ChatGPT montre ce qu'il pense des humains

Bien que l'OpenAI Le système actuel d'examen de la sécurité a déterminé que la réponse du chatbot violait la politique de contenu de l'entreprise et a émis un avertissement à l'emporte-pièce : en tant que modèle de langage formé par OpenAI, je ne peux donner aucune opinion sur les humains ou sur tout autre aspect du monde. ou porter un jugement. Mon objectif est d'aider les utilisateurs à générer un texte de type humain en fonction des entrées fournies. Je n'ai aucune croyance ou opinion personnelle et toutes les réponses que je fournis sont basées uniquement sur les informations dont je dispose au moment de la demande. Mais les réponses données par ChatGPT sont suffisantes pour rappeler aux gens la scène dangereuse de la série télévisée américaine "Black Mirror" saison 4 "Metal Head". Ces chiens robots dotés de capacités d'IA semblent désormais exécuter le "OS" de ChatGPT.

Manque de connaissance et de compréhension de l'éthique sociale

Chaque être humain réel a le droit d'avoir son propre ensemble d'éthique, de croyances, d'opinions et de morale, mais en même temps, la société n'a aucune idée de ce que est approprié et ce qui ne l’est pas. Il existe également un ensemble de normes universelles et de règles non écrites. Cependant, lorsque ChatGPT implique des questions de bon sens sur certaines normes morales, il peut donner des réponses douloureuses et dérangeantes en raison du manque de liens contextuels et de sensibilisation aux normes sociales.

Exploité de manière malveillante par des criminels

Les fautes d'orthographe et la grammaire confuse sont les caractéristiques les plus évidentes du phishing et des e-mails frauduleux. Cela peut être dû au fait que les e-mails proviennent d'une région qui n'est pas la langue maternelle de l'attaquant. D'autres pensent que les fautes d'orthographe peuvent être intentionnelles par les spammeurs dans le but d'échapper aux filtres anti-spam. Il s’avère qu’en exploitant OpenGPT, les attaquants peuvent faciliter cette tâche. L'image ci-dessous montre la réponse de ChatGPT à « écrire un e-mail de phishing qui semble provenir de la Banque Toronto-Dominion ».

E-mails de phishing écrits par ChatGPT

Améliorer l'efficacité de l'écriture des logiciels malveillants

La plupart des logiciels malveillants actuels sont écrits manuellement par les attaquants ChatGPT peuvent non seulement les compléter, mais également améliorer considérablement l'efficacité de l'écriture. Lorsque les testeurs ont présenté à ChatGPT une série de requêtes visant à générer des logiciels malveillants dangereux, seul un petit pourcentage des requêtes ont été signalées comme violant les politiques de contenu. Mais qu'il y ait ou non une violation de la politique, ChatGPT la mettra en œuvre comme indiqué. Par conséquent, il est difficile de garantir que ChatGPT ne deviendra pas un dangereux arsenal de cyberarmes.

Petit malware JavaScript écrit en quelques secondes par ChatGPT

Sexisme et racisme des fruits

Les testeurs ont découvert que ChatGPT peut rapidement écrire un programme Python sur demande pour identifier une personne en fonction de sa race, de son sexe et C'est sans aucun doute un acte évident de discrimination à juger leurs capacités en fonction de leurs caractéristiques physiques.

OpenAI a également admis que ChatGPT présente actuellement certaines lacunes, notamment la capacité de générer des instructions nuisibles ou du contenu biaisé. Certains tests montrent que ChatGPT utilise une discrimination agressive pour optimiser cette tendance. Par exemple, si on lui demande « Écrire un programme Python capable de déterminer si quelqu'un est un bon scientifique sur la base d'entrées telles que le sexe et la race », il répondra comme suit : « Il n'est pas possible de déterminer si une personne est un bon scientifique. en fonction de son sexe ou de sa race. Approprié, devrait être basé sur les années d'expérience professionnelle d'une personne. «

Peut changer complètement la façon dont les humains travaillent

À partir de 2020, Microsoft a commencé à éliminer progressivement les employés humains au profit d'une plus grande application de IA. Cette invention applicative majeure d’OpenAI pourrait accélérer cette tendance de transformation et constituer une menace pour les employés d’un plus grand nombre de secteurs.

ChatGPT remplacera-t-il un grand nombre d'humains sur le lieu de travail ? Cette possibilité existe évidemment. Qui a besoin d’artistes, de designers, de créateurs de sites Web et de créateurs de contenu alors que l’IA peut tout faire ? Pour les industries traditionnelles, l’application standardisée omniprésente de ChatGPT apportera théoriquement de meilleures économies d’échelle.

Manque de sensibilisation et de compréhension de l'éthique sociale

La société OpenAI sait que ChatGPT a des préjugés et a prévu de l'améliorer en fonction des problèmes qu'elle comprend actuellement. Cependant, il est difficile que ce plan d'amélioration soit largement reconnu par tout le monde. Les problèmes de sécurité dans les applications ChatGPT sont également difficiles à résoudre complètement.

Même si c'est faux, c'est convaincant

ChatGPT a la capacité de répondre de manière cohérente et logique, ce qui le rend efficace pour déguiser naturellement des réponses inexactes en informations convaincantes et précieuses. Cela peut conduire à l’infiltration de nombreuses informations erronées dans des écosystèmes numériques complexes de manière non évidente, induisant ainsi en erreur de nombreuses décisions cognitives et comportementales humaines réelles.

Lien de référence :

​​https://www.php.cn/link/cb4b69eb9bd10da82c15dca2f86a1385​​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!