Récemment, une fausse photo générée par l'IA a circulé sur Twitter, montrant la scène d'une violente explosion au Pentagone à Washington. L'incident a révélé de réels problèmes avec l'authentification payante Twitter Blue de Musk.
La fausse photo est devenue virale peu de temps après avoir été publiée sur les plateformes de messagerie sociale tard lundi matin jusqu'à ce que des responsables du gouvernement américain se manifestent pour confirmer et dénoncer la photo comme un canular.
Les médias d'État russes et un faux compte Bloomberg News sont controversés après l'apparition d'une coche bleue à côté de leur nom de profil.
Vers 10 heures du matin (heure de l'Est), une photo d'un incendie brûlant sur la pelouse du Pentagone a commencé à être largement relayée et à se propager rapidement. La photo était intitulée "Rapport préliminaire d'une grande explosion près du Pentagone à Washington, D.C."
Selon Forbes, un porte-parole du ministère américain de la Défense a déclaré que cette photo constituait une « désinformation ».
Arlington Fire et EMS ont publié une déclaration sur Twitter à 10 h 27 HE condamnant la photo comme étant fausse. Le compte Twitter du département a publié : @PFPAOfficial et ACFD sont au courant des rapports des médias sociaux circulant en ligne concernant une explosion près du Pentagone, mais aucune explosion n'a eu lieu dans ou à proximité de la réserve du Pentagone et il n'y aura aucun impact direct sur le public. .
Les experts d'OSINT ont entièrement inspecté l'image en quelques minutes et ont souligné les différences, prouvant qu'il s'agissait bien d'une fausse image générée par l'IA.
L'enquêteur numérique de Bellingcat, Nick Walters, a déclaré qu'il serait très difficile, voire impossible, de simuler un tel événement. Il est facile de distinguer le vrai du faux rien qu'en regardant la manière dont les façades et les clôtures des bâtiments se fondent dans la foule.
Nick Walters a déclaré que pour un reportage d'une telle ampleur, il n'est pas aussi crédible s'il n'y a pas d'autres photos ou vidéos de témoins oculaires publiées en ligne.
En outre, Nick Walters a également écrit sur Twitter : La plupart des événements physiques extrêmes (explosions, attaques terroristes, combats à grande échelle) dans des zones densément peuplées produiront des ondulations numériques identifiables.
Les fausses images d'IA, bien qu'amusantes pour les créateurs et les téléspectateurs, sont l'une des plus grandes préoccupations des entités de gouvernance et des experts en IA depuis le lancement de ChatGPT en novembre dernier.
Plus tôt ce mois-ci, un homme a été arrêté en Chine et risque jusqu'à 10 ans de prison pour avoir utilisé la technologie profonde pour diffuser de fausses nouvelles en ligne. L'homme est accusé d'avoir utilisé ChatGPT pour créer une fausse vidéo d'information sur l'IA illustrant un accident de train mortel, puis de l'avoir publiée sur plusieurs sites de médias sociaux.
Les experts affirment qu'à mesure que les modèles d'intelligence artificielle ont continué d'évoluer ces dernières années, la désinformation sur les réseaux sociaux est très inquiétante, d'autant plus que le cycle de l'élection présidentielle américaine de 2024 vient tout juste de commencer.
Andy Campbell, rédacteur en chef du Huffington Post, a mentionné la dispute qu'il a eue avec les utilisateurs de Twitter au sujet de sa certification Twitter Blue l'automne dernier, lorsque le PDG de Twitter, Musk, a repris l'entreprise.
Dans le passé, une entreprise de médias sociaux pouvait prouver la légitimité d'une organisation ou d'un individu avant que son compte ne reçoive la certification chèque bleu de Twitter, mais elle peut désormais être accordée gratuitement à condition que quelqu'un soit prêt à payer 8 $ par mois. la marque.
La controverse sur cette question a atteint son apogée en mars, lorsque de nombreuses célébrités et journalistes autrefois vérifiés ont refusé de payer pour le service autrefois gratuit et ont proposé que la marque bleue vérifiée soit supprimée de leurs comptes.
Andy Campbell a déclaré que le danger de ce système de vérification payant est que si un compte publie sur Twitter une fausse photo d'information générée par l'IA sur l'explosion du Pentagone, mais avec vérification, à première vue, le compte ressemble à une actualité légitime de Bloomberg alimentation.
Twitter a suspendu le faux compte Bloomberg News, mais on ne sait pas d'où vient la fausse image du Pentagone. Bien que la propagation virale de la fausse nouvelle sur l'attentat contre le Pentagone ait été de courte durée, la rumeur a tout de même provoqué une forte baisse de la Bourse de New York lundi.
Lien de référence : https://cybernews.com/news/ai-fake-pentagon-explosion-viral-twitter-blue/
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!