Les images synthétiques générées par l'IA sont omniprésentes et il est difficile de distinguer le vrai du faux. Les experts appellent à une supervision politique impérative.

Nouvelles du 3 avril, des photos de l'ancien président américain Trump arrêté par la police de New York sont récemment apparues sur Internet, ce qui a attiré l'attention de nombreuses personnes. Cependant, ces photos ne sont pas réelles, mais des images synthétiques générées par la technologie de l’intelligence artificielle (IA).

Les experts préviennent que ces images composites montrent une nouvelle réalité : lorsque des événements majeurs se produisent, les médias sociaux peuvent être inondés de fausses images et vidéos, confondant davantage les faits et induisant le public en erreur. Il est donc urgent de déployer des technologies et formuler des politiques pertinentes pour superviser les technologies similaires.

Selon IT House, ces photos de « Trump Arrest » ont été réalisées par Elliot Higgins, le fondateur du site Web « Ringcat », un média d'investigation open source aux Pays-Bas, à l'aide de l'outil de dessin d'IA Midjourney.

Higgins a déclaré qu'il souhaitait visualiser des informations sur l'arrestation potentielle de Trump. Il a donc utilisé Midjourney, un modèle de synthèse texte-image, pour générer des photos réalistes et les a partagées sur Twitter. Le tweet a été vu près de 5 millions de fois en deux jours et a reçu plus de 79 000 likes.

Bien que la technologie permettant de créer et de générer de fausses images ne soit pas nouvelle, le rythme des progrès dans le domaine et l’utilisation abusive de la technologie par les gens sont préoccupants, disent les experts en intelligence artificielle. Munir Ibrahim, de la société d'analyse de contenu numérique Truepic, a déclaré : « Le contenu synthétique se développe rapidement et l'écart entre le contenu réel et le faux devient de plus en plus difficile à distinguer. »

Le magazine Fortune a souligné que divers outils de génération d'images IA sont désormais à portée de main et qu'ils peuvent générer rapidement un grand nombre d'images réalistes après que les utilisateurs ont donné des instructions simples. Par exemple, Midjourney, un modèle de conversion texte-image, peut désormais générer des images qui imitent le style des photos prises par les agences de presse, de sorte que ces images générées par l'IA ont le potentiel de brouiller les eaux d'un environnement d'information encombré.

Higgins estime qu'à mesure que les images synthétiques deviennent de plus en plus difficiles à distinguer entre le vrai et le faux, le meilleur moyen de lutter contre les fausses informations visuelles est de sensibiliser le public et de renforcer l'éducation dans ce domaine. Les entreprises de médias sociaux peuvent se concentrer sur le développement de la capacité à faire la distinction entre les deux. vrai et faux. Nouvelle technologie pour les images générées par l’IA et intégrant cette technologie dans sa propre plateforme.

La prolifération de fausses images de « Trump arrêté » sur Internet illustre également l’absence actuelle de normes d’entreprise ou de réglementations gouvernementales pour lutter contre l’utilisation de l’IA pour créer et propager des mensonges. Les experts conviennent que la notoriété de Trump permet aux gens de repérer facilement de fausses photos de lui, mais les fausses photos de gens ordinaires ne sont pas si faciles à repérer, et la technologie permettant de créer de fausses photos continue de s'améliorer. Une législation est donc nécessaire pour réglementer l’utilisation de la technologie de synthèse profonde.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!