Générateur d'images IA : une menace émergente pour la cybersécurité

L'intelligence artificielle (IA) a le potentiel de changer la nature de la société. Même si les outils d’intelligence artificielle suscitent beaucoup d’attentes, nous devons également être vigilants sur de nombreux aspects. Par exemple, les cybercriminels et autres acteurs malveillants utilisent l’intelligence artificielle comme arme, et même les générateurs d’images d’IA ne sont pas à l’abri des abus.

Qu'est-ce que le générateur d'images IA ? Comment fonctionnent-ils ? Si vous avez déjà utilisé un générateur d’images IA, leur fonctionnement est assez clair. Même si vous n’en avez jamais utilisé, vous avez probablement rencontré des images générées par l’IA sur les réseaux sociaux et ailleurs. Les logiciels populaires d'aujourd'hui fonctionnent très simplement : l'utilisateur saisit du texte et l'intelligence artificielle génère une image basée sur ce texte.

Ces dernières années, avec le développement de la technologie de l'intelligence artificielle, la plupart des générateurs de texte en image adoptent des modèles de diffusion, ce qui signifie qu'ils sont « entraînés » sur une grande quantité de texte et d'images pendant une longue période, ce qui est pourquoi ils La principale raison pour laquelle le travail est si impressionnant et incroyablement réaliste.

Ce qui rend ces outils d'IA encore plus impressionnants, c'est qu'ils modifient non seulement des images existantes ou fusionnent des milliers d'images en une seule, mais créent également de nouvelles images originales à partir de zéro. Plus les gens utilisent ces générateurs de texte en image, plus ils obtiennent d’informations et meilleures sont leurs créations.

Il existe déjà de nombreux générateurs d'images IA célèbres : WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor et Craiyon. Les géants de la technologie – dont Google – publient les leurs, nous ne pouvons donc que spéculer sur une plus grande valeur à venir dans le futur.

4 façons dont les acteurs menaçants utilisent les générateurs d'images d'IA comme des armes

Comme presque toutes les technologies, les générateurs d'images d'IA peuvent être exploités par des acteurs malveillants. En fait, ils ont été utilisés à toutes sortes de fins néfastes. Mais quels types d’escroqueries les criminels peuvent-ils commettre exactement avec l’aide des générateurs d’images IA ?

1. Ingénierie sociale

Une chose évidente que les acteurs malveillants peuvent faire avec les générateurs d'images IA est de s'engager dans l'ingénierie sociale, par exemple en créant de faux profils sur les réseaux sociaux. Certains de ces programmes peuvent créer des images incroyablement réalistes qui ressemblent à de vraies photos de vraies personnes, et les escrocs peuvent utiliser ces faux profils de réseaux sociaux à des fins de phishing.

Contrairement aux photos de personnes réelles, les photos générées par l'IA ne peuvent pas être découvertes par des recherches d'images inversées. Les cybercriminels n'ont pas besoin d'utiliser un nombre limité de photos pour tromper leurs cibles : grâce à l'IA, ils peuvent générer n'importe quel nombre de photos pour créer une image. commande à partir de zéro. Une identité en ligne convaincante.

Cependant, dans la vraie vie, les auteurs de menaces peuvent utiliser des générateurs d’images IA pour tromper les gens. En avril 2022, Ben Dickinson, blogueur de Tech Talk, a reçu un e-mail d'un cabinet d'avocats affirmant qu'il avait utilisé une image sans autorisation. Les avocats ont envoyé par courrier électronique un avis de violation du droit d'auteur DMCA, indiquant à Dickinson qu'il devait établir un lien vers leur client ou supprimer l'image.

Dickinson a effectué une recherche sur le cabinet d'avocats sur Google et a trouvé le site officiel. Tout cela semble tout à fait légal ; le site Web contient même des photos de 18 avocats, y compris leurs biographies et leurs références. Mais rien de tout cela n’est vrai. Les photos ont toutes été générées par l’intelligence artificielle et l’avis de violation présumée du droit d’auteur a été envoyé par quelqu’un dans l’espoir d’extorquer des backlinks à des blogueurs sans méfiance.

2. Escroqueries caritatives

Lorsque des tremblements de terre dévastateurs ont frappé la Turquie et la Syrie en février 2023, des millions de personnes dans le monde ont fait preuve de solidarité avec les victimes en faisant don de vêtements, de nourriture et d'argent.

Selon un rapport de la BBC, des escrocs en profitent en utilisant l'intelligence artificielle pour créer des images réalistes et solliciter des dons. Un escroc a montré des images de ruines générées par l’IA sur TikTok Live, demandant des dons à ses téléspectateurs. Un autre a publié une image générée par l’IA d’un pompier grec sauvant un enfant blessé des décombres et a demandé à ses partisans de faire un don.

On ne peut qu'imaginer quels types d'escroqueries caritatives les criminels lanceront à l'aide de l'intelligence artificielle à l'avenir, mais une chose est sûre, ils ne feront que mieux abuser du logiciel.

3. Deepfakes et désinformation

Les gouvernements, les groupes d'activistes et les groupes de réflexion mettent depuis longtemps en garde contre les dangers des générateurs d'images deepfake IA, et c'est parce que rien n'empêche les agents de désinformation de créer des mensonges à l'aide de l'image des robots et de les promouvoir sur Internet. réseaux sociaux.

En mars 2022, une fausse vidéo montrant le président ukrainien disant aux Ukrainiens de se rendre a circulé en ligne, selon NPR. Bien qu’il ne s’agisse que d’un exemple, les possibilités sont presque infinies et il existe d’innombrables façons pour les acteurs malveillants de nuire à la réputation d’une personne, de promouvoir de faux récits ou de diffuser de fausses nouvelles avec l’aide de l’intelligence artificielle.

4. Fraude publicitaire

Les chercheurs de Trend Micro ont découvert en 2022 que les fraudeurs utilisent le contenu généré par l'IA pour créer des publicités trompeuses et promouvoir des produits louches. Ils créent des images suggérant que des célébrités populaires utilisent certains produits et mènent des campagnes publicitaires basées sur ces images.

Par exemple, une publicité pour « Financial Advice Opportunities » présente le fondateur et PDG de Tesla. Bien sûr, Musk n’a jamais approuvé le produit en question, mais les images générées par l’IA le font ressembler à ceci, probablement pour inciter les téléspectateurs sans méfiance à cliquer sur la publicité.

Intelligence artificielle et cybersécurité : des problèmes complexes que nous devons résoudre

À l'avenir, les régulateurs gouvernementaux et les experts en cybersécurité devront peut-être travailler ensemble pour faire face à la menace émergente de la cybercriminalité basée sur l'IA. Mais comment pouvons-nous réglementer l’IA et protéger les citoyens ordinaires sans étouffer l’innovation et limiter la liberté numérique ? Cette question deviendra importante dans les années à venir.

Jusqu'à ce que vous obteniez une réponse, faites ce que vous pouvez pour vous protéger : examinez tout ce que vous voyez en ligne, évitez les sites Web douteux, utilisez des logiciels de sécurité, gardez vos appareils à jour et apprenez à utiliser l'intelligence artificielle à votre avantage. Votre avantage.

Titre original : Générateurs d'images IA : une menace émergente pour la cybersécurité

Auteur original : DAMIR MUJEZINOVIC

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!