AI 画像ジェネレーター: 新たなサイバーセキュリティの脅威

人工知能 (AI) は社会の性質を変える可能性を秘めています。人工知能ツールは私たちに多くの期待をもたらしますが、多くの面で警戒する必要もあります。たとえば、サイバー犯罪者やその他の脅威アクターは人工知能を武器化しており、AI 画像ジェネレーターであっても悪用を免れないわけではありません。

AI画像ジェネレーターとは何ですか?それらはどのように機能するのでしょうか? AI 画像ジェネレーターを使用したことがあれば、それが何であるかは明らかです。使ったことがなくても、ソーシャルメディアなどでAIが生成した画像に遭遇したことがあるはずだ。今日の人気のあるソフトウェアは非常にシンプルに動作します。ユーザーがテキストを入力すると、人工知能がそのテキストに基づいて画像を生成します。

近年、人工知能技術の発展に伴い、ほとんどのテキストから画像へのジェネレーターは拡散モデルを採用しています。これは、それらが長時間の「トレーニング」を受け入れることを意味します。それが、彼らの作品が非常に印象的で、驚くほどリアルである主な理由です。

これらの AI ツールがさらに優れているのは、既存の画像を変更したり、数千の画像を 1 つに結合したりするだけでなく、新しいオリジナルの画像を最初から作成できることです。これらのテキストから画像へのジェネレーターを使用する人が増えるほど、より多くの情報が得られ、作品がより良くなります。

WOMBO、DALL-E、Stable Diffusion、Midjourney、DeepAI、Fotor、Craiyon など、すでに有名な AI 画像ジェネレーターが多数あります。 Google を含むテクノロジー大手が独自の製品をリリースしているため、将来的にはより多くの価値がもたらされると推測することしかできません。

脅威アクターが AI 画像ジェネレーターを武器化する 4 つの方法

ほとんどすべてのテクノロジーと同様、AI 画像ジェネレーターも悪意のある攻撃者によって悪用される可能性があります。実際、それらはあらゆる種類の凶悪な目的に使用されてきました。しかし、犯罪者は AI 画像ジェネレーターの助けを借りて、具体的にどのような種類の詐欺を実行できるのでしょうか?

1. ソーシャル エンジニアリング

脅威アクターが AI 画像ジェネレーターを使用して実行できることの 1 つは、偽のソーシャル メディア プロファイルの作成など、ソーシャル エンジニアリングに関与することです。これらのプログラムの中には、本物の人物の本物の写真のように見える信じられないほどリアルな画像を作成できるものもあります。また、詐欺師はこれらの偽のソーシャル メディア プロフィールをフィッシング目的に使用する可能性があります。

本物の人物の写真とは異なり、AI で生成された写真は画像の逆検索では発見できません。また、サイバー犯罪者はターゲットを欺くために限られた数の写真を使用する必要はありません。AI を使用すると、任意の数の写真を生成できます。写真、魅力的なオンライン アイデンティティをゼロから構築します。

しかし、実際には、脅威アクターは AI 画像ジェネレーターを使用して人々を騙すことができます。 2022 年 4 月、Tech Talk ブロガーのベン ディキンソン氏は、画像を無断で使用したと主張する電子メールを法律事務所から受け取りました。弁護士らはDMCA著作権侵害通知を電子メールで送り、クライアントにリンクを戻すか画像を削除する必要があるとディキンソン氏に伝えた。

Dickinson さんは Google で法律事務所を検索し、公式ウェブサイトを見つけました。これらはすべて完全に合法であるようで、ウェブサイトには 18 人の弁護士の写真も掲載されており、その経歴や資格情報も含まれています。しかし、これはどれも真実ではありません。写真はすべて人工知能によって生成されたもので、著作権侵害の疑いのある通知は、何の疑いも持たないブロガーからバックリンクを強要しようとする何者かによって送られたものだった。

2. 慈善詐欺

2023 年 2 月に壊滅的な地震がトルコとシリアを襲ったとき、世界中の何百万人もの人々が衣服、食べ物、お金を寄付することで感謝の気持ちを表しました。被害者との連帯。

BBC の報道によると、詐欺師はこれを利用し、人工知能を使用してリアルな画像を作成し、寄付を募っています。詐欺師は AI が生成した廃墟の画像を TikTok Live で披露し、視聴者に寄付を求めました。ギリシャの消防士が瓦礫の中から負傷した子供を救出するAI生成画像を投稿し、フォロワーに寄付を呼びかけた人もいた。

犯罪者が将来、人工知能の助けを借りてどのような種類の慈善詐欺を実行するかは想像することしかできませんが、彼らがソフトウェアを悪用することはますますうまくなるだろうということは間違いありません。

3. ディープフェイクと偽情報

政府、活動家団体、シンクタンクは長年、ディープフェイク AI 画像生成ツールの危険性を警告してきましたが、それは偽情報エージェントを阻止することができないからです。ボットを利用して虚偽の画像を作成したり、ソーシャルメディアでそれを宣伝したりすることはありません。

NPR によると、2022 年 3 月、ウクライナ大統領がウクライナ国民に降伏するよう指示する様子を映した偽動画がオンラインで拡散しました。これはほんの一例にすぎませんが、可能性はほぼ無限にあり、人工知能の助けを借りて、脅威アクターが誰かの評判を傷つけたり、虚偽の話を広めたり、フェイクニュースを広めたりする方法は無数にあります。

4.広告詐欺

トレンドマイクロの研究者は、2022 年に詐欺師が人工知能によって生成されたコンテンツを使用して誤解を招く広告を作成し、いかがわしい製品を宣伝していることを発見しました。彼らは、人気の有名人が特定の製品を使用していることを示唆する画像を作成し、それらの画像に基づいて広告キャンペーンを実行します。

たとえば、「財務アドバイスの機会」の広告には、テスラの創設者兼 CEO が登場しています。もちろん、マスク氏は問題の製品を支持したわけではないが、おそらく疑いを持たない視聴者を誘導して広告をクリックさせるため、AIが生成した映像はこのように見せていた。

人工知能とサイバーセキュリティ: 解決が必要な複雑な問題

将来を見据えると、政府規制当局とサイバーセキュリティの専門家が協力して、新たに出現する AI 主導のサイバー犯罪の脅威に対処する必要があるかもしれません。しかし、イノベーションを抑制したりデジタルの自由を制限したりすることなく、AIを規制し、一般の人々を保護するにはどうすればよいでしょうか?この問題は今後数年間で顕著になるでしょう。

答えが得られるまで、自分を守るためにできる限りのことをしてください。オンラインで目にするものはすべて精査し、疑わしい Web サイトを避け、セキュリティ ソフトウェアを使用し、デバイスを最新の状態に保ち、人工知能を使用して自分自身を保護する方法を学びましょう。アドバンテージ。

原題: AI Image Generators: An Emerging Cyber​​security Threat

##原著者: DAMIR MUJEZINOVIC

以上がAI 画像ジェネレーター: 新たなサイバーセキュリティの脅威の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。