AIによって生成された合成画像が横行し、真偽の区別が困難、専門家らは政策監視の急務を求める

4月3日のニュースで、最近ニューヨーク警察に逮捕されたトランプ前米大統領の写真がインターネット上に掲載され、多くの人の注目を集めました。ただし、これらの写真は本物ではなく、人工知能（AI）技術によって生成された合成画像です。

専門家は、これらの合成画像が新たな現実を示していると警告しています。大きなイベントの際には、ソーシャルメディアに虚偽の画像や動画が溢れかえり、事実をさらに混乱させ、国民を誤解させる可能性があります。関連技術を導入し、同様の技術を規制するための関連政策を策定することが急務である。

IT House の理解によれば、これらの「トランプ逮捕」写真は、オランダのオープンソース調査メディアである Web サイト「Ringcat」の創設者エリオット・ヒギンズ氏が AI ペイント ツールを使用して作成したものです。 。

ヒギンズ氏は、トランプ大統領が逮捕される可能性に関するニュースを視覚化したいと述べ、テキストから画像へのモデル Midjourney を使用してリアルな写真を生成し、Twitter 共有に投稿しました。このツイートは2日間で500万回近く閲覧され、7万9000件以上の「いいね！」を獲得した。

人工知能の専門家らは、偽の画像を作成および生成する技術は新しいものではないが、この分野の進歩のペースと人々による技術の悪用は懸念の原因であると述べています。デジタルコンテンツ分析会社Truepicのムニル・イブラヒム氏は、「合成コンテンツは急速に進化しており、本物のコンテンツと偽物のコンテンツの違いを見分けるのがますます困難になっている」と述べた。

「フォーチュン」誌は、現在ではさまざまな AI 画像生成ツールが手の届くところにあり、ユーザーが簡単な指示を出すだけで、本物のような画像を素早く大量に生成できると指摘しました。たとえば、テキストから画像へのモデルである Midjourney は、報道機関が撮影した写真のスタイルを模倣した画像を生成できるようになりました。そのため、これらの AI 生成画像は、雑然としたニュース環境を濁す可能性があります。

ヒギンズ氏は、合成画像の真と偽を区別することがますます困難になっているため、偽の視覚情報と戦う最善の方法は、この分野での一般の意識を高め、教育を強化することであると考えています。 AI によって生成された画像を識別し、このテクノロジーを独自のプラットフォームに統合できるテクノロジー。

インターネット上での偽の「トランプ逮捕」画像の蔓延は、嘘を作成し拡散するための AI の使用に対処するための企業基準や政府の規制が欠如していることも示しています。専門家らは、トランプ大統領の知名度の高さからトランプ氏の偽写真を見破りやすいが、一般人の偽写真を見破るのはそれほど簡単ではなく、偽写真を作成する技術は向上し続けていることに同意している。したがって、深層合成技術の使用を規制するには法律が必要です。

以上がAIによって生成された合成画像が横行し、真偽の区別が困難、専門家らは政策監視の急務を求めるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。