4 つの新たな AI 詐欺にご注意ください。誰かが10分で430万を騙し取られた

著者 | 呉飛寧 李水清

編集者 | シン・ユアン

ここ数日、新たな AI 詐欺が全国で爆発的に増加しています。

過去にはAIの論文やニュースの改ざんがあり、その後AIによって顔を変えられた疑いのあるヤン・ミーとディルラバが生放送室に出演してグッズを販売した。昨日、内モンゴル包頭市で起きた「AI通信詐欺、10分で430万元騙し取られた」が微博でトレンド入りし、全国的な注目を集めた。

今朝、米国株の急落を引き起こした国防総省の爆発の一連の写真が偽物であり、AIによって合成された疑いがあることが正式に確認されました。

AI テクノロジーが実装の新たな波を起こす中、AI ディープフェイク コンテンツが世界中にウイルス的に拡散し、業界に強い懸念を引き起こしています。

2019 年の初めに、Zhixixi はディープフェイク AI 顔を変える黒い製品 (「AI 顔を変える黒い製品: 100 元のパッケージ 200 枚の顔を交換するポルノ映画、5 枚の写真でビデオをカスタマイズできる」) を調査し、報告しました。近年、ディープフォージェリ技術とアンチディープフォージリ技術の攻防が続いており、関連部門は徐々に規制法や規制の整備を進めている。現在、GPT-4に代表されるAIラージモデル技術の進化を重ね、ディープフェイクコンテンツが復活し、世界中で大きな騒動を巻き起こしています。

記事から写真、人の声から映像のダイナミック効果まで、ダイナミック効果を最大限に復元することができ、あらゆる手口で国民を騙すことが可能です。無限であり、検出するのが困難です。こうしたAI偽造コンテンツの真贋を見分けるのは多くの若者にとって困難であり、高齢者や子供はだまされる可能性が高い。そして、その信頼が犯罪者によって犯罪に利用されると、悲惨な結果が生じます。

人工知能技術の専門家はZhidongzhiに対し、現在のAIディープ偽造技術によって生成された音声やビデオのコンテンツを一般の人が肉眼で識別するのは非常に難しいと語った。

従来の詐欺は AI によって包まれた「新しいコート」を着せられ、より隠蔽され、検出がより困難になりました。これらの新しい AI 詐欺はどのように機能するのでしょうか?区別が難しい偽の AI コンテンツを検出するにはどうすればよいですか?産業の混乱に対する解決策は何でしょうか?この記事では、市場に出回っているさまざまな新しい AI 詐欺を整理して分析することで、これらの問題について詳しく議論します。

1. 10 分間の顔を変えるビデオで 430 万元をだまし取られた 4 つの新たな AI 詐欺にご注意ください

今年3月、テスラCEOイーロン・マスク氏、アップル共同創業者シー氏ら数千人の科学者やビジネス関係者らを含む「大規模人工知能研究の一時停止」と題した公開書簡がフューチャーライフ研究所の公式ウェブサイトで公開された。スティーブ・ウォズニアック氏らを含む幹部らは、GPT-4以上のバージョンの開発の一時停止を求める嘆願書に署名しており、いずれも強力なAI技術の悪用の可能性を指摘している。

AI の否定的な使用は、私たちが想像するよりもはるかに速いスピードで爆発的に増加しています。 AI技術の能力の向上と実装の加速により、AIの偽造が容易になり、内容がより現実的になることで、フェイクニュースやフェイク写真が後を絶たず、声や顔の変化による凶悪な事件が社会的不安を引き起こしています。 「絵と真実」「百聞は一見に如かず」という常識が、歴史上最も激しい衝撃を受けたのではないかと多くの人が感じている。

1. 顔交換ビデオ: 10 分で 430 万を騙し取られました

おそらく、AIによる顔の変化による悪質な出来事はすでに私たちの周りでたくさん起こっているのに、私たちはまだそれに気づいていません。

最近、内モンゴル自治区包頭市自治区公安局インターネット捜査部は、友人を装い、急遽お金が必要になったと主張し、AIを利用した通信詐欺事件を摘発した。 WeChatビデオを通じて被害者の郭氏に電話をかけた。

友人への信頼から、またビデオチャットで相手の身元をすでに確認していた郭氏は警戒を緩め、2回の送金で430万を犯人の銀行カードに送金したが、いわゆるWeChat ビデオ通話の「友達」は AI 顔変更技術によって作られています。犯罪者らはAIの顔を変える技術を利用して友人のふりをし、彼に対して通信詐欺を行った。現在、警察の押収により336万8400元が回収され、93万1600元が送金された。

AI変顔は、相手の信頼を得る最も簡単な詐欺手口であり、詐欺師はAI技術を利用して身近な人の顔を変更し、相手に電話をかけて確認することがよくあります。

この新しいタイプの詐欺に直面した場合、まず、自分の個人情報を保護し、個人のプライバシーに関わる情報を他人に安易に提供せず、見慣れないリンクをクリックしたり、見慣れないソフトウェアを勝手にダウンロードしたりしないようにする必要があります。さまざまなチャネルを通じて相手方を特定することを確認し、潜在的なリスクに常に注意を払う必要があります。

「AI変面」機能とよく似た機能に「AI脱衣」があります。今年3月には「AIが女性の地下鉄写真をワンクリックで脱衣拡散」というニュース記事がホット検索にヒットした。悪質な拡散、犯罪者らも女性を中傷するために虚偽の情報を広く拡散した。

このような「ワンクリック脱衣」テクノロジーは、2019 年にはすでに海外で登場していましたが、世間での広範な論争と非難により、このプロジェクトはすぐに終了し、棚から撤去されました。この悪しき傾向は今年のAIブームでも再び中国に波及しており、インターネットで「AI」「着せ替え」「ソフトウェア」などのキーワードで検索すると、今でも隠れた関連ソフトが数多くヒットする。興味のある方はポルノ動画やわいせつ動画の制作・配信にも利用でき、AI動画女装サービスは完全にチェーン化したブラック産業となっている。

「AI変顔」は、映画やテレビドラマの二次創作、楽しいパロディ動画、表現パックの制作などに広く利用されていますが、隠れた法的リスクや侵害紛争も無視できません。最近、Qichacha の公式 Web サイトの情報によると、Shanghai Houttuynia Information Technology Co., Ltd. は、同社の顔交換モバイル アプリの 1 つについて多くのインターネット有名ブロガーから訴訟を起こされました。

▲App Store には 100 近くの「AI 顔変更」アプリケーションがあります

以前、「特殊効果シンセサイザー ホン リャン」というビデオ ブロガーが、テレビ シリーズ「You Are My Glory」の男性主人公ヤン ヤンの顔を、AI 顔変更技術を使ってビデオ内で置き換えました。最終的には主演俳優のファンに追いかけられ、殴られることになり、多くのネチズンの注目を集めた。

▲「特殊効果合成者ホン・リャン」のアカウントにアップロードされた一部のAI合成変面動画

このビデオ ブロガーは、男性スターの顔を交換することをギミックとして使用しましたが、実際には、映画やテレビの特殊効果制作に関する有料コースにトラフィックを集めるためでした。しかし、彼の行為により、ディルムラトなどの俳優に対する権利侵害が発生しました。 TVシリーズに登場したディルラバとヤンヤン。 『クルスト』が人気を博した後は、TVシリーズ版『西遊記』とプロットクリップを交換して再度制作するファンも多く、普及と話題の面でTVシリーズの人気に貢献したが、テレビシリーズに満足できず、その俳優がトラブルを起こした。

トラフィックを呼び込む行為は、顔を変えた有名人やテクノロジーに興味を持つ一般の人々の両方に悪影響やトラブルをもたらしており、エンターテイメントとテクノロジーの境界線がここまで曖昧になるべきではありません。

2. 音声合成: 真実を隠すために人間の声を複製する

かつて「AI ステファニー・サン」が流行し、その後 AI による人間の声のクローンが吹き替え界に侵入するなど、AI の音声合成技術は大いに宣伝され、多くの凶悪な事件とそれに関連した犠牲者を生み出しました。

あるネチズンは、有名なアメリカの歌手フランク・オーシャンの曲のクリップを使用して、彼の音楽スタイルを模倣した曲を訓練し、これらの「音楽作品」を地下音楽フォーラムに投稿し、またこれらの曲を偽造したバージョンでした。録音中に誤って流出してしまい、最終的には流通し、970ドル（6,700元に相当）近くで落札された。

少し前、スペインの映画製作会社ピーボディ・フィルムズも AI 電話詐欺の被害に遭いました。詐欺師は有名俳優「ベネディクト・カンバーバッチ」になりすまし、会社に敵対していると主張しました。私は非常に興味があります。この映画を見て協力する意向はあるが、まず同社が20万ポンド（約170万元に相当）の保証金を振り込む必要があり、それから具体的な協力内容について話し合うことになる。

映画会社は異常に気づき、俳優の事務所に確認したところ、最初から最後までAI詐欺だったことが分かりました。

海外では、AI のクローン音声を利用した詐欺や恐喝に関するニュースが数多く報道されており、中には最大 100 万ドルもの巨額の被害に遭う事件もあります。この種の詐欺師は、通話録音などから他人の音声を抽出して合成し、その音声を使って知人を騙す手口が多く、不審電話への警戒が求められており、知人であっても声を偽造される場合があります。

米国 CBS テレビのニュース雑誌番組「60 Minutes」は、5 月 22 日の最新エピソードで、ハッカーが音声のクローンを作成して同僚を欺き、パスポート情報を盗むことに成功する様子を生中継しました。

▲60 分間の完全なビデオを Twitter にアップロードしました

わずか 5 分で、ハッカーは AI クローンを通じてシャリンさんの声をコピーし、ツールを使用して電話の発信者 ID の名前を置き換え、同僚を欺くことに成功し、彼女の名前、パスポート、番号、その他の個人情報を簡単に入手しました。 。

3. 偽造写真: トランプ大統領は「逮捕」され、ローマ法王はキャットウォークでダウンジャケットを着た

AI の顔を変える動画が圧倒的に普及する中、AI の偽写真もさらに広まりました。

東部時間5月22日、国防総省近くで起きた爆発の写真がソーシャルメディアで拡散した。この偽写真が広く流通したことにより、S&P 500指数は短期的に約0.3％下落し、上昇から下落に転じた。

米国国防総省の報道官は、これも AI によって生成された偽の写真であることをすぐに認めましたが、この写真には、街路灯が少し曲がっていたり、歩道にフェンスが生えていたりするなど、明らかな AI によって生成された特徴がありました。

ミッドジャーニーが生成した1990年代のカップルの写真は、ネチズンが本物か偽物かを判断するのを困難にしている 3月には、トランプ前米大統領が逮捕される数枚の写真がツイッター上で拡散した。

写真では、トランプ氏は警察に囲まれて地面に押し倒され、当惑してパニックに陥った様子を見せていた。公聴中、彼は顔を隠して激しく泣き、じめじめした暗い独房の中で囚人服を着ることもあった。これらの画像は、市民ジャーナリズム Web サイト Bellingcat の創設者である Eliot Higgins が Midjounrney を使用して作成したものです。写真が投稿された後、彼のアカウントもブロックされた。

▲Midjounrneyが生成した一連のトランプ「逮捕」画像

「トランプ逮捕写真」が公開されて間もなく、パリワールドのダウンジャケットを着たフランシスコ教皇の写真がインターネット上で大騒ぎとなり、公開後間もなく2,800万回以上の再生回数を記録し、ネチズンはそれを信じています。

▲法王はキャットウォークでバレンシアガのダウンジャケットを着用しました

クリエイターのパブロ・ザビエルさんは、この一連の写真が人気になるとは想像もしていなかったが、突然バレンシアガのダウンジャケットやパリやローマの街路などを思い出したと語った。

Reddit フォーラムのミッドジャーニー セクションでは、「2001 年のカスカディア マグニチュード 9.1 の地震により津波が発生し、オレゴン州が壊滅的な被害を受けた」というグループが広く拡散されました。写真の災害現場は救援隊員、ジャーナリスト、政府で混乱に陥っていました。当局者などが次々と現れ、人々は不安、恐怖、パニックに陥った様子だった。しかし、実はこれは歴史上存在しないAIが引き起こした「災害」だった。完全な要素と実際の色を備えたこれらの写真やシーンでは、信憑性を見分けることが困難になります。

4. ニュースの編集: AI が噂の製造所になる

5月7日、甘粛省平涼市公安局サイバーセキュリティ隊はAIによる虚偽の情報捏造事件を検知した。

犯人はインターネット全体から集めた話題のソーシャルニュースをChatGPTを利用して改変・編集し、「今朝甘粛省で道路工事作業員に列車が衝突し、9人が死亡した」というフェイクニュースを編集したと報じられている。ネットワークトラフィックと注目を集めて収益化するため。

このニュースは公開されるや否や 15,000 回以上の閲覧数を記録しましたが、幸いにも世論がさらに高まる前に警察が捜査に介入し、容疑者が AI 技術を利用してニュースを捏造したことが確認されました。

読者がフィッシング Web サイトで AI フェイク ニュースを特定する必要があるだけでなく、既存のメディアも AI フェイク ニュースに騙されることがあります。

イギリス『デイリーメール』（デイリーメール）は4月24日、「22歳のカナダ人男性が韓国でアイドルとしてデビューするために12回の整形手術を受け、最終的に死亡した」とのニュースを掲載した。 。

▲ 報道によると、22歳のカナダ人俳優は、近日公開予定のアメリカのドラマでK-POPスターBTSグループのジミンを演じるため、12回の整形手術に2万2000ドルを費やし、最終的に死亡したという。

このニュースは世界中の多くのメディアの注目を集め、韓国のYTNニュースチャンネルなどのテレビ局もすぐに報道し、ネットユーザーからも同情と遺憾の意が表明されました。

▲ネチズンは彼の死のニュースに遺憾の意を表した

しかし、韓国の記者とアメリカのラジオ局 iHeartRadio が疑問を提起した後、状況は完全に逆転しました。その男はまったく存在しない可能性があります。ネチズンが検証のためにAIコンテンツ検出ウェブサイトに自分の写真を持ち込んだところ、75％の確率で写真がAIによって生成されたことが判明し、韓国のMBCテレビ局が警察に確認したところ、「そうではない」という回答も得たという。このニュースはすぐに「AIフェイクニュース」であることが確認されました。

しかし、問題はまだ終わっておらず、今月初め、男性の遺族は、「フェイクニュース」を報道したメディアと男性の所属事務所、そして、最初に主張した記者を告訴することを決めた。その男は死んでいた。つまり、写真はAIによって生成されたものではなく、男性は行き過ぎた整形手術による合併症で死亡したということだ。

多くのメディアは、彼の身元を確認せず、実質的な証拠も保持しないまま、男の身元と情報が編集されたと主張し、AI によって引き起こされた茶番劇を悲劇的な事件に変えました。

AIによってまとめられたこれらのニュースは、国民の聴覚と聴覚を混乱させるだけでなく、全容を見る時間と忍耐力のない通行人に真実を見分ける能力を失わせます。

2.「AI」になったことがある有名人: 「AI ステファニー・サン」はカバーでヒットし、「AI ヤン・ミー」は顔を変えてグッズを販売しました

AI テクノロジーが蔓延すると、最初に最も大きな打撃を受けるのはエンターテイメント スターです。

最近人気のステファニー・サン氏が、「AI ステファニー・サン」の出現を受けて、昨夜長文の投稿をしました。

▲「AI ステファニー・サン」の出現にステファニー・サンが反応（中国語翻訳版）

彼女は「AI ステファニー・サン」の出現に対してより寛容な態度をとり、法的手段を講じなかった。彼女は、「わずか数分で新しいアルバムをリリースできる『人間』と比較することは不可能です。」と彼女は言いました。AI（AI）には感情も音程の変化もありませんが、人間がどれほど速く移動できるとしても、それを超えて。

ステファニー・サン氏は AI が生成する音楽を高く評価していないものの、人間が短期間でロボットの学習能力に追いつくのは確かに困難であることが、回答からわかります。彼女はこれらを扱うことを選択しました。熱い曲のカバー動画を淡々と。

歌手のステファニー・サンは、AI のカバーによって初めて世間の注目を集めました。彼女の独特の音色と歌唱スタイルにより、多くの人気曲への高い適応力を持っています。ネチズンの AI テクノロジーの助けを借りて、彼女は「カバー」しました 「Hair Like Snow」、「Rainy Day」、「I Remember」などの曲はすべて100万回以上再生されています。

▲「AI ステファニー・サン」で最も再生された曲

AIが「カバー」した歌手はステファニー・サンだけではなく、AIジェイ・チョウ、AIシンディ・ワン、AIテンガーなどが次々と登場している。

ステファニー・サンは法的責任を追求しないことを選択していますが、商業的利益を損ない、法的な越えてはならない一線に触れる程度まで AI テクノロジーが乱用された場合、彼女は依然として自分の正当な権利と利益をタイムリーに保護する必要があります。

チャイナニュースネットワークによると、最近、多くの生放送室がAIを利用して有名人の顔を変えて生放送を行うようになり、ヤン・ミー、ディルラバ、アングルベイビーなどの女性有名人が顔を交換する重要な人物となっている。有名人の顔を使ったアンカーは、より良いトラフィック排出効果を達成し、広告コストを節約できますが、消費者や有名人のファンは、有名人の効果に基づいて消費することで騙される可能性があります。

ある顔変更サービスを提供するウェブサイトによると、既製のモデルを購入し、十分な素材があれば、わずか 30 分から数時間のイベントを含む数時間のビデオを直接合成できるとのことです。モデルのフルセットの価格は3.5万元で、有名人を招いて商品を生放送する場合に見積もられる価格よりもはるかに安い。

いくつかの主要な電子商取引プラットフォームでは、「AI 顔変更」や「ビデオ顔変更」などのキーワードがプラットフォームによってブロックされていますが、検索キーワードを変更するなどの方法で多くの関連商品を見つけることができます。

AI 顔変更テクノロジーは最近開発されたものではありません。すでに2017年には、ディープフェイクというネットユーザーがエロ映画のヒロインの顔をハリウッドスターのガル・ガドットに変更しており、AIによる顔変更技術が公の場に登場したのはこれが初めてだった。その後、多数の告発者の不満により彼のアカウントは正式に禁止され、その後のAI顔変更技術は彼の名前にちなんで「ディープフェイク」と名付けられた。

AIによる顔の変更が中国で本格的に流行したのは2019年の初めでした。「コンドル英雄伝説」の俳優黄栄役のズー・インの顔をAI技術によってヤン・ミーに置き換えた動画、一部のネチズンは「そんなことはない」との意見もあり、一部のネチズンは侵害感から原作俳優の肖像権を侵害しているのではないかとの指摘もあり、プロデューサーのシャオ氏は「主に技術交流に適している」と答えた。営利目的には使用しません。

▲ネチズンは「コンドル英雄伝説」で俳優ズー・インが演じた「黄栄」の役を俳優ヤン・ミーの顔に置き換えた。

国内における映画やテレビドラマの二次創作におけるAI活用の先駆けともなりました。

AI技術は長年犯罪者の標的となっており、さまざまな顔を変えるトリックに利用されており、芸能界の著名人だけでなく、多くの一般人もいわゆる「プライベート写真」によって脅迫されてきました。サイバーセキュリティ部門の複数の警察官は、AI深層合成技術の監督不足が多くの情報セキュリティリスクやネットワーク通信の混乱を引き起こし、間接的に刑事事件の発生にもつながったと述べた。

3. 大規模なAI法の普及運動が起きていますが、どのような行為が侵害・違法となるのでしょうか？

多くの人々の肖像画や音声が許可なく流布され、オーディオ製品やビデオ製品が著作権について議論することなく営利目的に使用され、さらに悪いことに、犯罪者は偽造情報を使用して財産詐欺や、さらには誘拐や恐喝を行っており、人々の個人情報に損害を与えています。そして財産権。

このようなより厳しい状況に直面して、人々は自らを守るために法的な武器を手にする必要があり、今後は産業の発展につながる大規模なAI法普及運動が起こるでしょう。

顔や音声の偽造が横行しており、最初に直面する問題は個人のプライバシーの侵害です。民法第 1019 条によれば、「いかなる組織または個人も、名誉毀損、汚損、または情報技術的手段を使用して偽造することによって、他人の肖像権を侵害してはならない。いかなる組織または個人も、肖像権者の同意なしに、肖像権を複製してはならない」 「法律に別段の定めがある場合を除き、肖像権を有する者の肖像を使用し、開示すること。」同時に、「自然人の声の保護については、関連する法律を参照してください。」さらに人々を不安にさせるのは、偽造された情報が要素の手に渡らなかった場合、信頼をさらに悪用して人々の財産権、さらには健康権を侵害する可能性があることです。 。

個人の権利に加え、AI偽造コンテンツに係る音声・映像素材の著作権侵害の問題も注目を集めています。最近、歌手のステファニー・スン氏は「AIステファニー」には無関心であるとの記事を投稿したが、偽造された人々の多くは身を守るために合法的な武器を手に取ることを選んでいる。株式会社フェイスモバイルAPPが機種変更に関与し、多くのネット有名ブロガーから訴訟を起こされました。

上海大邦法律事務所のシニアパートナー兼知的財産弁護士であるユー・ユンティン氏は、知的財産法によれば、実際の人の声を使って人工知能を訓練し、歌を生成することは、商業目的で使用されない限り、侵害にならない可能性が高いと書いている。まず、関連する曲と曲の著作権、付随する音楽、およびビデオ素材の許可を取得する必要があります。人工知能によって生成された作品には固有の著作権上の欠陥があり、著作権を享受してライセンス料を請求すべきではありません。人工知能を利用してユーザーが作成した著作物が他人に侵害された場合、不正競争防止法に基づいて権利を保護することができます。

実は、我が国の人工知能分野においても、いくつかの特別な規制が定められています。中国サイバースペース局とその他の部門は、2022 年 12 月に「インターネット情報サービスの深層合成管理に関する規則」を公布しました。この規則では、法律や次のようなアプリケーションを含む深層合成技術の使用に関する仕様を 25 の規制で定めています。深層合成サービスを利用して他者の正当な権利利益を侵害することの禁止 配信プラットフォームは棚卸審査やサービス提供などの規制を整備し、テクニカルサポーターは技術管理を強化する必要がある。

4 月 11 日、中国サイバースペース局は「生成型人工知能サービスの管理措置 (意見募集草案)」を迅速に草案しました。関与する生成型人工知能には、アルゴリズム、モデル、ルールに基づいてテキストと画像を生成することが含まれます、音声、映像、コードなどのコンテンツ技術を含めて、現在のAI偽造は包括的に規制されていると言える。 (「速報! 初の国家 AIGC 規制文書、生成 AI サービス管理措置がコメント募集のために公開」)

さらに、「我が国のネットワークセキュリティ法」、「中華人民共和国のデータセキュリティ法」、「中華人民共和国の個人情報保護法」、「インターネット情報サービス管理法」 「措置」および我が国が公布するその他の法律および行政法規には、すべてこれに関する規定があり、正当な権利および利益を保護するための適切な根拠となり得る。

4. 一般人はAIコンテンツ認識における「防御スキル」を持っており、プラットフォームは責任を負う必要があります

「偽造」と「偽造防止」は AI によって引き起こされるものではありませんが、今日の AI 技術により、「偽造」の区別はより簡単になり、より困難になります。 AI で偽造されたコンテンツが市場から出てくる中、人々はそれを自分で識別するスキルを持っているでしょうか?

有名なセキュリティ会社である RealAI の共同創設者でありアルゴリズム科学者であるシャオ・ジハオ氏は、ディープフェイク技術は常に進化しており、生成される音や映像はますます現実的になってきており、一般人にとっては非常に困難になっていると志東志に語った。肉眼で識別できる人。

「一般の人がこのような状況に遭遇した場合、ビデオ中に頭を振ったり、口を開けたりするなど、意識的に相手に何らかの動作をさせることができます。詐欺師の技術的手段が弱い場合、私たちは発見する可能性があります。」相手の顔のエッジや歯の欠損などをAI顔面変更を識別するために使用しますが、この方法でも「高度な」詐欺師を識別することはまだ困難です。あなたと借り手は知っています。相手の身元を確認するためです。」

「騙されないようにしながら、個人的な画像の保護にも注意を払い、犯罪者の便宜を図るために公共のプラットフォームに大量の写真やビデオを投稿しないように努めるべきです。フェイクビデオは個人の写真やビデオであり、これらのデータが多ければ多いほど、訓練されたビデオがより現実的になり、識別することが難しくなります」とXiao Zihao氏は付け加えた。

AI により、詐欺や誤った情報の検出がより困難になり、テクノロジー企業やコンテンツ配信プラットフォームのレビューと管理がより重要になります。

Appleの共同創設者スティーブ・ウォズニアック氏は最近のインタビューで、AIコンテンツには明確なラベルを付ける必要があり、業界を規制する必要があると警告した。 AIによって生成されたコンテンツは発行者が責任を負うべきだが、これは大手テクノロジー企業が法的制裁を逃れられるという意味ではなく、規制当局は大手テクノロジー企業に責任を負わせるべきだとウォズニアック氏は考えている。

我が国が公布した「インターネット情報サービス深層合成管理規則」により、コンテンツプロバイダーは、生成された画像、ビデオ、その他のコンテンツに規則に従ってラベルを付ける必要があります。実際、Xiaohongshu などの国内のソーシャル プラットフォームが AI 生成の疑いのあるコンテンツにフラグを立てているのをすでに確認しており、これが一定の予防的役割を果たす可能性があります。しかし、AI が生成したコンテンツの最後のハードルはユーザー自身にあり、メディア プラットフォームはフィルタリングの役割しか果たせません。

結論: ネガティブなアプリケーションに抵抗し、AI の攻防が始まる

AI技術の進化により、テキストや画像、動画の生成がより簡単かつリアルになる一方で、ディープフェイクコンテンツも蔓延しています。ディープフェイク コンテンツは、少なくとも人々を混乱させ、利益を得るために使用される可能性があり、最悪の場合、犯罪者が詐欺や脅迫にさえ使用する可能性があり、AI によって生成されたコンテンツの監視に緊急の注目が集まっています。

新しい手口の AI 詐欺が社会問題を引き起こす中、業界のユーザー、テクノロジープロバイダーとオペレーター、コンテンツ配信プラットフォーム、コンテンツ制作者は皆、自己規律を強化する必要があります。実際、我が国は一連の関連法規を先行して公布しており、AI応用に関するマイナスの問題が露呈することで、全国的な技術合法化運動が起こり、業界の健全な発展が促進されることが期待されている。

以上が4 つの新たな AI 詐欺にご注意ください。誰かが10分で430万を騙し取られたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。