警告！ AIは誤った情報の拡散につながる可能性がある

Science and Technology Daily によると、生成型人工知能 (AI) の出現後、一部の専門職に影響を与え、既存の著作権システムに新たな課題をもたらしているだけでなく、ソーシャル メディアでも使用される可能性があります。新たな危険を生み出すだけでなく、既存の危険を増幅させ、それによって経済的および社会的安定を危険にさらします。

実態に基づく合理的な予測に基づき、AI による虚偽の情報活動は主に以下の 4 つの側面で利用される可能性があります。

①フェイクニュースを作る。

ここでの主な目的は、公式メディアニュースを歪曲・改ざんし、「写真から始めて、残りは編集に頼る」という後進的なコンテンツ制作方法を排除し、代わりに要件を設定する - いくつかの素材を入力する - 自動生成することです。画像 テキスト/ビデオの完全自動モード。

②.噂を広める。

フェイクニュースは素早く作成され、自動化されたバッチで急速に拡散します。新しいメディア、ソーシャルメディアの論調メカニズムに精通し、コミュニケーション理論やジャーナリズム理論に精通した「専門家」が加わると、 , 「嘘も千回繰り返せば真実になる」という効果が得られます。また、噂というのは非常にギミックが強いため、ネット上で拡散されると当然大きな注目や議論を呼びやすいものです。逆に、噂を反論することは「骨を折る」だけでなく、「正しすぎる」という理由からでもあります。そして誰も見ていません。

③ 生成 AI とソーシャル メディア機能を組み合わせて、「スパムの海」戦術を実装します。

エンターテインメント ニュース、ゴシップ情報、その他の「ちょっと面白い」コンテンツをネットワーク全体に注入し、ユーザーの視野全体を占め、重大なニュースや情報を追い出し、ソーシャル メディアで流通する情報を完全に制御します。エンターテインメント企業との綿密な協力を通じて、舞台裏の人々は確立された戦術目標を達成しながらさらなる利益を得ることができます。

④ 深層合成テクノロジーを使用してアカウントを偽造し、ソーシャルメディアの正常な秩序を破壊します。

機関、企業、団体、社会組織、有名人/大物対/オピニオンリーダーなどの公式アカウントおよび個人アカウントからの情報のクロール (写真やテキスト、顔画像、音声などを含むがこれらに限定されない)、およびこれらのコーパスと資料を使用して虚偽の情報を生成するコンテンツは、加害者に迷惑をもたらすだけでなく、問題を引き起こしたり、トラブルを引き起こしたり、虚偽と真実を混同したりする可能性があります。

さらに重要なことは、営利目的であろうと下心達成であろうと、虚偽の情報の作成者や拡散者の行為は本質的に違法であり、当然のことながら法律、規制、プラットフォーム規制などの制約を無視することになり、審査が難しい、監督が難しい、罰則を科すことが難しいという 3 つの大きな問題があります。

①レビューが難しい。

生成 AI コンテンツに対するさまざまなプラットフォームの現在の要件は、「アップロード者の自己規律」として要約できます。つまり、ユーザーが率先して目立つ識別を行い、自分のコンテンツが AI によって生成されていることを視聴者に明確に示すことです。 . これは「紳士に対しては警戒するが、他人に対しては警戒してはならない。悪役」と規定している。もちろん、正規のユーザーはルールに従って行動しますが、違法ユーザーは完全に入札を回避したり、入札を遅らせたり、入札を減らしたりする可能性があります。

②監督は難しい。

AI がコンテンツ生成の分野に適用される前は、インターネット上のフェイク ニュースが雑草のように際限なく出現し、根絶するのが難しいことはよく知られていました。この点、従来の管理方法は、ビッグデータの審査と通報受付を組み合わせ、違法アカウントの取り締まりと関連アカウントのマーキングに重点を置くというものであり、これは正統かつ非の打ち所のない対処法である。しかし、問題は、悪意のあるユーザーが AI を導入した後、それまでの状態を散発的でスポット的な山火事とみなしてしまうと、処理と修正が必要な誤った情報が大きな火事となり、管理に多大な労力がかかることです。人的資源、物的資源、難易度は指数関数的に上昇します。

③罰は難しい。

結局のところ、刑罰には2つの問題があり、1つは裏付けとなる法令が十分に整備されていないこと、もう1つは秘密保持により摘発が困難であることである。しかし、つい最近、サイバー暴力に適用される法規定に関する意見が一般から収集され、間もなく詳細に施行されると考えられています。 AIが生み出す虚偽情報のガバナンスが進むにつれ、関連する法整備も追随すると予想される。

Azhi 氏は、生成 AI に関する質問で何度も「AI は、歴史上に登場した新しいテクノロジーと根本的には変わりません。善悪や善悪とは関係がありません。重要なのは、誰がそれを使用するかであり、誰がそれを使用するかです。」それの使い方。インターネット産業の新たなエンジン、金融市場の新たな貯水池としての役割に疑いの余地はありませんが、その技術的優位性を盲目的かつ一方的に強調するのは、ほとんどが日和見主義者による単なる利益のためです。私たちは生成AIという革新的な技術を客観的かつ総合的に捉え、その悪用によるリスクを回避するための予防措置を講じなければなりません。

以上が警告！ AIは誤った情報の拡散につながる可能性があるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。