「AI 顔変更」ソフトウェアは数百元から千元でオンラインで一般販売されています。法的な境界線はどこにあるのでしょうか?

この記事は [CCTV ニュース] からの転載です;

最近、「AI変顔」による詐欺事件が注目を集めています。大規模な AI モデルの開発に伴い、「顔交換技術」の適用範囲はますます広がっており、技術の進歩により、顔を交換した後のキャラクターの表情や動作の詳細もより現実的になりました。重大な危害を引き起こす可能性があります。

本局の記者が調査した結果、「AI 顔変更」ソフトウェアはインターネットで非常に簡単に入手できることがわかりました。このようなソフトウェアを悪用するための法的境界線はどこにあるのでしょうか?事前の監督をうまく行うにはどうすればよいでしょうか?

「AI顔替え」がインターネットに登場有料ソフトウェア

パッケージ価格は499元から2888元です

インターネット上には、顔変更ソフトウェアの使用法や効果を示すチュートリアルが多数あります。

これらの「AI 顔変更」ソフトウェアの多くは、使用するのに高額な支払いを必要とします。

記者は検索結果に基づいて開発者に連絡し、開発者のソフトウェアを使用して顔変更を実装するデモ ビデオを記者に提供しました。デュアル ウィンドウ ページの左側は、顔が変更される前の元のビデオです。さんの動画では、顔を差し替えた後の「デジタルヒューマン」の口の形や表情、細かな動きなど、肉眼ではほぼ完璧に再現されています。

ソフトウェア開発者は、その販売ウェブサイトで、2人の有名な女優の目と口を「つなぎ合わせて」新しい「デジタルヒューマン」のビデオを生成する方法も実演した。

この有料ソフトウェアは、LV1 (ジュニア) から LV4 (スーパー)、そして LV5 (フル機能) までのさまざまなバージョンを提供します。エントリーレベルのパッケージの場合、499元でソフトウェアインターフェイス、ビデオガイダンス、顔交換モデルなどが提供されます。2,888元を費やすと、ビデオ顔交換モデルのフルセット（LV5）を入手できます。

「顔は好きなように変えられる」

AI大型モデルは複数の機能を統合して「デジタルヒューマン」を作成可能

記者は、ウェブサイトの下部に登録済みを示すテキストがないことに気付きました。販売者も非常に慎重で、プロセス全体を通してテキストのみで通信します。ジュニア（LV1）からスーパー（LV4）までのパッケージに比べ、フル（LV5）版は回数が多く、機能も強化されており、顔の変化効果もよりリアルになっていることが分かると氏は述べた。ビデオの顔変更を実現できるだけでなく、ライブの顔変更もサポートします。 さらに記者が自分のニーズに合わせて顔を変更できるかどうか尋ねると、ソフトウェア開発者は「マテリアルを使用して、変更したい顔をトレーニングするだけです。」と答えました。

人工知能の開発に携わる技術者によると、これは管理が難しいリスクがさらに増える可能性があることを意味します。 「ヴィンセントの写真、ヴィンセントのテキスト、ヴィンセントの音声、ヴィンセントのビデオ、顔の変更を統合。これらの機能を組み合わせると、まったく新しい「デジタルヒューマン」または「AIヒューマン」が作成できます。監督のコストと難易度は数倍になりますより高い。「マグニチュード。」

専門家

: 効果的なラベル表示監視システム 「AI顔変更」によって生じる曖昧な境界を事前に明確にできるようにする

‍ 北京嘉威法律事務所の弁護士でIT法の専門家である趙戦燦氏は、攻撃後の観点から見ると、刑法には詐欺罪に関する規定があり、民法には国民が相応の権利を享受すると明記されていると述べた。肖像権、氏名権、名誉権など、公民権。つまり、他人の画像を利用して詐欺行為を行った場合、犯罪者は法的な制裁や制限を受けることになります。しかし、人工知能技術の急速な発展に伴い、事前に効果的な予防を実現する方法も検討する必要があります。

例えば、「インターネット情報サービスの深層合成の管理に関する規定」では、深層合成サービスが公衆の混乱や誤解を引き起こす可能性がある場合には、深層合成サービスの提供者は、合理的な場所およびエリアにその情報を目立つように表示しなければならないと規定しています。生成または編集された情報コンテンツのロゴ。

「生成型人工知能サービスの管理に関する措置 (意見募集草案)」では、生成型人工知能製品を使用して公衆にサービスを提供する前に、次の規定に従って国家サイバーセキュリティおよび情報化部門にセキュリティ評価を報告する必要があります。関連する規制に準拠し、他者の正当な利益を尊重する必要があり、製品プロバイダーは、生成人工知能製品の事前トレーニング データと最適化されたトレーニング データ ソースの合法性に対して責任を負う必要があります。

浙江大学国際共同ビジネススクールデジタル経済・金融イノベーション研究センターの共同所長であるパン・ヘリン氏は、現時点では、ラベル表示の要件を効果的に実施し、効果的な規制システムを形成できれば、と考えている。 , 明確化は事前にかなりの部分まで明確化できる 「AI顔変更」がもたらす曖昧な境界線。

パン・ヘリン氏: 現在の「AI 顔変更」のラベリング監視システムはまだ形成されていない。ラベルのないコンテンツは技術的手段によって特定する必要があり、ラベリングを行わない個人または組織には特定の罰則を課す必要がある。規格とシステム。

北京嘉威法律事務所の弁護士でIT法律の専門家でもあるZhao Zhanzhan氏は、 長期的には、監督と処罰の措置は、技術開発とともに継続的に「反復」され、三次元の社会的・安全なシステムを形成する必要があると考えています。効果的なガバナンス計画。

以上が「AI 顔変更」ソフトウェアは数百元から千元でオンラインで一般販売されています。法的な境界線はどこにあるのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。