AI詐欺の成功率は100%なのでしょうか？ドゥ・シャオマン氏のアンチディープフェイクモデルは「魔法で魔法を倒す」

2023-05-26 10:22:19 著者:ソン・ジュンイ

数日前、#AIFraud の成功率は 100% に近い# というトピックが Weibo でホットな検索トピックになりました。福建省のテクノロジー企業の法定代理人が、顔を変える AI ビデオによって 430 万元を騙し取られた事件は、わずか 10 分で終わりました。

海外でもAI関連の詐欺が発生し、Google CEOの動画が添付されたメールにより多くのYouTubeブロガーが危険なウイルスを含むファイルをダウンロードさせた。

これらの詐欺事件は両方ともディープフェイク技術に関係しています。これは6年前から存在する顔を変える手法で、現在ではAIGC技術の爆発的な発展により、識別が難しいディープフェイク動画の作成がますます簡単になってきています。顔認識が広く使用されている金融業界にとって、ディープフェイク攻撃を防ぐことも特に重要です。

金融業界におけるディープフェイクによる詐欺は、主になりすまし詐欺です。つまり、ディープフェイクの画像や動画を使って他人になりすまし、金融信用処理における本人確認システムを騙し、詐欺や詐欺を行うものです。悪質な登録です。現在、金融業界にはディープフェイクに対処するための技術的手法とソリューションが比較的成熟しており、Du Xiaoman氏はディープフェイクに対処する豊富な経験を蓄積しています。

Du Xiaoman氏は、近年、ディープフェイク技術を利用して顔認証プロセスを回避する傾向が増加しており、金融機関の実名認証システムに一定の脅威を与えていると紹介した。コンテンツが偽物かどうかを特定して確認する最善の方法は、AI の「アンチディープフェイク」検出アルゴリズムを開発することです。 3 次元から開始した Du Xiaoman の偽造防止ディープ検出モデル アルゴリズム戦略は、偽造ビデオの解読に成功しました。

1 つ目は、欠陥を生成することです。具体的には、関連するトレーニング データが不足しているため、ディープフェイク モデルは、異常なまばたきの頻度から口の形と声の不一致などに至るまで、人間の顔の一部の特徴を正しくレンダリングできない可能性があります。特定の分析アルゴリズムを設計することにより、検出モデルはこれらの「基本的に目に見える」特徴を抽出して、さらなる分析と判断を行うことができます。

2 番目は固有の属性です。カメラごとにデバイスのフィンガープリントが異なるため、GAN のようなモデルでは顔を生成するときに生成者を識別するための一意のフィンガープリントも残すため、比較を通じて手がかりを見つけることができます。

3 番目の詳細は、高レベルのセマンティクスです。これは、顔の動作単位 (筋肉群) の調整、顔のさまざまな領域の方向の一貫性、ビデオの微視的な連続性の検出などの問題を指しますが、これらの詳細はモデル化やコピーが難しいため、簡単に捕らえられます。

もちろん、単一の特徴を複雑なディープフェイク コンテンツに適応させるのは難しいため、検出モデルの全体的なフレームワークでは複数の特徴の融合を使用して意思決定の堅牢性を確保しています。

Du Xiaoman は、データ サンプルの利点に加えて、ニューラル ネットワークの検索および最適化アルゴリズム、微表情分析およびグラフ畳み込み (GCN) テクノロジー、および再構成、可能 「偽造」から「本物」への変換を実現するモデル。

まさにこの理由から、Xiaoman のディープフェイク検出モデルは昨年 9 月に情報通信技術アカデミーの特別な顔認識セキュリティ評価に合格し、ライブ検出セキュリティ保護機能の優れた認証を取得しました。具体的な効果としては、静止ポートレート写真の起動、AIによる顔変更、偽顔合成など、さまざまな形式のディープフェイクに対応し、1000分の1の誤報率で90％以上の再現率を達成しています。精度は 99% です。

新しいディープフェイク ツールが次々と登場するにつれ、金融業界はさらなるディープフェイク攻撃に直面する必要があるでしょう。 Du Xiaoman 氏は、将来のより多くの偽造検出技術は、マイニング セマンティクス機能やクロスモーダル機能などに焦点を当て、モデルが強力な解釈可能性を備えた高レベルのセマンティクスを使用して偽造を検出できるようにする必要があると考えています。革新的な金融テクノロジー企業として、Du Xiaoman は金融業界の着実な発展にさらなる技術サポートを提供していきます。

以上がAI詐欺の成功率は100%なのでしょうか？ドゥ・シャオマン氏のアンチディープフェイクモデルは「魔法で魔法を倒す」の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。