ホームページ テクノロジー周辺機器 AI 個別の敵対者から多様な敵対者へ: CVPR 2023 は一般化可能な多様な敵対的攻撃を探求します

個別の敵対者から多様な敵対者へ: CVPR 2023 は一般化可能な多様な敵対的攻撃を探求します

Aug 30, 2023 pm 09:13 PM
理論 cvpr

99% の精度を誇る顔認識システムは本当に破られないのでしょうか?実際、顔認識システムは、視覚的な判断に影響を与えない範囲で顔写真を変更するだけで簡単に破られ、たとえば、隣の女の子と男性有名人が同一人物であると判断されてしまう可能性があり、これは敵対的攻撃です。敵対的攻撃の目的は、自然でニューラル ネットワークを混乱させる可能性のある敵対的サンプルを見つけることです。本質的に、敵対的サンプルを見つけることは、ニューラル ネットワークの脆弱性を見つけることです。

最近、東方理工大学の研究チームは、

従来の「点」攻撃モードを「面」攻撃モードに昇格させる、汎用多様体敵対的攻撃 (GMAA) のパラダイムを提案しました は、敵対的攻撃モデルの一般化能力を大幅に向上させ、敵対的攻撃の仕組みに関する新しいアイデアを開発します。

この研究は、ターゲット ドメインと敵対的ドメインの 2 つの側面から以前の研究を改善します。この研究では、ターゲット ドメインに関して、ターゲット ID の一連の状態を攻撃することにより、高度な一般化を備えたより強力な敵対的な例を発見しました。敵対的ドメインについては、以前の研究では離散的な敵対的サンプル、つまりシステムのいくつかの「抜け穴」(ポイント)を探していましたが、この研究では連続的な敵対的多様体、つまりニューラルの脆弱な統合部分を探しています。ネットワークのピース「エリア」(面)。さらに、この研究では、式編集のドメイン知識を導入し、式状態空間インスタンス化に基づく新しいパラダイムを提案します。生成された敵対的多様体を継続的にサンプリングすることで、表現が連続的に変化する一般化性の高い敵対的サンプルを取得できますメイクアップ、ライティング、摂動の追加などの手法と比較して、

表現状態空間はより普遍的で自然であり、影響を受けません性別や照明による影響。 研究論文が CVPR 2023 に受理されました。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

論文リンク: 論文を表示するにはここをクリックしてください

書き直す必要がある内容は次のとおりです: コード リンク https://github.com/ tokaka22/GMAA

導入方法

ターゲット ドメイン部分では、これまでの作業は、ターゲット アイデンティティ A の特定の写真に対する敵対的サンプルを設計することでした。ただし、図 2 に示すように、この攻撃手法によって生成された敵対的サンプルを使用して A の別の写真を攻撃すると、攻撃効果は大幅に減少します。このような攻撃に直面した場合、顔認識データベース内の写真を定期的に変更することは当然効果的な防御策です。ただし、この研究で提案されている GMAA は、ターゲット ID の単一サンプルでトレーニングするだけでなく、ターゲット ID 状態のセットを攻撃できる敵対的サンプルも探します。

このような高度に一般化された敵対的サンプルは、更新された顔認識ライブラリに直面します。攻撃性能が向上します。 これらのより強力な敵対的な例は、ニューラル ネットワークの弱い領域にも対応しており、徹底的に調査する価値があります。

敵対的分野のこれまでの研究では、通常、1 つまたは複数の個別の敵対的サンプルを探します。これは、高次元空間でニューラル ネットワークが脆弱な 1 つまたは複数の「点」を見つけるのと同じです。しかし、この研究では、ニューラル ネットワークは「顔」全体にわたって脆弱である可能性があるため、この「顔」上ですべての敵対的な例を見つける必要があると考えています。したがって、この研究の目標は、高次元空間で敵対的多様体を見つけることです。

要約すると、GMAA は、

敵対的多様体を使用してターゲット ID の状態セットを攻撃する新しい攻撃パラダイムです

この記事の中心となるアイデアである図 1 を参照してください。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

具体的には、この研究導入された顔面動作コーディング システム (FACS) は、提案された新しい攻撃パラダイムをインスタンス化するためのドメイン知識として使用されます。 FACS は顔の表情を符号化するシステムです。顔を異なる筋肉単位に分割します。AU ベクトルの各要素は筋肉単位に対応します。ベクトル要素のサイズは、対応する単位の筋肉活動を表し、それによって表情状態を符号化します。 . .たとえば、以下の図では、AU ベクトルの最初の要素 AU1 は、眉頭の引き上げの程度を表します。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

#「眉毛の解剖学」より「顔の表情」

ターゲット フィールドについては、この研究は複数の表情状態を含むターゲット セットを攻撃して、未知のターゲット写真に対する攻撃パフォーマンスを向上させることを目的としています。敵対的フィールドについては、この研究は 1 つの表情状態を確立することを目的としています。 AU 空間と 1 対 1 に対応 敵対的多様体、AU の値を変更することで、敵対的多様体上で敵対的サンプルをサンプリングできます AU の値を継続的に変更することで、式が連続的に変化する敵対的サンプルを生成できます

この調査では、式状態空間を使用して GMAA 攻撃パラダイムをインスタンス化していることは注目に値します。これは、表情が人間の顔の活動において最も一般的な状態であり、表情状態空間が比較的安定しており、人種や性別の影響を受けないためです (光によって肌の色が変わり、メイクが性別に影響する可能性があります) 。実際、他の適切な状態空間が見つかる限り、この攻撃パラダイムは一般化して、本質的に他の敵対的攻撃タスクに適用できます。

書き直す必要がある内容は次のとおりです: モデルの結果

この調査の視覚的な結果を以下のアニメーションに示します。アニメーションの各フレームは、敵対的多様体でのサンプリングによって取得された敵対的サンプルです。連続サンプリングでは、表現が連続的に変化する一連の敵対的な例を取得できます (左)。アニメーション内の赤色の値は、現在のフレームの敵対的サンプルと顔認識システムのターゲット サンプル (右側) の間の類似性を表します。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

表 1 , 列 2 つのデータセットに対する 4 つの顔認識モデルのブラック ボックス攻撃の成功率が示されています。このうち、MAA は GMAA の縮小版であり、ポイント攻撃モデルを敵対的ドメインの多様な攻撃に拡張するだけであり、ターゲット ドメインでは依然として単一のターゲット写真を攻撃します。攻撃対象の状態セットは一般的な実験設定であり、記事では表2のMAAを含む3つの手法にこの設定を追加しています(表中の太字部分はこの設定を追加した結果です。表2では(A「G」)区別するためにメソッド名の前に が追加されます)。これは、ターゲット ドメインの拡張によって敵対的サンプルの一般化が改善できることを検証します。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击
# 図 4 は、2 つの結果を示しています。商用の顔認識システム API に対する攻撃の API

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击
内容は次のように書き換えられます。この研究では、さまざまな表現が攻撃パフォーマンスに及ぼす影響や、サンプルの調査も行われています。状態セット 攻撃汎化パフォーマンスに対する量の影響

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击
図 6 に、さまざまな方法の視覚的な結果の比較を示します。 。 MAA メソッドは、敵対的マニホールド上で 20 の敵対的サンプルをサンプリングしました。結果から、視覚化効果がより自然であることがわかります。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击
もちろん、すべてのデータ セットに次のものが含まれるわけではありません。さまざまなステータス写真。この場合、対象フィールドのデータをどのように展開すればよいでしょうか?この研究では、AU ベクトルと式編集モデルを使用して一連のターゲット状態を生成するという実現可能な解決策を提案します。研究では、合成されたターゲット状態セットを攻撃した結果も示されており、その結果、汎化パフォーマンスが向上していることが示されています。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

書き直す必要がある内容は、 : 原理と方法

書き換えられた内容: モデルのコア部分には、WGAN-GP ベースの生成モジュール、式監視モジュール、伝達性強化モジュール、および一般化攻撃モジュールが含まれます。このうち、一般化攻撃モジュールは攻撃対象状態の集約機能を実現し、転送性強化モジュールはこれまでの研究成果に基づいており、公正な比較のためにすべてのベンチマークモデルに追加されています。式監視モジュールは 4 つの訓練された式エディターで構成され、グローバル構造監視とローカル詳細監視を通じて敵対的サンプルの式変換を実現します。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

#式監視モジュールに関しては、論文 サポート資料は、対応するアブレーション実験を提供します。これにより、局所詳細監視により、生成された画像のアーティファクトとぼやけが軽減され、敵対的サンプルの視覚的品質が効果的に向上し、敵対的サンプルの表現合成の精度も向上できることが検証されます

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

さらに、この論文では、

連続敵対的多様体と意味論的連続敵対的多様体の概念を定義し、生成された敵対的多様体とAUベクトル空間同相同型性を詳細に証明します。

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

要約とは、既存の情報や経験を導き出し、一般化することです。これは、最も重要なアイデアと結論を抽出することを目的として、考えを整理して要約するプロセスです。要約することは、学んだことをより深く理解し、記憶するのに役立ち、また、より良くコミュニケーションし、自分のアイデアを共有するのにも役立ちます。要約することで、複雑な情報を単純化し、核心部分まで抽出することができ、理解しやすく、応用しやすくなります。要約は学習とコミュニケーションのプロセスにおいて重要なツールであり、大量の情報をより効率的に処理して利用するのに役立ちます。勉強でも仕事でも生活でも、要約することは必須のスキルです

まとめると、この研究はGMAAと呼ばれる新しい攻撃パラダイムを提案すると同時に、対象領域と対策を拡大しました。ドメイン、攻撃のパフォーマンスを向上させます。ターゲット ドメインの場合、GMAA は単一のイメージではなく状態のコレクションを攻撃することで、ターゲットのアイデンティティへの一般化能力を向上させます。さらに、GMAA は、敵対的ドメインを離散点から意味的に連続した敵対的多様体 (「点から面」) に拡張します。この研究では、式編集のドメイン知識を導入することにより、GMAA 攻撃パラダイムを具体化します。広範な比較実験により、GMAA は他の競合モデルよりも優れた攻撃パフォーマンスとより自然なビジュアル品質を備えていることが証明されています。

以上が個別の敵対者から多様な敵対者へ: CVPR 2023 は一般化可能な多様な敵対的攻撃を探求しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

「Defect Spectrum」は、従来の欠陥検出の限界を打ち破り、超高精度かつ豊富なセマンティックな産業用欠陥検出を初めて実現します。 「Defect Spectrum」は、従来の欠陥検出の限界を打ち破り、超高精度かつ豊富なセマンティックな産業用欠陥検出を初めて実現します。 Jul 26, 2024 pm 05:38 PM

現代の製造において、正確な欠陥検出は製品の品​​質を確保するための鍵であるだけでなく、生産効率を向上させるための核心でもあります。ただし、既存の欠陥検出データセットには、実際のアプリケーションに必要な精度や意味論的な豊富さが欠けていることが多く、その結果、モデルが特定の欠陥カテゴリや位置を識別できなくなります。この問題を解決するために、広州香港科技大学と Simou Technology で構成されるトップの研究チームは、産業欠陥に関する詳細かつ意味的に豊富な大規模なアノテーションを提供する「DefectSpectrum」データセットを革新的に開発しました。表 1 に示すように、他の産業データ セットと比較して、「DefectSpectrum」データ セットは最も多くの欠陥注釈 (5438 個の欠陥サンプル) と最も詳細な欠陥分類 (125 個の欠陥カテゴリ) を提供します。

NVIDIA 対話モデル ChatQA はバージョン 2.0 に進化し、コンテキストの長さは 128K と記載されています NVIDIA 対話モデル ChatQA はバージョン 2.0 に進化し、コンテキストの長さは 128K と記載されています Jul 26, 2024 am 08:40 AM

オープンな LLM コミュニティは百花繚乱の時代です Llama-3-70B-Instruct、QWen2-72B-Instruct、Nemotron-4-340B-Instruct、Mixtral-8x22BInstruct-v0.1 などがご覧いただけます。優秀なパフォーマーモデル。しかし、GPT-4-Turboに代表される独自の大型モデルと比較すると、オープンモデルには依然として多くの分野で大きなギャップがあります。一般的なモデルに加えて、プログラミングと数学用の DeepSeek-Coder-V2 や視覚言語タスク用の InternVL など、主要な領域に特化したいくつかのオープン モデルが開発されています。

Google AI が IMO 数学オリンピック銀メダルを獲得、数理推論モデル AlphaProof が発売、強化学習が復活 Google AI が IMO 数学オリンピック銀メダルを獲得、数理推論モデル AlphaProof が発売、強化学習が復活 Jul 26, 2024 pm 02:40 PM

AI にとって、数学オリンピックはもはや問題ではありません。木曜日、Google DeepMind の人工知能は、AI を使用して今年の国際数学オリンピック IMO の本当の問題を解決するという偉業を達成し、金メダル獲得まであと一歩のところまで迫りました。先週終了したばかりの IMO コンテストでは、代数、組合せ論、幾何学、数論を含む 6 つの問題が出題されました。 Googleが提案したハイブリッドAIシステムは4問正解で28点を獲得し、銀メダルレベルに達した。今月初め、UCLA 終身教授のテレンス・タオ氏が、100 万ドルの賞金をかけて AI 数学オリンピック (AIMO Progress Award) を宣伝したばかりだったが、予想外なことに、AI の問題解決のレベルは 7 月以前にこのレベルまで向上していた。 IMO に関する質問を同時に行うのが最も難しいのは、最も歴史が長く、規模が最も大きく、最も否定的な IMO です。

新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 新しい科学的で複雑な質問応答ベンチマークと大規模モデルの評価システムを提供するために、UNSW、アルゴンヌ、シカゴ大学、およびその他の機関が共同で SciQAG フレームワークを立ち上げました。 Jul 25, 2024 am 06:42 AM

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

自然の視点: 医療における人工知能のテストは混乱に陥っています。何をすべきでしょうか? 自然の視点: 医療における人工知能のテストは混乱に陥っています。何をすべきでしょうか? Aug 22, 2024 pm 04:37 PM

編集者 | ScienceAI 限られた臨床データに基づいて、何百もの医療アルゴリズムが承認されています。科学者たちは、誰がツールをテストすべきか、そしてどのようにテストするのが最善かについて議論しています。デビン シン氏は、救急治療室で小児患者が治療を長時間待っている間に心停止に陥るのを目撃し、待ち時間を短縮するための AI の応用を模索するようになりました。 SickKids 緊急治療室からのトリアージ データを使用して、Singh 氏らは潜在的な診断を提供し、検査を推奨する一連の AI モデルを構築しました。ある研究では、これらのモデルにより医師の診察が 22.3% 短縮され、医療検査が必要な患者 1 人あたりの結果の処理が 3 時間近く高速化できることが示されました。ただし、研究における人工知能アルゴリズムの成功は、これを証明するだけです。

結晶相問題を解決するための数百万の結晶データを使用したトレーニング、深層学習手法 PhAI が Science 誌に掲載 結晶相問題を解決するための数百万の結晶データを使用したトレーニング、深層学習手法 PhAI が Science 誌に掲載 Aug 08, 2024 pm 09:22 PM

編集者 |KX 今日に至るまで、単純な金属から大きな膜タンパク質に至るまで、結晶学によって決定される構造の詳細と精度は、他のどの方法にも匹敵しません。しかし、最大の課題、いわゆる位相問題は、実験的に決定された振幅から位相情報を取得することのままです。デンマークのコペンハーゲン大学の研究者らは、結晶相の問題を解決するための PhAI と呼ばれる深層学習手法を開発しました。数百万の人工結晶構造とそれに対応する合成回折データを使用して訓練された深層学習ニューラル ネットワークは、正確な電子密度マップを生成できます。この研究では、この深層学習ベースの非経験的構造解法は、従来の非経験的計算法とは異なり、わずか 2 オングストロームの解像度で位相問題を解決できることが示されています。これは、原子解像度で利用可能なデータのわずか 10% ~ 20% に相当します。

SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 SOTA パフォーマンス、厦門マルチモーダルタンパク質-リガンド親和性予測 AI 手法、初めて分子表面情報を結合 Jul 17, 2024 pm 06:37 PM

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性​​を実証しています。 「S」で始まる関連研究

テキスト、位置決め、セグメンテーションのタスクをカバーし、Zhiyuan と香港華人が共同で初の多機能 3D 医療マルチモーダル大型モデルを提案しました テキスト、位置決め、セグメンテーションのタスクをカバーし、Zhiyuan と香港華人が共同で初の多機能 3D 医療マルチモーダル大型モデルを提案しました Jun 22, 2024 am 07:16 AM

著者 | 編集者 Bai Fan、香港中文大学 | ScienceAI 最近、香港中文大学と Zhiyuan は、3D 医療画像を促進するために M3D-Data、M3D-LaMed、M3D-Bench を含む一連の研究を共同提案しました。データセット、モデル、評価のあらゆる側面からの分析の開発。 (1) M3D-Data は現在最大の 3D 医用画像データ セットであり、M3D-Cap (120K3D 画像とテキストのペア)、M3D-VQA (510K の質問と回答のペア)、M3D-Seg (150K3DMask)、M3D-RefSeg ( 3K 推論セグメンテーション ) 合計 4 つのサブデータセット。 (2) M3D-LaMed は現在、最も汎用性の高い 3D 医療マルチモーダル大型モデルです。

See all articles