Maison Périphériques technologiques IA De la confrontation individuelle à la confrontation multiple : le CVPR 2023 explore les attaques contradictoires multiples généralisables

De la confrontation individuelle à la confrontation multiple : le CVPR 2023 explore les attaques contradictoires multiples généralisables

Aug 30, 2023 pm 09:13 PM
理论 cvpr

Le système de reconnaissance faciale qui prétend être précis à 99 % est-il vraiment incassable ? En fait, le système de reconnaissance faciale peut être facilement brisé en apportant des modifications aux photos du visage qui n'affectent pas le jugement visuel. Par exemple, la fille d'à côté et la célébrité masculine peuvent être considérées comme étant la même personne. attaque. Le but des attaques contradictoires est de trouver des échantillons contradictoires qui sont naturels et peuvent confondre le réseau neuronal. Essentiellement, trouver des échantillons contradictoires consiste à trouver les vulnérabilités du réseau neuronal.

Récemment, une équipe de recherche de l'Université de technologie de Dongfang a proposé un paradigme d'attaque contradictoire multiple généralisée (GMAA),

promouvant le mode d'attaque "point" traditionnel en mode d'attaque "visage", ce qui améliore considérablement la capacité de généralisation du modèle d'attaque contradictoire et développe une nouvelle idée pour le travail des attaques contradictoires.

Cette recherche améliore les travaux antérieurs à la fois dans le domaine cible et dans le domaine contradictoire. Sur le domaine cible, cette étude trouve des exemples contradictoires plus puissants avec une forte généralisation en attaquant l'ensemble des états de l'identité cible. Pour le domaine contradictoire, les travaux antérieurs recherchaient des échantillons contradictoires discrets, c'est-à-dire la découverte de plusieurs « failles » (points) du système, tandis que cette recherche recherchait des variétés contradictoires continues, c'est-à-dire la recherche des parties intégrantes fragiles du système neuronal. réseau. Pièce "zone" (visage). De plus, cette étude introduit la connaissance du domaine de l'édition d'expressions et propose un nouveau paradigme basé sur l'instanciation de l'espace d'état d'expression. En échantillonnant continuellement la variété contradictoire générée, nous pouvons obtenir des échantillons contradictoires hautement généralisables avec des changements d'expression continus. Comparé à des méthodes telles que le maquillage, l'éclairage et l'ajout de perturbations, l'espace d'état d'expression est plus universel et naturel, et n'est pas affecté par le sexe et le sexe. éclairage.

Le document de recherche a été accepté par le CVPR 2023.

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击Lien papier : veuillez cliquer ici pour voir l'article

Le contenu qui doit être réécrit est : Lien de code https://github.com/tokaka22/GMAA

Méthode d'introduction

Dans la cible partie de domaine, auparavant Tout le travail consiste à concevoir des échantillons contradictoires pour une photo spécifique de l'identité cible A. Cependant, comme le montre la figure 2, lorsque l'échantillon contradictoire généré par cette méthode d'attaque est utilisé pour attaquer une autre photo de A, l'effet d'attaque sera considérablement réduit. Face à de telles attaques, changer régulièrement les photos de la base de reconnaissance faciale constitue naturellement une mesure de défense efficace. Cependant, le GMAA proposé dans cette étude s'entraîne non seulement sur un seul échantillon de l'identité cible, mais recherche également des échantillons contradictoires qui peuvent attaquer l'ensemble des états d'identité cible.

Un tel échantillon contradictoire hautement généralisable a de meilleures capacités face à. la bibliothèque de reconnaissance faciale mise à jour. Bonnes performances d'attaque.

Ces exemples contradictoires plus puissants correspondent également aux zones les plus faibles du réseau neuronal et méritent une exploration approfondie. Dans les recherches antérieures dans le domaine de l'adversité, les gens recherchent généralement un ou plusieurs échantillons contradictoires discrets, ce qui équivaut à trouver un ou plusieurs « points » où le réseau neuronal est vulnérable dans un espace de grande dimension. Cependant, cette étude estime que les réseaux de neurones peuvent être vulnérables sur l'ensemble du « visage » et devraient donc trouver tous les exemples contradictoires sur ce « visage ». Par conséquent, le but de cette recherche est de trouver des variétés contradictoires dans un espace de grande dimension. En résumé, le GMAA est un nouveau paradigme d’attaque qui utilise des variétés contradictoires pour attaquer l’ensemble d’états de l’identité cible.

Veuillez vous référer à la figure 1, qui est l'idée centrale de l'article

Plus précisément, cette étude présente le système de codage d'action faciale (FACS) comme connaissance de domaine pour instancier le Un nouveau paradigme d'attaque proposé . FACS est un système de codage des expressions faciales. Il divise le visage en différentes unités musculaires. Chaque élément du vecteur AU correspond à une unité musculaire. La taille de l'élément vectoriel représente l'activité musculaire de l'unité correspondante, codant ainsi l'état d'expression. . Par exemple, dans l'image ci-dessous, le premier élément du vecteur AU, AU1, représente le degré auquel l'intérieur du sourcil est relevé 从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

De "Anatomie des expressions faciales"

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击Pour le domaine cible, ceci la recherche vise à attaquer une variété d'expressions Ensemble d'états cibles pour obtenir de meilleures performances d'attaque sur des photos cibles inconnues ; pour le champ adverse, cette recherche établit une variété contradictoire correspondant à l'espace AU, et peut échantillonner l'adversaire sur la variété adverse en modifiant le Valeur AU Sample, en changeant continuellement la valeur AU, génère des échantillons contradictoires avec des expressions en constante évolution

Il convient de noter que cette étude adopte l'espace d'état d'expression pour instancier le paradigme d'attaque GMAA. En effet, les expressions sont l'état le plus courant dans les activités faciales humaines et l'espace d'état d'expression est relativement stable et ne sera pas affecté par la race ou le sexe (la lumière peut changer la couleur de la peau et le maquillage peut affecter le sexe). En fait, tant que d’autres espaces d’états appropriés peuvent être trouvés, ce paradigme d’attaque peut être généralisé et appliqué à d’autres tâches d’attaque contradictoires dans la nature.

Le contenu qui doit être réécrit est : les résultats du modèle

Les résultats visuels de cette étude sont présentés dans l'animation ci-dessous. Chaque image d'animation est un échantillon contradictoire obtenu par échantillonnage sur la variété contradictoire. L'échantillonnage continu peut obtenir une série d'exemples contradictoires avec des expressions en constante évolution (à gauche). La valeur rouge dans l'animation représente la similarité entre l'échantillon contradictoire de la trame actuelle et l'échantillon cible (à droite) sous le système de reconnaissance faciale Face++

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击Dans le tableau 1, quatre modèles de reconnaissance faciale sont répertoriés dans deux attaques par boîte noire. taux de réussite sur l’ensemble de données. Parmi eux, MAA est une version réduite de GMAA étend uniquement le modèle d'attaque ponctuelle à de multiples attaques dans le domaine adverse, il attaque toujours une seule photo cible. L'ensemble d'états de la cible d'attaque est un paramètre expérimental courant. L'article ajoute ce paramètre aux trois méthodes incluant MAA dans le tableau 2 (la partie en gras dans le tableau est le résultat de l'ajout de ce paramètre, dans le tableau 2 (A "G"). est ajouté au nom de la méthode pour la distinguer), qui vérifie que l'expansion du domaine cible peut améliorer la généralisation des échantillons contradictoires

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击La figure 4 montre l'attaque contre deux API de systèmes commerciaux de reconnaissance faciale. Résultats

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击Le contenu est réécrit comme suit : L'étude a également exploré l'impact de différentes expressions sur les performances d'attaque, et l'impact du nombre d'échantillons dans l'état défini sur les performances de généralisation d'attaque

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击 dans la figure 6, montre la comparaison des résultats de visualisation de différentes méthodes. La méthode MAA a échantillonné 20 échantillons contradictoires sur le collecteur contradictoire. D'après les résultats, on peut voir que l'effet de visualisation est plus naturel

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击Bien sûr, tous les ensembles de données ne contiennent pas d'images de différents états. Dans ce cas, comment étendre les données dans le champ cible ? Cette étude propose une solution réalisable qui utilise des vecteurs AU et des modèles d'édition d'expression pour générer un ensemble d'états cibles. L'étude montre également les résultats de l'attaque de l'ensemble d'états cibles synthétiques, et les résultats montrent que les performances de généralisation sont améliorées

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击
Le contenu qui doit être réécrit est : Principe et méthode

Le contenu réécrit : Le partie centrale du modèle Il comprend un module de génération basé sur WGAN-GP, un module de supervision d'expression, un module d'amélioration de la transférabilité et un module d'attaque généralisée. Parmi eux, le module d'attaque généralisée peut réaliser la fonction d'agrégation des états cibles d'attaque, et le module d'amélioration de la transférabilité est basé sur des travaux de recherche antérieurs. Pour une comparaison équitable, ce module a été ajouté à tous les modèles de référence. Le module de supervision d'expression se compose de quatre éditeurs d'expression formés. Il réalise la conversion d'expression d'échantillons contradictoires grâce à la supervision de la structure globale et à la supervision des détails locaux. En ce qui concerne le module de supervision d'expression, les documents de support de l'article fournissent des expériences d'ablation correspondantes. la supervision locale des détails peut réduire les artefacts et le flou des images générées, améliorer efficacement la qualité visuelle des échantillons contradictoires et également améliorer la précision de la synthèse d'expression des échantillons contradictoires

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击De plus, l'article définit une variété contradictoire continue et le concept de la variété contradictoire sémantiquement continue

, et a prouvé en détail que la variété contradictoire générée par

est homéomorphe à l'espace vectoriel AU.

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

从个体对抗到流形对抗:CVPR 2023探索可泛化的流形对抗攻击

Le résumé est un résumé et un résumé des informations ou des expériences existantes. Il s'agit d'un processus d'organisation et de synthèse des pensées, visant à extraire les idées et les conclusions les plus importantes. Résumer peut nous aider à mieux comprendre et à mémoriser ce que nous avons appris, et cela peut également nous aider à mieux communiquer et partager nos idées. En résumant, nous pouvons simplifier des informations complexes et les résumer à leurs points essentiels, les rendant plus faciles à comprendre et à appliquer. Le résumé est un outil important dans le processus d’apprentissage et de communication. Il peut nous aider à traiter et à utiliser plus efficacement de grandes quantités d’informations. Que ce soit dans les études, au travail ou dans la vie, résumer est une compétence essentielle

En résumé, cette recherche propose un nouveau paradigme d'attaque appelé GMAA, tout enélargissant le domaine cible et les domaines adverses , améliorant ainsi les performances des attaques. Pour le domaine cible, GMAA améliore la capacité de généralisation à l'identité cible en attaquant un ensemble d'états au lieu d'une seule image. De plus, GMAA étend le domaine contradictoire de points discrets à des variétés contradictoires sémantiquement continues (« point à surface ») . Cette étude instancie le paradigme d'attaque GMAA en introduisant la connaissance du domaine de l'édition d'expression. De nombreuses expériences comparatives prouvent que le GMAA a de meilleures performances d'attaque et une qualité visuelle plus naturelle que les autres modèles concurrents.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Où trouver la courte de la grue à atomide atomique
1 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Repoussant les limites de la détection de défauts traditionnelle, « Defect Spectrum » permet pour la première fois une détection de défauts industriels d'une ultra haute précision et d'une sémantique riche. Repoussant les limites de la détection de défauts traditionnelle, « Defect Spectrum » permet pour la première fois une détection de défauts industriels d'une ultra haute précision et d'une sémantique riche. Jul 26, 2024 pm 05:38 PM

Dans la fabrication moderne, une détection précise des défauts est non seulement la clé pour garantir la qualité des produits, mais également la clé de l’amélioration de l’efficacité de la production. Cependant, les ensembles de données de détection de défauts existants manquent souvent de précision et de richesse sémantique requises pour les applications pratiques, ce qui rend les modèles incapables d'identifier des catégories ou des emplacements de défauts spécifiques. Afin de résoudre ce problème, une équipe de recherche de premier plan composée de l'Université des sciences et technologies de Hong Kong, Guangzhou et de Simou Technology a développé de manière innovante l'ensemble de données « DefectSpectrum », qui fournit une annotation à grande échelle détaillée et sémantiquement riche des défauts industriels. Comme le montre le tableau 1, par rapport à d'autres ensembles de données industrielles, l'ensemble de données « DefectSpectrum » fournit le plus grand nombre d'annotations de défauts (5 438 échantillons de défauts) et la classification de défauts la plus détaillée (125 catégories de défauts).

Le modèle de dialogue NVIDIA ChatQA a évolué vers la version 2.0, avec la longueur du contexte mentionnée à 128 Ko Le modèle de dialogue NVIDIA ChatQA a évolué vers la version 2.0, avec la longueur du contexte mentionnée à 128 Ko Jul 26, 2024 am 08:40 AM

La communauté ouverte LLM est une époque où une centaine de fleurs fleurissent et s'affrontent. Vous pouvez voir Llama-3-70B-Instruct, QWen2-72B-Instruct, Nemotron-4-340B-Instruct, Mixtral-8x22BInstruct-v0.1 et bien d'autres. excellents interprètes. Cependant, par rapport aux grands modèles propriétaires représentés par le GPT-4-Turbo, les modèles ouverts présentent encore des lacunes importantes dans de nombreux domaines. En plus des modèles généraux, certains modèles ouverts spécialisés dans des domaines clés ont été développés, tels que DeepSeek-Coder-V2 pour la programmation et les mathématiques, et InternVL pour les tâches de langage visuel.

Google AI a remporté la médaille d'argent de l'Olympiade mathématique de l'OMI, le modèle de raisonnement mathématique AlphaProof a été lancé et l'apprentissage par renforcement est de retour. Google AI a remporté la médaille d'argent de l'Olympiade mathématique de l'OMI, le modèle de raisonnement mathématique AlphaProof a été lancé et l'apprentissage par renforcement est de retour. Jul 26, 2024 pm 02:40 PM

Pour l’IA, l’Olympiade mathématique n’est plus un problème. Jeudi, l'intelligence artificielle de Google DeepMind a réalisé un exploit : utiliser l'IA pour résoudre la vraie question de l'Olympiade mathématique internationale de cette année, l'OMI, et elle n'était qu'à un pas de remporter la médaille d'or. Le concours de l'OMI qui vient de se terminer la semaine dernière comportait six questions portant sur l'algèbre, la combinatoire, la géométrie et la théorie des nombres. Le système d'IA hybride proposé par Google a répondu correctement à quatre questions et a marqué 28 points, atteignant le niveau de la médaille d'argent. Plus tôt ce mois-ci, le professeur titulaire de l'UCLA, Terence Tao, venait de promouvoir l'Olympiade mathématique de l'IA (AIMO Progress Award) avec un prix d'un million de dollars. De manière inattendue, le niveau de résolution de problèmes d'IA s'était amélioré à ce niveau avant juillet. Posez les questions simultanément sur l'OMI. La chose la plus difficile à faire correctement est l'OMI, qui a la plus longue histoire, la plus grande échelle et la plus négative.

Le point de vue de la nature : les tests de l'intelligence artificielle en médecine sont dans le chaos. Que faut-il faire ? Le point de vue de la nature : les tests de l'intelligence artificielle en médecine sont dans le chaos. Que faut-il faire ? Aug 22, 2024 pm 04:37 PM

Editeur | ScienceAI Sur la base de données cliniques limitées, des centaines d'algorithmes médicaux ont été approuvés. Les scientifiques se demandent qui devrait tester les outils et comment le faire au mieux. Devin Singh a vu un patient pédiatrique aux urgences subir un arrêt cardiaque alors qu'il attendait un traitement pendant une longue période, ce qui l'a incité à explorer l'application de l'IA pour réduire les temps d'attente. À l’aide des données de triage des salles d’urgence de SickKids, Singh et ses collègues ont construit une série de modèles d’IA pour fournir des diagnostics potentiels et recommander des tests. Une étude a montré que ces modèles peuvent accélérer les visites chez le médecin de 22,3 %, accélérant ainsi le traitement des résultats de près de 3 heures par patient nécessitant un examen médical. Cependant, le succès des algorithmes d’intelligence artificielle dans la recherche ne fait que le vérifier.

Formation avec des millions de données cristallines pour résoudre le problème de la phase cristallographique, la méthode d'apprentissage profond PhAI est publiée dans Science Formation avec des millions de données cristallines pour résoudre le problème de la phase cristallographique, la méthode d'apprentissage profond PhAI est publiée dans Science Aug 08, 2024 pm 09:22 PM

Editeur | KX À ce jour, les détails structurels et la précision déterminés par cristallographie, des métaux simples aux grandes protéines membranaires, sont inégalés par aucune autre méthode. Cependant, le plus grand défi, appelé problème de phase, reste la récupération des informations de phase à partir d'amplitudes déterminées expérimentalement. Des chercheurs de l'Université de Copenhague au Danemark ont ​​développé une méthode d'apprentissage en profondeur appelée PhAI pour résoudre les problèmes de phase cristalline. Un réseau neuronal d'apprentissage en profondeur formé à l'aide de millions de structures cristallines artificielles et de leurs données de diffraction synthétique correspondantes peut générer des cartes précises de densité électronique. L'étude montre que cette méthode de solution structurelle ab initio basée sur l'apprentissage profond peut résoudre le problème de phase avec une résolution de seulement 2 Angströms, ce qui équivaut à seulement 10 à 20 % des données disponibles à la résolution atomique, alors que le calcul ab initio traditionnel

Afin de fournir un nouveau système de référence et d'évaluation de questions-réponses scientifiques et complexes pour les grands modèles, l'UNSW, Argonne, l'Université de Chicago et d'autres institutions ont lancé conjointement le cadre SciQAG. Afin de fournir un nouveau système de référence et d'évaluation de questions-réponses scientifiques et complexes pour les grands modèles, l'UNSW, Argonne, l'Université de Chicago et d'autres institutions ont lancé conjointement le cadre SciQAG. Jul 25, 2024 am 06:42 AM

L'ensemble de données ScienceAI Question Answering (QA) joue un rôle essentiel dans la promotion de la recherche sur le traitement du langage naturel (NLP). Des ensembles de données d'assurance qualité de haute qualité peuvent non seulement être utilisés pour affiner les modèles, mais également évaluer efficacement les capacités des grands modèles linguistiques (LLM), en particulier la capacité à comprendre et à raisonner sur les connaissances scientifiques. Bien qu’il existe actuellement de nombreux ensembles de données scientifiques d’assurance qualité couvrant la médecine, la chimie, la biologie et d’autres domaines, ces ensembles de données présentent encore certaines lacunes. Premièrement, le formulaire de données est relativement simple, et la plupart sont des questions à choix multiples. Elles sont faciles à évaluer, mais limitent la plage de sélection des réponses du modèle et ne peuvent pas tester pleinement la capacité du modèle à répondre aux questions scientifiques. En revanche, les questions et réponses ouvertes

Identifiez automatiquement les meilleures molécules et réduisez les coûts de synthèse. Le MIT développe un cadre d'algorithme de prise de décision en matière de conception moléculaire. Identifiez automatiquement les meilleures molécules et réduisez les coûts de synthèse. Le MIT développe un cadre d'algorithme de prise de décision en matière de conception moléculaire. Jun 22, 2024 am 06:43 AM

Éditeur | L’utilisation de Ziluo AI pour rationaliser la découverte de médicaments explose. Ciblez des milliards de molécules candidates pour détecter celles qui pourraient posséder les propriétés nécessaires au développement de nouveaux médicaments. Il y a tellement de variables à prendre en compte, depuis le prix des matériaux jusqu’au risque d’erreur, qu’évaluer les coûts de synthèse des meilleures molécules candidates n’est pas une tâche facile, même si les scientifiques utilisent l’IA. Ici, les chercheurs du MIT ont développé SPARROW, un cadre d'algorithme de prise de décision quantitative, pour identifier automatiquement les meilleurs candidats moléculaires, minimisant ainsi les coûts de synthèse tout en maximisant la probabilité que les candidats possèdent les propriétés souhaitées. L’algorithme a également identifié les matériaux et les étapes expérimentales nécessaires à la synthèse de ces molécules. SPARROW prend en compte le coût de synthèse d'un lot de molécules à la fois, puisque plusieurs molécules candidates sont souvent disponibles

Les performances de SOTA, la méthode d'IA de prédiction d'affinité protéine-ligand multimodale de Xiamen, combinent pour la première fois des informations sur la surface moléculaire Les performances de SOTA, la méthode d'IA de prédiction d'affinité protéine-ligand multimodale de Xiamen, combinent pour la première fois des informations sur la surface moléculaire Jul 17, 2024 pm 06:37 PM

Editeur | KX Dans le domaine de la recherche et du développement de médicaments, il est crucial de prédire avec précision et efficacité l'affinité de liaison des protéines et des ligands pour le criblage et l'optimisation des médicaments. Cependant, les études actuelles ne prennent pas en compte le rôle important des informations sur la surface moléculaire dans les interactions protéine-ligand. Sur cette base, des chercheurs de l'Université de Xiamen ont proposé un nouveau cadre d'extraction de caractéristiques multimodales (MFE), qui combine pour la première fois des informations sur la surface des protéines, la structure et la séquence 3D, et utilise un mécanisme d'attention croisée pour comparer différentes modalités. alignement. Les résultats expérimentaux démontrent que cette méthode atteint des performances de pointe dans la prédiction des affinités de liaison protéine-ligand. De plus, les études d’ablation démontrent l’efficacité et la nécessité des informations sur la surface des protéines et de l’alignement des caractéristiques multimodales dans ce cadre. Les recherches connexes commencent par "S

See all articles