


De la confrontation individuelle à la confrontation multiple : le CVPR 2023 explore les attaques contradictoires multiples généralisables
Le système de reconnaissance faciale qui prétend être précis à 99 % est-il vraiment incassable ? En fait, le système de reconnaissance faciale peut être facilement brisé en apportant des modifications aux photos du visage qui n'affectent pas le jugement visuel. Par exemple, la fille d'à côté et la célébrité masculine peuvent être considérées comme étant la même personne. attaque. Le but des attaques contradictoires est de trouver des échantillons contradictoires qui sont naturels et peuvent confondre le réseau neuronal. Essentiellement, trouver des échantillons contradictoires consiste à trouver les vulnérabilités du réseau neuronal.
Récemment, une équipe de recherche de l'Université de technologie de Dongfang a proposé un paradigme d'attaque contradictoire multiple généralisée (GMAA),promouvant le mode d'attaque "point" traditionnel en mode d'attaque "visage", ce qui améliore considérablement la capacité de généralisation du modèle d'attaque contradictoire et développe une nouvelle idée pour le travail des attaques contradictoires.
Cette recherche améliore les travaux antérieurs à la fois dans le domaine cible et dans le domaine contradictoire. Sur le domaine cible, cette étude trouve des exemples contradictoires plus puissants avec une forte généralisation en attaquant l'ensemble des états de l'identité cible. Pour le domaine contradictoire, les travaux antérieurs recherchaient des échantillons contradictoires discrets, c'est-à-dire la découverte de plusieurs « failles » (points) du système, tandis que cette recherche recherchait des variétés contradictoires continues, c'est-à-dire la recherche des parties intégrantes fragiles du système neuronal. réseau. Pièce "zone" (visage). De plus, cette étude introduit la connaissance du domaine de l'édition d'expressions et propose un nouveau paradigme basé sur l'instanciation de l'espace d'état d'expression. En échantillonnant continuellement la variété contradictoire générée, nous pouvons obtenir des échantillons contradictoires hautement généralisables avec des changements d'expression continus. Comparé à des méthodes telles que le maquillage, l'éclairage et l'ajout de perturbations, l'espace d'état d'expression est plus universel et naturel, et n'est pas affecté par le sexe et le sexe. éclairage.Le document de recherche a été accepté par le CVPR 2023.
Lien papier : veuillez cliquer ici pour voir l'article
Le contenu qui doit être réécrit est : Lien de code https://github.com/tokaka22/GMAA
Méthode d'introductionDans la cible partie de domaine, auparavant Tout le travail consiste à concevoir des échantillons contradictoires pour une photo spécifique de l'identité cible A. Cependant, comme le montre la figure 2, lorsque l'échantillon contradictoire généré par cette méthode d'attaque est utilisé pour attaquer une autre photo de A, l'effet d'attaque sera considérablement réduit. Face à de telles attaques, changer régulièrement les photos de la base de reconnaissance faciale constitue naturellement une mesure de défense efficace. Cependant, le GMAA proposé dans cette étude s'entraîne non seulement sur un seul échantillon de l'identité cible, mais recherche également des échantillons contradictoires qui peuvent attaquer l'ensemble des états d'identité cible.
Un tel échantillon contradictoire hautement généralisable a de meilleures capacités face à. la bibliothèque de reconnaissance faciale mise à jour. Bonnes performances d'attaque.Ces exemples contradictoires plus puissants correspondent également aux zones les plus faibles du réseau neuronal et méritent une exploration approfondie. Dans les recherches antérieures dans le domaine de l'adversité, les gens recherchent généralement un ou plusieurs échantillons contradictoires discrets, ce qui équivaut à trouver un ou plusieurs « points » où le réseau neuronal est vulnérable dans un espace de grande dimension. Cependant, cette étude estime que les réseaux de neurones peuvent être vulnérables sur l'ensemble du « visage » et devraient donc trouver tous les exemples contradictoires sur ce « visage ». Par conséquent, le but de cette recherche est de trouver des variétés contradictoires dans un espace de grande dimension. En résumé, le GMAA est un nouveau paradigme d’attaque qui utilise des variétés contradictoires pour attaquer l’ensemble d’états de l’identité cible.
Veuillez vous référer à la figure 1, qui est l'idée centrale de l'article
Plus précisément, cette étude présente le système de codage d'action faciale (FACS) comme connaissance de domaine pour instancier le Un nouveau paradigme d'attaque proposé . FACS est un système de codage des expressions faciales. Il divise le visage en différentes unités musculaires. Chaque élément du vecteur AU correspond à une unité musculaire. La taille de l'élément vectoriel représente l'activité musculaire de l'unité correspondante, codant ainsi l'état d'expression. . Par exemple, dans l'image ci-dessous, le premier élément du vecteur AU, AU1, représente le degré auquel l'intérieur du sourcil est relevé
De "Anatomie des expressions faciales"

Il convient de noter que cette étude adopte l'espace d'état d'expression pour instancier le paradigme d'attaque GMAA. En effet, les expressions sont l'état le plus courant dans les activités faciales humaines et l'espace d'état d'expression est relativement stable et ne sera pas affecté par la race ou le sexe (la lumière peut changer la couleur de la peau et le maquillage peut affecter le sexe). En fait, tant que d’autres espaces d’états appropriés peuvent être trouvés, ce paradigme d’attaque peut être généralisé et appliqué à d’autres tâches d’attaque contradictoires dans la nature.
Le contenu qui doit être réécrit est : les résultats du modèleLes résultats visuels de cette étude sont présentés dans l'animation ci-dessous. Chaque image d'animation est un échantillon contradictoire obtenu par échantillonnage sur la variété contradictoire. L'échantillonnage continu peut obtenir une série d'exemples contradictoires avec des expressions en constante évolution (à gauche). La valeur rouge dans l'animation représente la similarité entre l'échantillon contradictoire de la trame actuelle et l'échantillon cible (à droite) sous le système de reconnaissance faciale Face++
Dans le tableau 1, quatre modèles de reconnaissance faciale sont répertoriés dans deux attaques par boîte noire. taux de réussite sur l’ensemble de données. Parmi eux, MAA est une version réduite de GMAA étend uniquement le modèle d'attaque ponctuelle à de multiples attaques dans le domaine adverse, il attaque toujours une seule photo cible. L'ensemble d'états de la cible d'attaque est un paramètre expérimental courant. L'article ajoute ce paramètre aux trois méthodes incluant MAA dans le tableau 2 (la partie en gras dans le tableau est le résultat de l'ajout de ce paramètre, dans le tableau 2 (A "G"). est ajouté au nom de la méthode pour la distinguer), qui vérifie que l'expansion du domaine cible peut améliorer la généralisation des échantillons contradictoires





Le contenu réécrit : Le partie centrale du modèle Il comprend un module de génération basé sur WGAN-GP, un module de supervision d'expression, un module d'amélioration de la transférabilité et un module d'attaque généralisée. Parmi eux, le module d'attaque généralisée peut réaliser la fonction d'agrégation des états cibles d'attaque, et le module d'amélioration de la transférabilité est basé sur des travaux de recherche antérieurs. Pour une comparaison équitable, ce module a été ajouté à tous les modèles de référence. Le module de supervision d'expression se compose de quatre éditeurs d'expression formés. Il réalise la conversion d'expression d'échantillons contradictoires grâce à la supervision de la structure globale et à la supervision des détails locaux. En ce qui concerne le module de supervision d'expression, les documents de support de l'article fournissent des expériences d'ablation correspondantes. la supervision locale des détails peut réduire les artefacts et le flou des images générées, améliorer efficacement la qualité visuelle des échantillons contradictoires et également améliorer la précision de la synthèse d'expression des échantillons contradictoires
De plus, l'article définit une variété contradictoire continue et le concept de la variété contradictoire sémantiquement continue
est homéomorphe à l'espace vectoriel AU.
Le résumé est un résumé et un résumé des informations ou des expériences existantes. Il s'agit d'un processus d'organisation et de synthèse des pensées, visant à extraire les idées et les conclusions les plus importantes. Résumer peut nous aider à mieux comprendre et à mémoriser ce que nous avons appris, et cela peut également nous aider à mieux communiquer et partager nos idées. En résumant, nous pouvons simplifier des informations complexes et les résumer à leurs points essentiels, les rendant plus faciles à comprendre et à appliquer. Le résumé est un outil important dans le processus d’apprentissage et de communication. Il peut nous aider à traiter et à utiliser plus efficacement de grandes quantités d’informations. Que ce soit dans les études, au travail ou dans la vie, résumer est une compétence essentielle
En résumé, cette recherche propose un nouveau paradigme d'attaque appelé GMAA, tout enélargissant le domaine cible et les domaines adverses , améliorant ainsi les performances des attaques. Pour le domaine cible, GMAA améliore la capacité de généralisation à l'identité cible en attaquant un ensemble d'états au lieu d'une seule image. De plus, GMAA étend le domaine contradictoire de points discrets à des variétés contradictoires sémantiquement continues (« point à surface ») . Cette étude instancie le paradigme d'attaque GMAA en introduisant la connaissance du domaine de l'édition d'expression. De nombreuses expériences comparatives prouvent que le GMAA a de meilleures performances d'attaque et une qualité visuelle plus naturelle que les autres modèles concurrents.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

AI Hentai Generator
Générez AI Hentai gratuitement.

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Dans la fabrication moderne, une détection précise des défauts est non seulement la clé pour garantir la qualité des produits, mais également la clé de l’amélioration de l’efficacité de la production. Cependant, les ensembles de données de détection de défauts existants manquent souvent de précision et de richesse sémantique requises pour les applications pratiques, ce qui rend les modèles incapables d'identifier des catégories ou des emplacements de défauts spécifiques. Afin de résoudre ce problème, une équipe de recherche de premier plan composée de l'Université des sciences et technologies de Hong Kong, Guangzhou et de Simou Technology a développé de manière innovante l'ensemble de données « DefectSpectrum », qui fournit une annotation à grande échelle détaillée et sémantiquement riche des défauts industriels. Comme le montre le tableau 1, par rapport à d'autres ensembles de données industrielles, l'ensemble de données « DefectSpectrum » fournit le plus grand nombre d'annotations de défauts (5 438 échantillons de défauts) et la classification de défauts la plus détaillée (125 catégories de défauts).

La communauté ouverte LLM est une époque où une centaine de fleurs fleurissent et s'affrontent. Vous pouvez voir Llama-3-70B-Instruct, QWen2-72B-Instruct, Nemotron-4-340B-Instruct, Mixtral-8x22BInstruct-v0.1 et bien d'autres. excellents interprètes. Cependant, par rapport aux grands modèles propriétaires représentés par le GPT-4-Turbo, les modèles ouverts présentent encore des lacunes importantes dans de nombreux domaines. En plus des modèles généraux, certains modèles ouverts spécialisés dans des domaines clés ont été développés, tels que DeepSeek-Coder-V2 pour la programmation et les mathématiques, et InternVL pour les tâches de langage visuel.

Pour l’IA, l’Olympiade mathématique n’est plus un problème. Jeudi, l'intelligence artificielle de Google DeepMind a réalisé un exploit : utiliser l'IA pour résoudre la vraie question de l'Olympiade mathématique internationale de cette année, l'OMI, et elle n'était qu'à un pas de remporter la médaille d'or. Le concours de l'OMI qui vient de se terminer la semaine dernière comportait six questions portant sur l'algèbre, la combinatoire, la géométrie et la théorie des nombres. Le système d'IA hybride proposé par Google a répondu correctement à quatre questions et a marqué 28 points, atteignant le niveau de la médaille d'argent. Plus tôt ce mois-ci, le professeur titulaire de l'UCLA, Terence Tao, venait de promouvoir l'Olympiade mathématique de l'IA (AIMO Progress Award) avec un prix d'un million de dollars. De manière inattendue, le niveau de résolution de problèmes d'IA s'était amélioré à ce niveau avant juillet. Posez les questions simultanément sur l'OMI. La chose la plus difficile à faire correctement est l'OMI, qui a la plus longue histoire, la plus grande échelle et la plus négative.

Editeur | ScienceAI Sur la base de données cliniques limitées, des centaines d'algorithmes médicaux ont été approuvés. Les scientifiques se demandent qui devrait tester les outils et comment le faire au mieux. Devin Singh a vu un patient pédiatrique aux urgences subir un arrêt cardiaque alors qu'il attendait un traitement pendant une longue période, ce qui l'a incité à explorer l'application de l'IA pour réduire les temps d'attente. À l’aide des données de triage des salles d’urgence de SickKids, Singh et ses collègues ont construit une série de modèles d’IA pour fournir des diagnostics potentiels et recommander des tests. Une étude a montré que ces modèles peuvent accélérer les visites chez le médecin de 22,3 %, accélérant ainsi le traitement des résultats de près de 3 heures par patient nécessitant un examen médical. Cependant, le succès des algorithmes d’intelligence artificielle dans la recherche ne fait que le vérifier.

Editeur | KX À ce jour, les détails structurels et la précision déterminés par cristallographie, des métaux simples aux grandes protéines membranaires, sont inégalés par aucune autre méthode. Cependant, le plus grand défi, appelé problème de phase, reste la récupération des informations de phase à partir d'amplitudes déterminées expérimentalement. Des chercheurs de l'Université de Copenhague au Danemark ont développé une méthode d'apprentissage en profondeur appelée PhAI pour résoudre les problèmes de phase cristalline. Un réseau neuronal d'apprentissage en profondeur formé à l'aide de millions de structures cristallines artificielles et de leurs données de diffraction synthétique correspondantes peut générer des cartes précises de densité électronique. L'étude montre que cette méthode de solution structurelle ab initio basée sur l'apprentissage profond peut résoudre le problème de phase avec une résolution de seulement 2 Angströms, ce qui équivaut à seulement 10 à 20 % des données disponibles à la résolution atomique, alors que le calcul ab initio traditionnel

L'ensemble de données ScienceAI Question Answering (QA) joue un rôle essentiel dans la promotion de la recherche sur le traitement du langage naturel (NLP). Des ensembles de données d'assurance qualité de haute qualité peuvent non seulement être utilisés pour affiner les modèles, mais également évaluer efficacement les capacités des grands modèles linguistiques (LLM), en particulier la capacité à comprendre et à raisonner sur les connaissances scientifiques. Bien qu’il existe actuellement de nombreux ensembles de données scientifiques d’assurance qualité couvrant la médecine, la chimie, la biologie et d’autres domaines, ces ensembles de données présentent encore certaines lacunes. Premièrement, le formulaire de données est relativement simple, et la plupart sont des questions à choix multiples. Elles sont faciles à évaluer, mais limitent la plage de sélection des réponses du modèle et ne peuvent pas tester pleinement la capacité du modèle à répondre aux questions scientifiques. En revanche, les questions et réponses ouvertes

Éditeur | L’utilisation de Ziluo AI pour rationaliser la découverte de médicaments explose. Ciblez des milliards de molécules candidates pour détecter celles qui pourraient posséder les propriétés nécessaires au développement de nouveaux médicaments. Il y a tellement de variables à prendre en compte, depuis le prix des matériaux jusqu’au risque d’erreur, qu’évaluer les coûts de synthèse des meilleures molécules candidates n’est pas une tâche facile, même si les scientifiques utilisent l’IA. Ici, les chercheurs du MIT ont développé SPARROW, un cadre d'algorithme de prise de décision quantitative, pour identifier automatiquement les meilleurs candidats moléculaires, minimisant ainsi les coûts de synthèse tout en maximisant la probabilité que les candidats possèdent les propriétés souhaitées. L’algorithme a également identifié les matériaux et les étapes expérimentales nécessaires à la synthèse de ces molécules. SPARROW prend en compte le coût de synthèse d'un lot de molécules à la fois, puisque plusieurs molécules candidates sont souvent disponibles

Editeur | KX Dans le domaine de la recherche et du développement de médicaments, il est crucial de prédire avec précision et efficacité l'affinité de liaison des protéines et des ligands pour le criblage et l'optimisation des médicaments. Cependant, les études actuelles ne prennent pas en compte le rôle important des informations sur la surface moléculaire dans les interactions protéine-ligand. Sur cette base, des chercheurs de l'Université de Xiamen ont proposé un nouveau cadre d'extraction de caractéristiques multimodales (MFE), qui combine pour la première fois des informations sur la surface des protéines, la structure et la séquence 3D, et utilise un mécanisme d'attention croisée pour comparer différentes modalités. alignement. Les résultats expérimentaux démontrent que cette méthode atteint des performances de pointe dans la prédiction des affinités de liaison protéine-ligand. De plus, les études d’ablation démontrent l’efficacité et la nécessité des informations sur la surface des protéines et de l’alignement des caractéristiques multimodales dans ce cadre. Les recherches connexes commencent par "S
