La fraude à l'IA a-t-elle un taux de réussite de 100 % ? Modèle anti-deepfake « vaincre la magie par la magie »

Il y a quelques jours, un sujet sur le taux de réussite de la fraude à l'IA approchant les 100 %# est devenu un sujet de recherche brûlant sur Weibo. Le représentant légal d'une entreprise technologique du Fujian a été escroqué de 4,3 millions de yuans en 10 minutes parce qu'il avait regardé une vidéo réalisée à l'aide de la technologie de changement de visage de l'IA.

Une arnaque liée à l'IA s'est également produite à l'étranger. Un e-mail contenant une vidéo du PDG de Google a poussé de nombreux blogueurs YouTube à télécharger des fichiers contenant des virus dangereux.

Ces deux incidents de fraude impliquaient une technologie deepfake. Il s'agit d'une méthode révolutionnaire qui existe depuis 6 ans. De nos jours, l'explosion de la technologie AIGC a rendu de plus en plus facile la création de vidéos deepfake difficiles à identifier. Pour le secteur financier, où la reconnaissance faciale est largement utilisée, la prévention des fausses attaques est également particulièrement importante.

Dans le secteur financier, la fraude causée par le deepfake est principalement la fraude à l'identité, c'est-à-dire l'utilisation d'images et de vidéos profondément fausses pour usurper l'identité d'autrui, tromper le système de vérification d'identité dans le processus de crédit financier, puis commettre une fraude et un enregistrement malveillant. À l'heure actuelle, le secteur financier dispose de méthodes et de solutions techniques relativement matures pour lutter contre les deepfakes, et Du Xiaoman a accumulé une riche expérience dans la lutte contre les deepfakes.

Du Xiaoman a expliqué qu'au cours des dernières années, la tendance à utiliser une technologie de contrefaçon profonde pour contourner le processus de reconnaissance faciale s'est accrue, ce qui constitue une certaine menace pour le système d'authentification du nom réel des institutions financières. Développer un algorithme de détection « anti-Deepfake » et confier la vérification de l’authenticité du contenu à l’intelligence artificielle est la méthode la plus fiable. La stratégie d'algorithme du modèle de détection de Du Xiaoman pour empêcher la contrefaçon profonde résout avec succès le problème de la création de fausses vidéos sous trois aspects.

La première est de générer des défauts. Plus précisément, en raison du manque de données d'entraînement pertinentes, le modèle deepfake peut ne pas être en mesure de restituer correctement certains traits du visage humain, allant d'une fréquence de clignement anormale à une incohérence entre la forme de la bouche et la voix, etc. En concevant des algorithmes d'analyse spécifiques, le modèle de détection peut extraire les caractéristiques « essentiellement visibles à l'œil nu » et effectuer une analyse et un jugement.

La seconde concerne les propriétés inhérentes. Étant donné que différentes caméras ont des empreintes digitales différentes, des modèles comme GAN laisseront également des empreintes digitales uniques pour identifier le générateur lors de la génération de visages, afin que des indices puissent être trouvés par comparaison.

Le troisième détail est la sémantique de haut niveau. Il fait référence à des problèmes tels que la détection de la coordination des unités d'action faciale (groupes musculaires), la cohérence de l'orientation des différentes zones du visage et la continuité microscopique des vidéos. Ces détails étant difficiles à modéliser et à copier, il est facile de s'y faire prendre.

Bien sûr, puisqu'une seule fonctionnalité est difficile à adapter à un contenu deepfake complexe, le cadre global du modèle de détection adopte une fusion multi-fonctionnalités pour garantir la robustesse de la prise de décision.

En plus des avantages des échantillons de données, Du Xiaoman a également incorporé sa propre originalité, notamment des algorithmes de recherche et d'optimisation de réseaux neuronaux, la technologie d'analyse de micro-expression et de convolution graphique (GCN), et des méthodes de pré-entraînement auto-supervisées basées sur la reconstruction. permettre au modèle de réaliser la transformation de la « détection de contrefaçon » à « l'identification de l'authenticité ».

Pour cette raison, en septembre de l'année dernière, le modèle de détection anti-deep fake de Xiaoman a passé avec succès l'évaluation spéciale de sécurité de reconnaissance faciale de l'Académie des technologies de l'information et des communications et a obtenu l'excellente certification pour les capacités de protection de sécurité de détection en direct. En termes d'effets spécifiques, il peut couvrir diverses formes de contrefaçons profondes, y compris l'activation d'images de portrait statiques, le changement de visage par l'IA, la synthèse de faux visages, etc., atteignant un rappel de plus de 90 % avec un taux de fausses alarmes d'un millième, ce qui est un taux de précision de 99 %+.

À mesure que de nouveaux outils de deepfake continuent d’émerger, le secteur financier sera confronté à une augmentation des attaques de deepfake. Du Xiaoman estime qu'à l'avenir, davantage de technologies de détection de contrefaçon devraient se concentrer sur l'exploration de caractéristiques sémantiques, de caractéristiques intermodales, etc., afin que le modèle puisse utiliser une sémantique de haut niveau avec une forte interprétabilité pour détecter la contrefaçon.

(Source : Guangming.com)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!