Présentation de la détection Deepfake basée sur le Deep Learning

Le Deep Learning (DL) est devenu l’un des domaines les plus influents de l’informatique, affectant directement la vie humaine et la société d’aujourd’hui. Comme toutes les autres innovations technologiques de l’histoire, l’apprentissage profond a été utilisé à des fins illégales. Les Deepfakes sont une telle application d'apprentissage profond. Des centaines d'études ont été menées au cours des dernières années pour inventer et optimiser diverses détections de Deepfake à l'aide de l'IA.

Pour faire face aux deepfakes, des méthodes de deep learning ainsi que des méthodes de machine learning (non-deep learning) ont été développées pour les détecter. Les modèles d’apprentissage profond doivent prendre en compte un grand nombre de paramètres, de sorte qu’une grande quantité de données est nécessaire pour entraîner de tels modèles. C'est exactement pourquoi les méthodes DL ont des performances plus élevées et des résultats précis par rapport aux méthodes non DL.

Qu'est-ce que la détection Deepfake

La plupart des générateurs de deepfake laisseront des traces pendant le processus de deepfake. Ces changements dans les vidéos deepfake peuvent être classés comme des incohérences spatiales : des incompatibilités qui se produisent dans des images individuelles de la vidéo et des incohérences temporelles : des caractéristiques incompatibles qui apparaissent dans la séquence d'images vidéo.

Les incohérences spatiales incluent les zones du visage incompatibles avec l'arrière-plan de l'image vidéo, les changements de résolution et les textures d'organes et de peau partiellement rendues (qui peuvent ne pas restituer correctement toutes les caractéristiques humaines du visage). Les générateurs de deepfake les plus courants sont incapables de restituer des fonctionnalités telles que les clignements et les dents. Et parfois, des bandes blanches sont utilisées pour remplacer les dents qui sont même visibles à l'œil nu sur la monture fixe (ci-dessous).

Les incohérences temporelles incluent des clignements des yeux anormaux, des postures de la tête, des mouvements du visage et des changements de luminosité dans les séquences d'images vidéo.

Ces traces dans l'espace et dans le temps laissées par le générateur de deepfake peuvent être identifiées par des détecteurs de deepfake fabriqués à partir de réseaux de neurones profonds (DNN). L’utilisation généralisée des réseaux contradictoires génératifs (GAN) familiers dans les générateurs de deepfake remet en question l’équilibre entre la détection et la génération de faux.

Détection Deepfake

Le détecteur Deepfake est un système de classification binaire qui détermine si le média numérique d'entrée est réel ou faux. La détection des deepfakes n'est pas effectuée par un seul module de type boîte noire, mais se compose de plusieurs autres modules et étapes qui fonctionnent ensemble pour fournir des résultats de détection. Les étapes courantes de la détection de Deepfake sont les suivantes [2].

• Deepfake entrée provenant des médias numériques.
• Le prétraitement comprend la détection et l'amélioration des visages.
• Extraction de fonctionnalités des images traitées.
• Classification/Détection.
• Authenticité des images de sortie.

Un détecteur de deepfake typique basé sur DL contient 3 composants principaux pour effectuer les tâches ci-dessus.

• Module de prétraitement.
• Module d'extraction de fonctionnalités.
• Module évaluateur (modèle de classificateur d'apprentissage profond).

Les principales étapes seront expliquées en détail ci-dessous : prétraitement des données, extraction des caractéristiques et processus de détection/classification.

Prétraitement des données

Après la phase de collecte des données, les données doivent être prétraitées avant les étapes de formation et de test pour la détection des deepfakes. Le prétraitement des données est effectué automatiquement à l'aide des bibliothèques disponibles telles que OpenCV python, MTCNN et YOLO etc.

L'augmentation des données joue également un rôle crucial dans l'amélioration des performances des détecteurs de deepfake. Des techniques d'augmentation telles que le redimensionnement (étirement), la cartographie de cisaillement, l'augmentation de la mise à l'échelle, la rotation, les changements de luminosité et le retournement horizontal/vertical peuvent être appliquées pour augmenter la généralisation de l'ensemble de données [3].

La première étape du prétraitement des données consiste à extraire des images individuelles du clip vidéo. Après avoir extrait les images, vous devez détecter les visages des images vidéo extraites. Étant donné que les régions du visage présentent souvent des anomalies, la sélection uniquement des régions du visage aide le modèle d'extraction de caractéristiques à se concentrer uniquement sur la région d'intérêt (ROI), économisant ainsi le coût de calcul pour la numérisation plein format. Une fois les régions du visage détectées, elles sont recadrées du reste de l’arrière-plan du cadre et suivent une série d’étapes pour les rendre disponibles pour la formation et les tests du modèle. Une autre raison de recadrer les régions du visage est de donner à toutes les images d'entrée dans le modèle la même taille.

Extraction de fonctionnalités

Les images prétraitées à l'étape précédente seront envoyées à l'extracteur de fonctionnalités. La plupart des extracteurs de fonctionnalités sont basés sur des réseaux de neurones convolutifs (CNN). Certaines études récentes ont démontré l'efficacité et l'amélioration de l'efficience de l'application de réseaux de capsules dans le processus d'extraction de caractéristiques, ce qui constitue une nouvelle tendance.

L'extracteur de fonctionnalités extrait les caractéristiques spatiales disponibles sur les images vidéo prétraitées. L'extraction de caractéristiques peut extraire des caractéristiques visuelles, des caractéristiques locales/des repères faciaux, tels que la position des yeux, du nez, de la bouche, la dynamique de la forme de la bouche, le clignement et d'autres caractéristiques biologiques. Les vecteurs de caractéristiques extraits sont ensuite envoyés au réseau de classificateurs pour produire des décisions.

Classification

Le modèle d'apprentissage profond utilisé pour la classification est souvent appelé l'épine dorsale du détecteur de deepfake. Comme son nom l'indique, le réseau de classification est responsable de la tâche la plus importante du pipeline de détection des deepfakes : à savoir, classifier et déterminer la probabilité que la vidéo d'entrée soit un deepfake. La plupart des classificateurs sont des classificateurs binaires, où la sortie des deepfakes est (0) et la sortie de la trame d'origine est (1).

Le classificateur est encore une fois une autre couche convolutive (CNN) ou une architecture d'apprentissage en profondeur similaire telle que LSTM ou ViT. Les capacités réelles d'un modèle de classification varient en fonction du DNN utilisé. Par exemple, les caractéristiques de clignotement extraites dans le module d'extraction de caractéristiques peuvent être utilisées par le module LSTM dans le module de classification pour déterminer l'incohérence temporelle du modèle de clignotement de la trame et déterminer si l'entrée est un Deepfake [3]. Dans la plupart des cas, la dernière couche d’un détecteur de deepfake est une couche entièrement connectée. Étant donné que les sorties des couches convolutives représentent des caractéristiques de haut niveau des données, ces sorties sont aplaties et concaténées en une seule couche de sortie pour produire la décision finale.

Résumé

Au cours des dernières années, des développements significatifs ont eu lieu tant dans la création que dans la détection des deepfakes. La recherche liée à la détection des deepfakes à l’aide de la technologie d’apprentissage profond a également fait de grands progrès en raison de l’exactitude des résultats par rapport aux méthodes d’apprentissage non approfondies. Les architectures de réseaux neuronaux profonds telles que les réseaux CNN, RNN, ViT et les capsules sont largement utilisées dans la mise en œuvre de détecteurs de deepfake. Un pipeline commun de détection des deepfakes comprend un module de prétraitement des données, un extracteur de fonctionnalités basé sur CNN et un module de classification.

De plus, la détection des deepfakes dépend fortement des traces laissées par le générateur de deepfake sur le deepfake. Étant donné que les générateurs de deepfakes actuels basés sur le GAN sont capables de synthétiser des deepfakes plus réalistes avec un minimum d'incohérences, de nouvelles méthodes doivent être développées pour optimiser la détection des deepfakes. Les méthodes de détection des deepfakes basées sur des techniques d'apprentissage d'ensemble profond peuvent être considérées comme des méthodes modernes et complètes pour lutter contre les deepfakes [4]. Néanmoins, il existe encore une lacune en matière de détecteurs de deepfake efficaces et efficients.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!