Les fonctionnalités des segments peuvent être apprises en étiquetant une seule image de vidéo, obtenant ainsi des performances entièrement supervisées ! Huake remporte un nouveau SOTA pour la détection de comportement séquentiel

Comment trouver des extraits intéressants d'une vidéo ? La localisation de l'action temporelle (TAL) est une méthode courante.

Après avoir utilisé le contenu vidéo pour la modélisation, vous pouvez librement rechercher dans toute la vidéo.

L'équipe conjointe de l'Université des sciences et technologies de Huazhong et de l'Université du Michigan a récemment apporté de nouveaux progrès à cette technologie -

Dans le passé, la modélisation dans TAL se faisait au niveau du segment ou même de l'instance, mais maintenant cela ne prend que

une image dans la vidéo Cela peut être réalisé, et l'effet est comparable à une supervision complète.

Une équipe de l'Université des sciences et technologies de Huazhong a proposé un nouveau cadre appelé HR-Pro pour la détection de comportement temporel supervisé par annotation de points.

Grâce à la propagation de la fiabilité à plusieurs niveaux, HR-Pro peut apprendre en ligne des fonctionnalités plus discriminantes au niveau des fragments et des limites plus fiables au niveau des instances.

HR-Pro se compose de deux étapes soucieuses de la fiabilité, qui peuvent propager efficacement des signaux de haute confiance à partir d'annotations de points au niveau du segment et de l'instance, permettant au réseau d'apprendre des représentations de segments plus discriminantes et une meilleure offre solide.

Des expériences sur plusieurs ensembles de données de référence montrent que HR-Pro surpasse les méthodes existantes avec des résultats de pointe, démontrant son efficacité et son potentiel d'annotation de points.

Performances comparables à la méthode de supervision complète

La figure suivante montre la comparaison des performances de HR-Pro et LACP en détection de comportement temporel sur la vidéo de test THUMOS14.

HR-Pro démontre une détection plus précise des instances d'action, en particulier :

Pour le comportement "swing de golf", HR-Pro fait la distinction efficacement entre le comportement et les fragments d'arrière-plan, atténuant ainsi les faux positifs difficiles à gérer avec la prédiction LACP ;
• Pour le comportement de lancer de disque, HR-Pro détecte des segments plus complets que LACP, qui a des valeurs d'activation plus faibles sur les segments d'action non discriminants.

Les résultats des tests sur l'ensemble de données confirment également ce sentiment intuitif.

Après avoir visualisé les résultats de détection sur l'ensemble de données THUMOS14, on peut observer qu'après l'apprentissage de l'intégrité au niveau de l'instance, la différence entre les prédictions de haute qualité et les prédictions de faible qualité augmente considérablement.

(Le côté gauche est le résultat avant l'apprentissage de l'intégrité au niveau de l'instance, et le côté droit est le résultat après l'apprentissage. Les axes horizontal et vertical représentent respectivement les scores de temps et de fiabilité.)

Dans l'ensemble, en général utilisé Dans les 4 ensembles de données, les performances de HR-Pro dépassent largement la méthode de supervision de points de pointe. Le mAP moyen sur l'ensemble de données THUMOS14 atteint 60,3 %, soit une amélioration de 6,5 % par rapport à la méthode SoTA précédente. (53,7 %), et peut-il obtenir des résultats comparables avec certaines méthodes entièrement supervisées.

Par rapport aux méthodes de pointe précédentes du tableau ci-dessous sur l'ensemble de test THUMOS14, HR-Pro atteint un mAP moyen de 60,3 % pour les seuils IoU compris entre 0,1 et 0,7, soit 6,5 % de plus que le précédent. méthode de pointe CRRC-Net .

Et HR-Pro est capable d'atteindre des performances comparables avec des méthodes concurrentes entièrement supervisées, telles que l'AFSD (le mAP moyen est de 51,1 % contre 52,0 % pour des seuils IoU compris entre 0,3 et 0,7).

△Comparaison des méthodes HR-Pro et des anciennes méthodes SOTA sur l'ensemble de données THUMOS14

HR-Pro est également nettement meilleure que les méthodes existantes en termes de polyvalence et de supériorité sur divers ensembles de données de référence, et dans GTEA, BEOID et ActivityNet 1.3 ont été obtenues des améliorations de 3,8%, 7,6% et 2,0% respectivement.

△Comparaison des méthodes HR-Pro et des anciennes méthodes SOTA sur GTEA et d'autres ensembles de données

Alors, comment HR-Pro est-il implémenté ?

L'apprentissage s'effectue en deux étapes

L'équipe de recherche a proposé une méthode de propagation fiable à plusieurs niveaux, introduisant un module de mémoire de fragment fiable au niveau du fragment et utilisant la méthode d'attention croisée pour se propager à d'autres fragments, et proposant la génération de propositions basé sur la supervision ponctuelle au niveau de l'instance. L'association de fragments et d'instances est utilisée pour générer des propositions avec différents niveaux de fiabilité et optimiser davantage la confiance et les limites des propositions au niveau de l'instance.

La structure du modèle de HR-Pro est illustrée dans la figure ci-dessous : La détection du comportement temporel est divisée en un processus d'apprentissage en deux étapes, à savoir

apprentissage discriminant au niveau du fragment

et apprentissage d'intégrité au niveau de l'instance.

Phase 1 : Apprentissage discriminatif au niveau des segments

L'équipe de recherche introduit un apprentissage discriminant au niveau des segments sensible à la fiabilité, propose de stocker des prototypes fiables pour chaque catégorie et combine une grande confiance dans ces prototypes via intra-vidéo et inter- méthodes vidéo Les indices de degré sont propagés à d'autres fragments.

Construction de prototype fiable au niveau fragment

Afin de construire un prototype fiable au niveau fragment, l'équipe a créé une mémoire de prototype mise à jour en ligne pour stocker des prototypes fiables mc de divers comportements (où c = 1, 2, …, C ) pour pouvoir utiliser les informations sur les caractéristiques de l'ensemble de données.

L'équipe de recherche a choisi des caractéristiques de segment avec des annotations ponctuelles pour initialiser le prototype :

Ensuite, les chercheurs ont utilisé des caractéristiques de segment comportemental pseudo-étiquetées pour mettre à jour les prototypes de chaque catégorie, spécifiquement exprimées comme suit :

Optimisation soucieuse de la fiabilité au niveau fragment -attention. L'information est injectée dans d'autres segments, améliorant ainsi la robustesse des caractéristiques du segment et augmentant l'attention sur les segments moins discriminants.

Afin d'apprendre des caractéristiques de fragment plus discriminantes, l'équipe a également construit une comparaison de perte de fragment prenant en compte la fiabilité :

Phase 2 : Apprentissage de l'intégrité au niveau de l'instance

Afin d'explorer pleinement le niveau de l'instance comportement Pour structurer temporellement et optimiser les classements de scores proposés, l'équipe a introduit l'apprentissage de l'intégrité des actions au niveau de l'instance.

Cette approche vise à affiner les scores de confiance et les limites des propositions grâce à un apprentissage des fonctionnalités au niveau de l'instance, guidé par des prototypes d'instance fiables.

Construction de prototype fiable au niveau de l'instance

Afin d'utiliser les informations préalables au niveau de l'instance sur l'annotation de points pendant le processus de formation, l'équipe a proposé une méthode de génération de propositions basée sur l'annotation de points pour générer des propositions avec une fiabilité différente.

En fonction de leurs scores de fiabilité et des positions temporelles relatives des annotations de points, ces propositions peuvent être divisées en deux types :

Propositions fiables (RP) : pour chaque point de chaque catégorie, la proposition contient Ce point a été atteint et a la plus grande fiabilité ;

• Propositions positives (PP) : toutes les propositions de candidats restantes.
• Pour garantir un nombre équilibré d'échantillons positifs et négatifs, l'équipe de recherche a regroupé les segments avec des scores d'attention indépendants de la catégorie inférieurs à une valeur prédéfinie en propositions négatives (NP).
Optimisation soucieuse de la fiabilité au niveau de l'instance

Pour prédire le score d'exhaustivité de chaque proposition, l'équipe de recherche saisit les caractéristiques de la proposition des limites sensibles dans la tête de prédiction du score φs :

, puis utilise des valeurs positives/négatives. exemples de propositions avec L'IoU des propositions fiables est utilisée comme guide pour superviser la prédiction du score d'exhaustivité de la proposition :

Afin d'obtenir une proposition de comportement de limite plus précise, le chercheur saisit les caractéristiques de la région de départ et les caractéristiques de la région de fin. de la proposition dans chaque PP dans la régression Dans la tête de prédiction φr, décalez l'heure de début et de fin de la proposition prédite.

Calculez davantage les propositions affinées et espérez que les propositions affinées coïncideront avec les propositions fiables.

En bref, HR-Pro peut obtenir d'excellents résultats avec seulement quelques annotations, réduisant considérablement le coût d'obtention des étiquettes, et possède en même temps de fortes capacités de généralisation, ce qui le rend adapté à un déploiement réel. candidatures Des conditions favorables sont fournies.

Selon cela, l'auteur prédit que HR-Pro aura de larges perspectives d'application dans les domaines de l'analyse du comportement, de l'interaction homme-machine et de l'analyse de la conduite.

Adresse papier : https://arxiv.org/abs/2308.12608

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!