La technologie de vision par ordinateur est sur le point de subir une transformation majeure

La vision par ordinateur va-t-elle se réinventer à nouveau ?

Ryad Benosman, professeur d'ophtalmologie à l'Université de Pittsburgh et professeur adjoint au CMU Robotics Institute, pense que c'est effectivement le cas. En tant que l'un des fondateurs de la technologie de vision basée sur les événements, Benosman s'attend à ce que la vision neuromorphique (vision par ordinateur basée sur des caméras basées sur des événements) soit la prochaine direction de la vision par ordinateur.

« La vision par ordinateur a été réinventée à maintes reprises », a déclaré Benosman. "Je l'ai vu réinventé au moins deux fois."

Benosman a cité le passage du traitement d'image avec un peu de photogrammétrie aux méthodes basées sur la géométrie dans les années 1990, puis les progrès rapides de l'apprentissage automatique d'aujourd'hui. Malgré ces changements, la technologie moderne de vision par ordinateur repose toujours principalement sur des capteurs d’images, des caméras qui produisent des images similaires à celles vues par l’œil humain.

Selon Benosman, le paradigme de détection d'image entravera l'innovation dans les technologies alternatives jusqu'à ce qu'il ne soit plus utile. Le développement de processeurs hautes performances (par exemple les GPU) retarde la nécessité de trouver des solutions alternatives, prolongeant ainsi cet impact.

"Pourquoi utilisons-nous des images pour la vision par ordinateur ? C'est la question à un million de dollars", a-t-il déclaré. "Nous n'avons aucune raison d'utiliser des images - c'est simplement à cause de l'élan historique. Même avant qu'il n'y ait des caméras, les images avaient un élan." Dans les années 1500, les artistes utilisaient des appareils de la taille d’une pièce pour tracer sur toile des images de personnes ou de paysages à l’extérieur d’une pièce. Au fil des années, les peintures ont été remplacées par des films pour enregistrer les images. Des innovations telles que la photographie numérique ont finalement permis aux appareils photo de devenir facilement la base de la technologie moderne de vision par ordinateur.

Cependant, Benosman estime que la technologie de vision par ordinateur basée sur des caméras d'images est extrêmement inefficace. Son analogie était le système de défense d'un château médiéval : des gardes positionnés autour des murs surveillaient l'approche des ennemis. Le batteur battait régulièrement et à chaque battement, chaque garde criait ce qu'il voyait. Est-il facile d’entendre un garde repérer un ennemi à l’orée d’une forêt lointaine, au milieu de toute cette agitation ?

L'équivalent matériel des battements de batterie du 21e siècle est le signal de l'horloge électronique, et les gardes sont les pixels. Une grande quantité de données est créée et doit être vérifiée à chaque cycle d'horloge, ce qui entraîne une grande quantité d'informations redondantes et nécessite donc de nombreux calculs inutiles.

« Les gens brûlent tellement d’énergie que cela utilise toute la puissance informatique du château pour se protéger », a déclaré Benosman. Si un événement intéressant est découvert - représenté par l'ennemi dans cette analogie - "vous devez vous déplacer pour collecter des informations inutiles, les gens crient partout, donc il y a beaucoup de bande passante... Imaginez maintenant que vous avez un château complexe. Tout cela les gens ont tous besoin d’être entendus. »

Entrez dans la vision neuromorphique. L’idée de base s’inspire du fonctionnement des systèmes biologiques, qui consiste à détecter les changements dans la dynamique de la scène plutôt qu’à analyser en permanence l’ensemble de la scène. Dans notre analogie avec un château, cela signifie garder les gardes silencieux jusqu'à ce qu'ils voient quelque chose d'intéressant, puis appeler leur emplacement pour donner l'alarme. Sous forme électronique, cela signifie laisser les pixels individuels déterminer s’ils voient quelque chose de pertinent.

« Les pixels peuvent décider eux-mêmes du message qu'ils doivent envoyer », a déclaré Benosman.

"Au lieu d'obtenir des informations sur le système, ils peuvent rechercher des informations significatives - des fonctionnalités. C'est ce qui fait la différence."

Kit d'évaluation du capteur Prophesee DVS développé en partenariat avec Sony. Benosman est le co-fondateur de Prophesee.

Cette approche basée sur les événements peut économiser beaucoup d'énergie et réduire la latence par rapport à l'acquisition d'un système à fréquence fixe.

« Vous voulez quelque chose de plus adaptatif, et c'est ce que les changements relatifs [vision basée sur les événements] vous donnent : une fréquence d'acquisition adaptative », a-t-il déclaré. "Lorsque vous regardez les changements d'amplitude, si quelque chose bouge très rapidement, nous obtiendrons beaucoup d'échantillons. Si quelque chose ne change pas, vous obtiendrez presque zéro, vous ajustez donc votre fréquence d'acquisition en fonction de la dynamique de la scène. C'est ce que cela apporte. C'est pourquoi c'est un bon design. "

Benosman est entré dans le domaine de la vision neuromorphique en 2000 avec la conviction que la vision par ordinateur avancée ne fonctionnerait jamais parce que les images n'étaient pas la bonne approche.

« Le plus grand changement est de dire que nous pouvons voir sans niveaux de gris et sans images, ce qui était hérétique à la fin des années 2000 – totalement hérétique », a-t-il déclaré.

La technologie proposée par Benosman - la base de la détection basée sur les événements d'aujourd'hui - était si différente que les articles soumis à la plus importante revue de vision par ordinateur de l'IEEE à l'époque ont été rejetés sans examen. En fait, ce n’est qu’avec le développement du capteur de vision dynamique (DVS) en 2008 que la technologie a commencé à prendre de l’ampleur.

Inspiré des neurosciences

La technologie neuromorphique est une technologie inspirée des systèmes biologiques, y compris l'ordinateur ultime : le cerveau et ses neurones, ou éléments informatiques. Le problème est que personne ne comprend vraiment comment fonctionnent les neurones. Bien que nous sachions que les neurones réagissent aux signaux électriques entrants appelés pointes, jusqu'à récemment, les chercheurs décrivaient les neurones comme plutôt précipités, supposant que seul le nombre de pointes importait. Cette hypothèse a persisté pendant des décennies, mais des travaux récents ont prouvé que le timing de ces pics est absolument critique et que le cerveau est structuré pour créer des retards dans ces pics pour coder les informations.

Les réseaux neuronaux à pointes d’aujourd’hui simulent les pointes observées dans le cerveau et sont des versions simplifiées de la réalité – souvent des représentations binaires des pointes. "Je reçois un 1, je me réveille, je calcule, je dors", a expliqué Benosman. La réalité est bien plus complexe. Lorsqu’un pic arrive, le neurone commence à intégrer la valeur du pic au fil du temps ; les neurones fuient également, ce qui signifie que les résultats sont dynamiques. De plus, il existe environ 50 types différents de neurones avec 50 profils d’intégration différents.

Les versions électroniques actuelles manquent de chemins dynamiques intégrés, de connectivité entre les neurones et de poids et de retards différents. "Le problème est que pour créer un produit qui fonctionne, vous ne pouvez pas [imiter] toute la complexité parce que nous ne la comprenons pas", a-t-il déclaré. "Si nous avions une bonne théorie du cerveau, nous la résoudrions. Le problème est que nous ne le savons pas."

Bensoman dirige un laboratoire unique dédié à la compréhension des mathématiques derrière le calcul cortical, dans le but d'en créer de nouvelles. Modèles mathématiques et réplication dans des dispositifs en silicium. Cela implique une surveillance directe des pointes provenant de vraies rétines.

Actuellement, Bensoman s'oppose à la réplication fidèle des neurones biologiques, qualifiant cette approche de dépassée.

"L'idée de répliquer des neurones dans du silicium est née parce que les gens ont regardé des transistors et ont vu un mécanisme qui ressemblait à un vrai neurone, donc il y a eu une réflexion derrière cela au début", a-t-il déclaré. "Nous n'avons pas de cellules, nous avons du silicium. Vous devez adapter votre substrat informatique, et non l'inverse... Si je sais ce que je calcule et que j'ai la puce, je peux optimiser cette équation et le faire." au coût le plus bas, à la consommation d'énergie la plus faible et à la latence la plus faible pour le faire fonctionner. Bien que des systèmes soient déjà disponibles dans le commerce, des progrès sont nécessaires avant que la vision pleinement humaine puisse être utilisée commercialement.

Benosman affirme que les caméras DVS d'origine avaient des « pixels grands et épais » car les composants entourant les photodiodes elles-mêmes réduisaient considérablement le facteur de remplissage. Bien que les investissements dans le développement de ces caméras aient accéléré la technologie, Benosman a clairement indiqué que les caméras d'incident actuelles ne sont que des améliorations par rapport à l'équipement de recherche original développé en 2000. Les caméras DVS les plus avancées de Sony, Samsung et Omnivision possèdent de minuscules pixels qui intègrent des technologies avancées telles que l'empilement 3D et réduisent le bruit. La préoccupation de Benosman est de savoir si les types de capteurs utilisés aujourd'hui peuvent évoluer avec succès.

"Le problème est qu'une fois que vous augmentez le nombre de pixels, vous obtenez beaucoup de données car vous êtes toujours très rapide", a-t-il déclaré. "Vous pourriez probablement encore le traiter en temps réel, mais vous obtiendriez trop de changements relatifs à cause d'un trop grand nombre de pixels. Cela tue tout le monde en ce moment parce qu'ils voient le potentiel, mais ils n'ont pas les bons processeurs pour le prendre en charge. "

Cet exemple d'application client Prophesee montre la différence entre la caméra d'image (coin supérieur gauche de chaque boîte) et la sortie du capteur DVS.

Les processeurs neuromorphiques à usage général sont à la traîne par rapport à leurs homologues des caméras DVS. Les efforts de certains des plus grands acteurs du secteur (IBM Truenorth, Intel Loihi) se poursuivent. Le bon processeur et le bon capteur constitueront une combinaison imbattable, a déclaré Benosman.

« Les capteurs [DVS d’aujourd’hui] sont extrêmement rapides, ont une bande passante ultra-faible et une plage dynamique élevée afin que vous puissiez voir à l’intérieur et à l’extérieur », a déclaré Benosman. "C'est l'avenir. Est-ce que ça va décoller ? Absolument."

"Celui qui pourra y installer le processeur et fournir la pile complète gagnera parce qu'il sera imbattable", a-t-il ajouté.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!