Simulant les fonctions cérébrales, ce modèle d'IA permet véritablement un apprentissage continu comme un être humain

Comme le démontrent les avancées dans divers domaines de l’IA tels que le traitement d’images, les soins de santé intelligents, les voitures autonomes et les villes intelligentes, l’apprentissage profond connaît sans aucun doute un âge d’or. Au cours de la prochaine décennie, l’IA et les systèmes informatiques disposeront enfin de capacités d’apprentissage et de réflexion semblables à celles des humains, leur permettant de traiter un flux constant d’informations et d’interagir avec le monde réel.

Cependant, les modèles d'IA actuels subissent des pertes de performances lorsqu'ils sont continuellement formés sur de nouvelles informations. En effet, chaque fois que de nouvelles données sont générées, elles sont écrites par-dessus les données existantes, effaçant ainsi les informations précédentes. Cet effet est appelé « oubli catastrophique ». Le dilemme stabilité-plasticité entraîne la nécessité pour les modèles d’IA de mettre à jour leur mémoire afin de s’adapter continuellement aux nouvelles informations tout en maintenant la stabilité des connaissances actuelles. Ce problème empêche les modèles SOTA AI d’apprendre en permanence à partir d’informations réelles.

Pendant ce temps, les systèmes informatiques de pointe permettent de déplacer l'informatique du stockage cloud et des centres de données plus près de la source d'origine, comme les appareils connectés à l'IoT. L’application efficace de l’apprentissage continu sur des appareils informatiques de pointe aux ressources limitées reste un défi, bien que de nombreux modèles d’apprentissage continu aient été proposés dans ce domaine pour résoudre ce problème. Les modèles traditionnels nécessitent une puissance de calcul élevée et une grande capacité de stockage.

Récemment, une équipe de recherche de l'Université de technologie et de design de Singapour (SUTD) a conçu un nouveau modèle permettant de réaliser un système d'apprentissage continu hautement économe en énergie. L'étude "Conduction électrique à apprentissage continu dans les matériaux à mémoire à commutation résistive". a été publié dans la revue " Advanced Theory and Simulation".

Adresse papier : https://onlinelibrary.wiley.com/doi/abs/10.1002/adts.202200226

L'équipe a proposé un modèle inspiré du cerveau—Brain-Inspired Replay (BIR), It permet un apprentissage continu naturellement. Le modèle BIR est basé sur des réseaux neuronaux artificiels et des auto-encodeurs variationnels pour simuler les fonctions du cerveau humain, et peut également fonctionner correctement dans des scénarios d'apprentissage incrémentiel sans données stockées. Les chercheurs utilisent également des modèles BIR pour représenter la croissance de filaments conducteurs utilisant le courant électrique dans les systèmes de mémoire numérique.

Le coin supérieur gauche de la figure ci-dessous montre les paramètres de lecture générative, le coin supérieur droit montre la formation du réseau neuronal artificiel avec lecture générative ; les parties inférieure gauche et inférieure droite montrent respectivement la précision actuelle normalisée des modèles conventionnel et BIR.

Le professeur adjoint Loke, l'un des auteurs correspondants de l'article, a expliqué : « Dans le BIR, les connaissances sont enregistrées dans le modèle formé, minimisant ainsi la perte de performances lorsque des tâches supplémentaires sont introduites, et il n'est pas nécessaire de se référer aux données passées au travail. Par conséquent, cette approche peut économiser beaucoup d'énergie. supérieur au modèle d'apprentissage continu traditionnel et atteint une efficacité énergétique élevée. "

De plus, afin de permettre au modèle BIR de traiter de manière indépendante les informations de terrain du monde réel, l'équipe prévoit de l'étendre dans la prochaine phase de recherche. Capacités réglables.

Loke a déclaré que la recherche est basée sur une démonstration à petite échelle et qu'elle en est encore à ses débuts. Cependant, cette approche promet de permettre aux systèmes d’IA de pointe de se développer de manière indépendante sans contrôle humain.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!