Périphériques technologiques
IA
Technologie de reconnaissance d'écriture manuscrite et sa classification par algorithme
Technologie de reconnaissance d'écriture manuscrite et sa classification par algorithme
Les progrès de la technologie d'apprentissage automatique favoriseront certainement le développement de la technologie de reconnaissance de l'écriture manuscrite. Cet article se concentrera sur les technologies et les algorithmes de reconnaissance d’écriture manuscrite qui fonctionnent actuellement bien.
Réseaux de capsules (CapsNets)
Les réseaux de capsules sont l'une des architectures les plus récentes et les plus avancées en matière de réseaux de neurones et sont considérées comme une amélioration par rapport aux techniques d'apprentissage automatique existantes.
Les couches de regroupement en blocs convolutifs sont utilisées pour réduire la dimensionnalité des données et obtenir une invariance spatiale pour identifier et classer les objets dans les images. Cependant, l’inconvénient du pooling est qu’une grande quantité d’informations spatiales sur la rotation, la position, l’échelle et d’autres propriétés de position des objets sont perdues au cours du processus. Par conséquent, bien que la précision de la classification des images soit élevée, les performances de localisation de l'emplacement précis des objets dans l'image sont médiocres.
Capsule est un module neuronal utilisé pour stocker des informations sur la position, la rotation, l'échelle et d'autres informations sur les objets dans un espace vectoriel de grande dimension. Chaque dimension représente une caractéristique particulière de l'objet.
Le noyau qui génère des cartes de fonctionnalités et extrait des fonctionnalités visuelles fonctionne avec un routage dynamique en combinant les opinions individuelles de plusieurs groupes appelés capsules. Cela se traduit par une variance égale entre les noyaux et améliore les performances par rapport aux CNN.
Le noyau qui génère des cartes de caractéristiques et extrait des caractéristiques visuelles fonctionne avec un routage dynamique en combinant les opinions individuelles de plusieurs groupes (appelées capsules). Cela se traduit par une équivalence entre les noyaux et des performances améliorées par rapport aux CNN.
Réseau neuronal récurrent multidimensionnel (MDRNN)
Le traitement des données séquentielles RNN/LSTM (Long Short-Term Memory) est limité au traitement de données unidimensionnelles, telles que le texte, et ne peut pas être directement étendu à images.
Les RNN multidimensionnels peuvent remplacer une seule connexion récurrente dans un RNN standard par autant d'unités récurrentes qu'il y a de dimensions dans les données.
Pendant le passage vers l'avant, à chaque point de la séquence de données, la couche cachée du réseau reçoit une entrée externe et ses propres activations, qui sont effectuées un pas en arrière à partir d'une dimension.
Le principal problème des systèmes de reconnaissance est de convertir une image bidimensionnelle en une séquence d'étiquettes unidimensionnelle. Cela se fait en transmettant les données d'entrée à une hiérarchie de couches MDRNN. La sélection de la hauteur du bloc réduit progressivement l'image 2D en une séquence 1D, qui peut ensuite être étiquetée par la couche de sortie.
Les réseaux neuronaux récurrents multidimensionnels sont conçus pour rendre les modèles de langage robustes à chaque combinaison de dimensions d'entrée, telles que la rotation et le cisaillement de l'image, l'ambiguïté des traits et les distorsions locales de différents styles d'écriture manuscrite, et leur permettent de construire de manière flexible des éléments multidimensionnels modulaires. contexte.
Classification temporelle connexionniste (CTC)
Il s'agit d'un algorithme qui gère des tâches telles que la reconnaissance vocale, la reconnaissance de l'écriture manuscrite, etc., mappant l'intégralité des données d'entrée à la classe/texte de sortie.
Les méthodes de reconnaissance traditionnelles impliquent de mapper les images sur le texte correspondant, mais nous ne savons pas comment les parcelles d'images sont alignées sur les caractères. Le CTC peut être contourné sans savoir comment des parties spécifiques de l’audio vocal ou des images manuscrites s’alignent sur des caractères spécifiques.
L'entrée de l'algorithme est une représentation vectorielle d'une image de texte manuscrit. Il n'y a pas d'alignement direct entre la représentation des pixels de l'image et la séquence de caractères. CTC vise à trouver cette cartographie en additionnant les probabilités de tous les alignements possibles entre elles.
Les modèles formés à l'aide de CTC utilisent généralement des réseaux de neurones récurrents pour estimer la probabilité à chaque pas de temps, car les réseaux de neurones récurrents prennent en compte le contexte dans l'entrée. Il génère le score de caractère pour chaque élément de séquence, représenté par une matrice.
Pour le décodage, nous pouvons utiliser :
Décodage du meilleur chemin : implique la prédiction de phrases en concaténant les caractères les plus probables de chaque horodatage pour former un mot complet, ce qui donne le meilleur chemin. Lors de la prochaine itération de formation, les caractères et espaces répétés sont supprimés pour un meilleur décodage du texte.
Beam Search Decoder : suggère plusieurs chemins de sortie avec la probabilité la plus élevée. Les chemins avec des probabilités plus petites sont ignorés pour maintenir la taille du faisceau constante. Les résultats obtenus grâce à cette approche sont plus précis et sont souvent combinés avec des modèles de langage pour donner des résultats significatifs.
Modèle transformateur
Le modèle Transformateur adopte une stratégie différente, en utilisant l'auto-attention pour mémoriser toute la séquence. Une méthode d'écriture manuscrite non cyclique peut être implémentée à l'aide du modèle de transformateur.
Le modèle Transformer combine la couche d'auto-attention multi-têtes de la couche visuelle et la couche de texte pour apprendre les dépendances liées au modèle de langage de la séquence de caractères à décoder. Les connaissances linguistiques sont intégrées dans le modèle lui-même, de sorte qu'aucune étape de traitement supplémentaire n'est nécessaire à l'aide d'un modèle linguistique. Il est également bien adapté pour prédire des résultats qui ne font pas partie du vocabulaire.
Cette architecture comprend deux parties :
Transcripteur de texte, qui génère des caractères décodés en prêtant attention aux caractéristiques visuelles et linguistiques de chacun.
Encodeur de fonctionnalités visuelles, conçu pour extraire des informations pertinentes à partir d'images de texte manuscrites en se concentrant sur diverses positions de caractères et leurs informations contextuelles.
Encodeur-Décodeur et Réseau d'Attention
La formation des systèmes de reconnaissance de l'écriture manuscrite est toujours troublée par la rareté des données de formation. Pour résoudre ce problème, cette méthode utilise des vecteurs de caractéristiques de texte pré-entraînés comme point de départ. Les modèles de pointe utilisent des mécanismes d'attention en conjonction avec les RNN pour se concentrer sur les fonctionnalités utiles pour chaque horodatage.
L'architecture complète du modèle peut être divisée en quatre étapes : normalisation de l'image du texte d'entrée, codage de l'image d'entrée normalisée dans une carte de caractéristiques visuelles 2D, décodage à l'aide d'un LSTM bidirectionnel pour la modélisation séquentielle, décodeur. Le vecteur de sortie des informations contextuelles est converti en mots.
Scanner, Attendre et Lire
Il s'agit d'une méthode de reconnaissance de l'écriture manuscrite de bout en bout utilisant un mécanisme d'attention. Il numérise la page entière en même temps. Par conséquent, il ne nécessite pas de diviser au préalable le mot entier en caractères ou en lignes. Cette méthode utilise une architecture LSTM multidimensionnelle (MDLSTM) comme extracteur de fonctionnalités similaire à celle ci-dessus. La seule différence réside dans la dernière couche, où les cartes de caractéristiques extraites sont pliées verticalement et une fonction d'activation softmax est appliquée pour identifier le texte correspondant.
Le modèle d'attention utilisé ici est une combinaison hybride d'attention basée sur le contenu et d'attention basée sur la localisation. Le module de décodeur LSTM prend les cartes d'état et d'attention précédentes et les fonctionnalités de l'encodeur pour générer le caractère de sortie final et le vecteur d'état pour la prédiction suivante.
Convolve, Attend and Spell
Il s'agit d'un modèle séquence à séquence pour la reconnaissance de texte manuscrit basé sur le mécanisme d'attention. L'architecture se compose de trois parties principales :
- Un encodeur, composé d'un CNN et d'un GRU bidirectionnel
- Un mécanisme d'attention qui se concentre sur les fonctionnalités pertinentes
- Un décodeur formé d'un GRU unidirectionnel, capable d'épeler les caractères des personnages. par caractère Sortez les mots correspondants
Le réseau de neurones récurrent est le plus adapté aux caractéristiques temporelles du texte. Associé à une architecture aussi récurrente, le mécanisme d’attention joue un rôle crucial en se concentrant sur les bonnes caractéristiques à chaque pas de temps.
Génération de texte manuscrit
La génération d'écriture manuscrite synthétique peut générer un texte manuscrit réaliste, qui peut être utilisé pour améliorer les ensembles de données existants.
Les modèles d'apprentissage profond nécessitent de grandes quantités de données pour être entraînés, et obtenir un vaste corpus d'images manuscrites annotées dans différentes langues est une tâche fastidieuse. Nous pouvons résoudre ce problème en utilisant des réseaux antagonistes génératifs pour générer des données de formation.
ScrabbleGAN est une méthode semi-supervisée de synthèse d'images de texte manuscrites. Il s'appuie sur un modèle génératif capable de générer des images de mots de longueur arbitraire à l'aide d'un réseau entièrement convolutif.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
AI Hentai Generator
Générez AI Hentai gratuitement.
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
15 outils d'annotation d'images gratuits open source recommandés
Mar 28, 2024 pm 01:21 PM
L'annotation d'images est le processus consistant à associer des étiquettes ou des informations descriptives à des images pour donner une signification et une explication plus profondes au contenu de l'image. Ce processus est essentiel à l’apprentissage automatique, qui permet d’entraîner les modèles de vision à identifier plus précisément les éléments individuels des images. En ajoutant des annotations aux images, l'ordinateur peut comprendre la sémantique et le contexte derrière les images, améliorant ainsi la capacité de comprendre et d'analyser le contenu de l'image. L'annotation d'images a un large éventail d'applications, couvrant de nombreux domaines, tels que la vision par ordinateur, le traitement du langage naturel et les modèles de vision graphique. Elle a un large éventail d'applications, telles que l'assistance aux véhicules pour identifier les obstacles sur la route, en aidant à la détection. et le diagnostic des maladies grâce à la reconnaissance d'images médicales. Cet article recommande principalement de meilleurs outils d'annotation d'images open source et gratuits. 1.Makesens
Cet article vous amènera à comprendre SHAP : explication du modèle pour l'apprentissage automatique
Jun 01, 2024 am 10:58 AM
Dans les domaines de l’apprentissage automatique et de la science des données, l’interprétabilité des modèles a toujours été au centre des préoccupations des chercheurs et des praticiens. Avec l'application généralisée de modèles complexes tels que l'apprentissage profond et les méthodes d'ensemble, la compréhension du processus décisionnel du modèle est devenue particulièrement importante. Explainable AI|XAI contribue à renforcer la confiance dans les modèles d'apprentissage automatique en augmentant la transparence du modèle. L'amélioration de la transparence des modèles peut être obtenue grâce à des méthodes telles que l'utilisation généralisée de plusieurs modèles complexes, ainsi que les processus décisionnels utilisés pour expliquer les modèles. Ces méthodes incluent l'analyse de l'importance des caractéristiques, l'estimation de l'intervalle de prédiction du modèle, les algorithmes d'interprétabilité locale, etc. L'analyse de l'importance des fonctionnalités peut expliquer le processus de prise de décision du modèle en évaluant le degré d'influence du modèle sur les fonctionnalités d'entrée. Estimation de l’intervalle de prédiction du modèle
Transparent! Une analyse approfondie des principes des principaux modèles de machine learning !
Apr 12, 2024 pm 05:55 PM
En termes simples, un modèle d’apprentissage automatique est une fonction mathématique qui mappe les données d’entrée à une sortie prédite. Plus précisément, un modèle d'apprentissage automatique est une fonction mathématique qui ajuste les paramètres du modèle en apprenant à partir des données d'entraînement afin de minimiser l'erreur entre la sortie prédite et la véritable étiquette. Il existe de nombreux modèles dans l'apprentissage automatique, tels que les modèles de régression logistique, les modèles d'arbre de décision, les modèles de machines à vecteurs de support, etc. Chaque modèle a ses types de données et ses types de problèmes applicables. Dans le même temps, il existe de nombreux points communs entre les différents modèles, ou il existe une voie cachée pour l’évolution du modèle. En prenant comme exemple le perceptron connexionniste, en augmentant le nombre de couches cachées du perceptron, nous pouvons le transformer en un réseau neuronal profond. Si une fonction noyau est ajoutée au perceptron, elle peut être convertie en SVM. celui-ci
Identifier le surapprentissage et le sous-apprentissage grâce à des courbes d'apprentissage
Apr 29, 2024 pm 06:50 PM
Cet article présentera comment identifier efficacement le surajustement et le sous-apprentissage dans les modèles d'apprentissage automatique grâce à des courbes d'apprentissage. Sous-ajustement et surajustement 1. Surajustement Si un modèle est surentraîné sur les données de sorte qu'il en tire du bruit, alors on dit que le modèle est en surajustement. Un modèle surajusté apprend chaque exemple si parfaitement qu'il classera mal un exemple inédit/inédit. Pour un modèle surajusté, nous obtiendrons un score d'ensemble d'entraînement parfait/presque parfait et un score d'ensemble/test de validation épouvantable. Légèrement modifié : "Cause du surajustement : utilisez un modèle complexe pour résoudre un problème simple et extraire le bruit des données. Parce qu'un petit ensemble de données en tant qu'ensemble d'entraînement peut ne pas représenter la représentation correcte de toutes les données."
L'évolution de l'intelligence artificielle dans l'exploration spatiale et l'ingénierie des établissements humains
Apr 29, 2024 pm 03:25 PM
Dans les années 1950, l’intelligence artificielle (IA) est née. C’est à ce moment-là que les chercheurs ont découvert que les machines pouvaient effectuer des tâches similaires à celles des humains, comme penser. Plus tard, dans les années 1960, le Département américain de la Défense a financé l’intelligence artificielle et créé des laboratoires pour poursuivre son développement. Les chercheurs trouvent des applications à l’intelligence artificielle dans de nombreux domaines, comme l’exploration spatiale et la survie dans des environnements extrêmes. L'exploration spatiale est l'étude de l'univers, qui couvre l'ensemble de l'univers au-delà de la terre. L’espace est classé comme environnement extrême car ses conditions sont différentes de celles de la Terre. Pour survivre dans l’espace, de nombreux facteurs doivent être pris en compte et des précautions doivent être prises. Les scientifiques et les chercheurs pensent qu'explorer l'espace et comprendre l'état actuel de tout peut aider à comprendre le fonctionnement de l'univers et à se préparer à d'éventuelles crises environnementales.
Implémentation d'algorithmes d'apprentissage automatique en C++ : défis et solutions courants
Jun 03, 2024 pm 01:25 PM
Les défis courants rencontrés par les algorithmes d'apprentissage automatique en C++ incluent la gestion de la mémoire, le multithread, l'optimisation des performances et la maintenabilité. Les solutions incluent l'utilisation de pointeurs intelligents, de bibliothèques de threads modernes, d'instructions SIMD et de bibliothèques tierces, ainsi que le respect des directives de style de codage et l'utilisation d'outils d'automatisation. Des cas pratiques montrent comment utiliser la bibliothèque Eigen pour implémenter des algorithmes de régression linéaire, gérer efficacement la mémoire et utiliser des opérations matricielles hautes performances.
IA explicable : Expliquer les modèles IA/ML complexes
Jun 03, 2024 pm 10:08 PM
Traducteur | Revu par Li Rui | Chonglou Les modèles d'intelligence artificielle (IA) et d'apprentissage automatique (ML) deviennent aujourd'hui de plus en plus complexes, et le résultat produit par ces modèles est une boîte noire – impossible à expliquer aux parties prenantes. L'IA explicable (XAI) vise à résoudre ce problème en permettant aux parties prenantes de comprendre comment fonctionnent ces modèles, en s'assurant qu'elles comprennent comment ces modèles prennent réellement des décisions et en garantissant la transparence des systèmes d'IA, la confiance et la responsabilité pour résoudre ce problème. Cet article explore diverses techniques d'intelligence artificielle explicable (XAI) pour illustrer leurs principes sous-jacents. Plusieurs raisons pour lesquelles l’IA explicable est cruciale Confiance et transparence : pour que les systèmes d’IA soient largement acceptés et fiables, les utilisateurs doivent comprendre comment les décisions sont prises
Cinq écoles d'apprentissage automatique que vous ne connaissez pas
Jun 05, 2024 pm 08:51 PM
L'apprentissage automatique est une branche importante de l'intelligence artificielle qui donne aux ordinateurs la possibilité d'apprendre à partir de données et d'améliorer leurs capacités sans être explicitement programmés. L'apprentissage automatique a un large éventail d'applications dans divers domaines, de la reconnaissance d'images et du traitement du langage naturel aux systèmes de recommandation et à la détection des fraudes, et il change notre façon de vivre. Il existe de nombreuses méthodes et théories différentes dans le domaine de l'apprentissage automatique, parmi lesquelles les cinq méthodes les plus influentes sont appelées les « Cinq écoles d'apprentissage automatique ». Les cinq grandes écoles sont l’école symbolique, l’école connexionniste, l’école évolutionniste, l’école bayésienne et l’école analogique. 1. Le symbolisme, également connu sous le nom de symbolisme, met l'accent sur l'utilisation de symboles pour le raisonnement logique et l'expression des connaissances. Cette école de pensée estime que l'apprentissage est un processus de déduction inversée, à travers les connaissances existantes.
