


Qu'est-ce que la régularisation dans l'apprentissage automatique ?
1. Introduction
Dans le domaine de l'apprentissage automatique, les modèles pertinents peuvent devenir surajustés ou sous-ajustés au cours du processus de formation. Pour éviter que cela ne se produise, nous utilisons des opérations de régularisation dans l'apprentissage automatique pour ajuster correctement le modèle sur notre ensemble de test. De manière générale, les opérations de régularisation aident chacun à obtenir le meilleur modèle en réduisant les risques de surajustement et de sous-ajustement.
Dans cet article, nous comprendrons ce qu'est la régularisation, les types de régularisation. De plus, nous discuterons de concepts connexes tels que le biais, la variance, le sous-apprentissage et le surapprentissage.
Fini les bêtises, c'est parti !
2. Biais et variance
Le biais et la variance sont deux aspects utilisés pour décrire l'écart entre le modèle que nous avons appris et le modèle réel
Ce qui doit être réécrit, c'est : les deux C'est défini comme suit :
- Le biais est la différence entre la moyenne de la sortie de tous les modèles entraînés avec tous les ensembles de données d'entraînement possibles et la valeur de sortie du modèle réel.
- La variance est la différence entre les valeurs de sortie du modèle entraîné sur différents ensembles de données d'entraînement.
Le biais réduit la sensibilité du modèle aux points de données individuels, tout en augmentant la généralisation des données et en réduisant la sensibilité du modèle aux points de données isolés. Le temps de formation peut également être réduit puisque la fonctionnalité requise est moins complexe. Un biais élevé indique que la fonction cible est supposée plus fiable, mais peut parfois conduire à un sous-ajustement du modèle
La variance (Variance) dans l'apprentissage automatique fait référence aux erreurs causées par la sensibilité du modèle à de petits changements dans les données ensemble. Puisqu’il existe une variation significative dans l’ensemble de données, l’algorithme modélise le bruit et les valeurs aberrantes dans l’ensemble d’apprentissage. Cette situation est souvent appelée surapprentissage. Lorsqu'il est évalué sur un nouvel ensemble de données, il ne peut pas fournir de prédictions précises car le modèle apprend essentiellement chaque point de données
Un modèle relativement équilibré aura un faible biais et une faible variance, tandis qu'un biais élevé et une variance élevée conduiront à sous-apprentissage et surapprentissage.
3. Sous-ajustement
Un sous-ajustement se produit lorsque le modèle ne peut pas apprendre correctement les modèles dans les données d'entraînement et les généraliser à de nouvelles données. Les modèles de sous-ajustement fonctionnent mal sur les données d'entraînement et peuvent conduire à des prédictions incorrectes. Lorsqu'un biais élevé et une faible variance se produisent, un sous-ajustement est susceptible de se produire
4. Surajustement
Lorsqu'un modèle fonctionne très bien sur les données d'entraînement, mais échoue sur les données de test. mal sur les nouvelles données, on parle de surapprentissage. Dans ce cas, le modèle d'apprentissage automatique est adapté au bruit présent dans les données d'entraînement, ce qui affecte négativement les performances du modèle sur les données de test. Un biais faible et une variance élevée peuvent conduire à un surapprentissage.
5. Concept de régularisation
Le terme « régularisation » décrit la méthode de calibrage d'un modèle d'apprentissage automatique pour réduire la fonction de perte ajustée et éviter le surajustement ou le sous-ajustement.
En utilisant la technologie de régularisation, nous pouvons adapter le modèle d'apprentissage automatique avec plus de précision à un ensemble de tests spécifique, réduisant ainsi efficacement l'erreur dans l'ensemble de tests
6. Régularisation L1
Par rapport à la régression du collier, la mise en œuvre de la régularisation L1 consiste principalement à ajouter un terme de pénalité à la fonction de perte. La valeur de pénalité de ce terme est la somme des valeurs absolues de tous les coefficients, comme suit :
Dans le modèle de régression Lasso, ceci est obtenu en augmentant le terme de pénalité de la valeur absolue du coefficient de régression d'une manière similaire à la régression de crête. De plus, la régularisation L1 a de bonnes performances pour améliorer la précision des modèles de régression linéaire. Dans le même temps, puisque la régularisation L1 pénalise tous les paramètres de manière égale, elle peut rendre certains poids nuls, produisant ainsi un modèle clairsemé qui peut supprimer certaines caractéristiques (un poids de 0 équivaut à une suppression).
7. La régularisation L2
La régularisation L2 est également obtenue en ajoutant un terme de pénalité à la fonction de perte, qui est égal à la somme des carrés de tous les coefficients. Comme indiqué ci-dessous :
De manière générale, elle est considérée comme une méthode à adopter lorsque les données présentent une multicolinéarité (les variables indépendantes sont fortement corrélées). Bien que les estimations des moindres carrés (OLS) en multicolinéarité soient impartiales, leurs écarts importants peuvent entraîner une différence significative entre les valeurs observées et les valeurs réelles. L2 réduit dans une certaine mesure l’erreur des estimations de régression. Il utilise généralement des paramètres de retrait pour résoudre des problèmes de multicolinéarité. La régularisation L2 réduit la proportion fixe de poids et lisse les poids.
8. Résumé
Après l'analyse ci-dessus, les connaissances pertinentes en matière de régularisation dans cet article sont résumées comme suit :
La régularisation L1 peut générer une matrice de poids clairsemée, c'est-à-dire générer un modèle clairsemé. , qui peut Utilisé pour la sélection des fonctionnalités ;
La régularisation L2 peut empêcher le surajustement du modèle. Dans une certaine mesure, L1 peut également empêcher le surajustement et améliorer la capacité de généralisation du modèle
Paramètres de l'hypothèse de régularisation L1 (lagrangienne). La distribution de Laplace, qui peut garantir la parcimonie du modèle, c'est-à-dire que certains paramètres sont égaux à 0 ; l'hypothèse de
L2 (régression de crête) est que la distribution a priori des paramètres est une distribution gaussienne, ce qui peut assurer la stabilité du modèle, c'est-à-dire que la valeur du paramètre ne sera ni trop grande ni trop petite
Dans les applications pratiques, si la caractéristique est de grande dimension et clairsemée, la régularisation L1 doit être utilisée si la caractéristique est de faible dimension et dense ; , la régularisation L2 doit être utilisée
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

AI Hentai Generator
Générez AI Hentai gratuitement.

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Sujets chauds

L'annotation d'images est le processus consistant à associer des étiquettes ou des informations descriptives à des images pour donner une signification et une explication plus profondes au contenu de l'image. Ce processus est essentiel à l’apprentissage automatique, qui permet d’entraîner les modèles de vision à identifier plus précisément les éléments individuels des images. En ajoutant des annotations aux images, l'ordinateur peut comprendre la sémantique et le contexte derrière les images, améliorant ainsi la capacité de comprendre et d'analyser le contenu de l'image. L'annotation d'images a un large éventail d'applications, couvrant de nombreux domaines, tels que la vision par ordinateur, le traitement du langage naturel et les modèles de vision graphique. Elle a un large éventail d'applications, telles que l'assistance aux véhicules pour identifier les obstacles sur la route, en aidant à la détection. et le diagnostic des maladies grâce à la reconnaissance d'images médicales. Cet article recommande principalement de meilleurs outils d'annotation d'images open source et gratuits. 1.Makesens

Dans les domaines de l’apprentissage automatique et de la science des données, l’interprétabilité des modèles a toujours été au centre des préoccupations des chercheurs et des praticiens. Avec l'application généralisée de modèles complexes tels que l'apprentissage profond et les méthodes d'ensemble, la compréhension du processus décisionnel du modèle est devenue particulièrement importante. Explainable AI|XAI contribue à renforcer la confiance dans les modèles d'apprentissage automatique en augmentant la transparence du modèle. L'amélioration de la transparence des modèles peut être obtenue grâce à des méthodes telles que l'utilisation généralisée de plusieurs modèles complexes, ainsi que les processus décisionnels utilisés pour expliquer les modèles. Ces méthodes incluent l'analyse de l'importance des caractéristiques, l'estimation de l'intervalle de prédiction du modèle, les algorithmes d'interprétabilité locale, etc. L'analyse de l'importance des fonctionnalités peut expliquer le processus de prise de décision du modèle en évaluant le degré d'influence du modèle sur les fonctionnalités d'entrée. Estimation de l’intervalle de prédiction du modèle

En termes simples, un modèle d’apprentissage automatique est une fonction mathématique qui mappe les données d’entrée à une sortie prédite. Plus précisément, un modèle d'apprentissage automatique est une fonction mathématique qui ajuste les paramètres du modèle en apprenant à partir des données d'entraînement afin de minimiser l'erreur entre la sortie prédite et la véritable étiquette. Il existe de nombreux modèles dans l'apprentissage automatique, tels que les modèles de régression logistique, les modèles d'arbre de décision, les modèles de machines à vecteurs de support, etc. Chaque modèle a ses types de données et ses types de problèmes applicables. Dans le même temps, il existe de nombreux points communs entre les différents modèles, ou il existe une voie cachée pour l’évolution du modèle. En prenant comme exemple le perceptron connexionniste, en augmentant le nombre de couches cachées du perceptron, nous pouvons le transformer en un réseau neuronal profond. Si une fonction noyau est ajoutée au perceptron, elle peut être convertie en SVM. celui-ci

Cet article présentera comment identifier efficacement le surajustement et le sous-apprentissage dans les modèles d'apprentissage automatique grâce à des courbes d'apprentissage. Sous-ajustement et surajustement 1. Surajustement Si un modèle est surentraîné sur les données de sorte qu'il en tire du bruit, alors on dit que le modèle est en surajustement. Un modèle surajusté apprend chaque exemple si parfaitement qu'il classera mal un exemple inédit/inédit. Pour un modèle surajusté, nous obtiendrons un score d'ensemble d'entraînement parfait/presque parfait et un score d'ensemble/test de validation épouvantable. Légèrement modifié : "Cause du surajustement : utilisez un modèle complexe pour résoudre un problème simple et extraire le bruit des données. Parce qu'un petit ensemble de données en tant qu'ensemble d'entraînement peut ne pas représenter la représentation correcte de toutes les données."

Dans les années 1950, l’intelligence artificielle (IA) est née. C’est à ce moment-là que les chercheurs ont découvert que les machines pouvaient effectuer des tâches similaires à celles des humains, comme penser. Plus tard, dans les années 1960, le Département américain de la Défense a financé l’intelligence artificielle et créé des laboratoires pour poursuivre son développement. Les chercheurs trouvent des applications à l’intelligence artificielle dans de nombreux domaines, comme l’exploration spatiale et la survie dans des environnements extrêmes. L'exploration spatiale est l'étude de l'univers, qui couvre l'ensemble de l'univers au-delà de la terre. L’espace est classé comme environnement extrême car ses conditions sont différentes de celles de la Terre. Pour survivre dans l’espace, de nombreux facteurs doivent être pris en compte et des précautions doivent être prises. Les scientifiques et les chercheurs pensent qu'explorer l'espace et comprendre l'état actuel de tout peut aider à comprendre le fonctionnement de l'univers et à se préparer à d'éventuelles crises environnementales.

Les défis courants rencontrés par les algorithmes d'apprentissage automatique en C++ incluent la gestion de la mémoire, le multithread, l'optimisation des performances et la maintenabilité. Les solutions incluent l'utilisation de pointeurs intelligents, de bibliothèques de threads modernes, d'instructions SIMD et de bibliothèques tierces, ainsi que le respect des directives de style de codage et l'utilisation d'outils d'automatisation. Des cas pratiques montrent comment utiliser la bibliothèque Eigen pour implémenter des algorithmes de régression linéaire, gérer efficacement la mémoire et utiliser des opérations matricielles hautes performances.

Traducteur | Revu par Li Rui | Chonglou Les modèles d'intelligence artificielle (IA) et d'apprentissage automatique (ML) deviennent aujourd'hui de plus en plus complexes, et le résultat produit par ces modèles est une boîte noire – impossible à expliquer aux parties prenantes. L'IA explicable (XAI) vise à résoudre ce problème en permettant aux parties prenantes de comprendre comment fonctionnent ces modèles, en s'assurant qu'elles comprennent comment ces modèles prennent réellement des décisions et en garantissant la transparence des systèmes d'IA, la confiance et la responsabilité pour résoudre ce problème. Cet article explore diverses techniques d'intelligence artificielle explicable (XAI) pour illustrer leurs principes sous-jacents. Plusieurs raisons pour lesquelles l’IA explicable est cruciale Confiance et transparence : pour que les systèmes d’IA soient largement acceptés et fiables, les utilisateurs doivent comprendre comment les décisions sont prises

Le potentiel d'application du langage Go dans le domaine de l'apprentissage automatique est énorme. Ses avantages sont les suivants : Concurrence : il prend en charge la programmation parallèle et convient aux opérations intensives en calcul dans les tâches d'apprentissage automatique. Efficacité : les fonctionnalités du garbage collector et du langage garantissent l’efficacité du code, même lors du traitement de grands ensembles de données. Facilité d'utilisation : la syntaxe est concise, ce qui facilite l'apprentissage et l'écriture d'applications d'apprentissage automatique.
