Périphériques technologiques
IA
Faites le point sur plus de 20 sources de données puissantes et gratuites que tout le monde peut utiliser pour développer l'IA
Faites le point sur plus de 20 sources de données puissantes et gratuites que tout le monde peut utiliser pour développer l'IA
Quand on parle aujourd’hui d’intelligence artificielle dans les entreprises et dans la société, nous faisons en réalité référence à l’apprentissage automatique. L'apprentissage automatique est une application qui utilise un algorithme (un ensemble d'instructions) pour devenir de mieux en mieux dans l'exécution d'une tâche spécifique à mesure qu'elle est exposée à de plus en plus de données pertinentes pour cette tâche.
Ces tâches peuvent aller de la réponse à des questions à la création de texte ou d'images (comme peuvent le faire des applications comme ChatGPT ou Dall-E) à la reconnaissance d'images (vision par ordinateur) ou à la navigation dans une voiture autonome d'un point A à un point B.
Les entreprises qui souhaitent former leurs propres algorithmes d'apprentissage automatique pour automatiser les tâches quotidiennes ont besoin de sources de données pour prendre en charge ces tâches.
Quels types de données existe-t-il ?
Les données d'entreprise sont généralement divisées en deux catégories : les données internes et les données externes.
- Les données internes sont les données collectées par l'organisation de l'entreprise elle-même à partir du processus opérationnel, qui comprennent généralement des données financières, des données sur les commentaires des clients, des données sur les ressources humaines, des données opérationnelles et d'autres données provenant d'autres sources. Les données collectées par une organisation dans le cadre de la surveillance de ses propres opérations sont appelées données propriétaires et sont précieuses car elles fournissent des informations sur une entreprise spécifique.
- Les données externes sont des données provenant de sources externes à l'organisation, généralement collectées à partir de sources de données tierces répertoriées ci-dessous. Si les données sont librement accessibles à tous, on parle de données ouvertes.
De plus, les données peuvent également être classées en données structurées, non structurées ou semi-structurées.
- Les données structurées sont des informations qui s'intègrent parfaitement dans un tableau - par exemple, des données de ventes montrant quels produits une entreprise vend, quand, où et à quel prix sont des données structurées en interne. Alternativement, les entreprises peuvent choisir d’analyser les données historiques du marché et les indicateurs économiques pour prédire les tendances futures de leurs marchés (données externes structurées).
- Les données non structurées concernent tout le reste, comme les images, les vidéos, le texte et le contenu des réseaux sociaux, qui peuvent certes contenir des informations précieuses mais qui sont plus difficiles à analyser. Cependant, l’IA s’est révélée particulièrement utile pour extraire du sens de données non structurées. Par exemple, les algorithmes de reconnaissance d'images peuvent fournir aux entreprises des informations utiles sur le comportement des clients en analysant les images de vidéosurveillance en magasin (données internes non structurées), ainsi qu'en analysant les images liées à l'entreprise publiées sur les réseaux sociaux (données externes non structurées) pour trouver des informations précieuses.
Heureusement, les données sont partout. Les gouvernements, les instituts de recherche, les entreprises privées et les ONG fournissent tous des données gratuitement à des fins de recherche et même à des fins commerciales. Voici donc quelques-unes des meilleures sources de données en ligne gratuites disponibles en 2023.
Moteur de recherche et référentiel de données
- Recherche d'ensembles de données Google – Il s'agit essentiellement d'un moteur de recherche pour les ensembles de données catalogués par Google ; utilisez ce moteur de recherche pour trouver des données sur presque tout ce dont vous pourriez avoir besoin.
- AWS Open Data Search - Un autre moteur de recherche d'ensembles de données fourni par AWS d'Amazon.
- Microsoft Research Open Data - Un ensemble de données gratuites et ouvertes collectées par Microsoft avec un accent principal sur la science.
- UCI Machine Learning Repository - Un référentiel de plus de 600 ensembles de données ouverts organisés et maintenus par l'Université de Californie à Irvine, qui peuvent être utilisés pour entraîner des algorithmes d'apprentissage automatique.
- Ensembles de données Kaggle – La plateforme de science des données en ligne Kaggle propose également un catalogue organisé d'ensembles de données couvrant tout, des classements universitaires aux tendances de recherche Google, en passant par les ventes au détail, les critiques de films en ligne et les statistiques de la criminalité.
- Reddit R/Datasets - D'énormes ensembles de données soumis par les utilisateurs du site communautaire en ligne Reddit, couvrant des centaines de sujets.
Ensembles de données du gouvernement et des organisations intergouvernementales
- Data.Gov - un portail de données ouvertes fourni par le gouvernement américain qui héberge près d'un quart du million d'ensembles de données publiés par les agences gouvernementales.
- Data.Census.Gov – Si vous recherchez spécifiquement des données démographiques américaines, c'est un excellent point de départ !
- Data.EU - le portail de données ouvertes de l'Union européenne, contenant des données des organisations de l'UE et des données des gouvernements des États membres.
- Data.gov.uk – un ensemble de données ouvert publié par les agences gouvernementales britanniques.
- Données de l'Organisation mondiale de la santé - Ensembles de données liés à la santé et au bien-être mondiaux.
- Données ouvertes de la Banque mondiale - Ensembles de données liés au développement économique, aux marchés financiers internationaux, aux indicateurs sociaux et aux questions environnementales.
Données d'image
- Google Open Images - Des millions d'images classées et étiquetées de diverses manières, utilisées pour entraîner de nombreux types différents d'algorithmes de vision par ordinateur.
- Ensemble de données ouvert ImageNet - Un autre ensemble de données composé d'images étiquetées qui peut être utilisé gratuitement dans des applications d'apprentissage automatique non commerciales.
- Ensemble de données COCO - L'ensemble de données Common Objects in Context (COCO) contient plus de 200 000 images sélectionnées pour la formation des algorithmes de détection d'objets et de sous-titrage.
Voice Data
- Mozilla Common Voice - un ensemble de données d'enregistrement ouvert qui peut être utilisé pour entraîner toute application d'IA impliquant la parole.
- Audioset - Un autre ensemble de données organisé par Google, celui-ci se concentre sur le son et contient des centaines de milliers d'échantillons de 10 secondes répartis en catégories telles que les instruments, les véhicules et les voix.
- Million Song Dataset - Échantillons et métadonnées d'un million de morceaux de musique pop contemporaine.
Text Data
- Wikidata - Téléchargement de bases de données d'articles Wikipédia dans de nombreux formats différents.
- Common Crawl - Un référentiel de données ouvert extrait du World Wide Web, surtout connu pour la formation de grands modèles de langage GPU pour ChatGPT et d'autres chatbots.
Ensembles de données autres et divers
- Avis Amazon - Une base de données d'environ 35 millions d'avis sur les produits Amazon, y compris des informations et des évaluations sur les produits.
- Waymo Open Dataset - Waymo, la filiale de conduite autonome d'Alphabet, a divulgué une grande quantité de données collectées via des véhicules autonomes, y compris des données provenant de caméras et de capteurs LiDAR.
- Ensemble de données Apolloscape - Plus de données de conduite autonome sont fournies par la plateforme open source Apollo de Baidu.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
AI Hentai Generator
Générez AI Hentai gratuitement.
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
Cet article vous amènera à comprendre SHAP : explication du modèle pour l'apprentissage automatique
Jun 01, 2024 am 10:58 AM
Dans les domaines de l’apprentissage automatique et de la science des données, l’interprétabilité des modèles a toujours été au centre des préoccupations des chercheurs et des praticiens. Avec l'application généralisée de modèles complexes tels que l'apprentissage profond et les méthodes d'ensemble, la compréhension du processus décisionnel du modèle est devenue particulièrement importante. Explainable AI|XAI contribue à renforcer la confiance dans les modèles d'apprentissage automatique en augmentant la transparence du modèle. L'amélioration de la transparence des modèles peut être obtenue grâce à des méthodes telles que l'utilisation généralisée de plusieurs modèles complexes, ainsi que les processus décisionnels utilisés pour expliquer les modèles. Ces méthodes incluent l'analyse de l'importance des caractéristiques, l'estimation de l'intervalle de prédiction du modèle, les algorithmes d'interprétabilité locale, etc. L'analyse de l'importance des fonctionnalités peut expliquer le processus de prise de décision du modèle en évaluant le degré d'influence du modèle sur les fonctionnalités d'entrée. Estimation de l’intervalle de prédiction du modèle
Transparent! Une analyse approfondie des principes des principaux modèles de machine learning !
Apr 12, 2024 pm 05:55 PM
En termes simples, un modèle d’apprentissage automatique est une fonction mathématique qui mappe les données d’entrée à une sortie prédite. Plus précisément, un modèle d'apprentissage automatique est une fonction mathématique qui ajuste les paramètres du modèle en apprenant à partir des données d'entraînement afin de minimiser l'erreur entre la sortie prédite et la véritable étiquette. Il existe de nombreux modèles dans l'apprentissage automatique, tels que les modèles de régression logistique, les modèles d'arbre de décision, les modèles de machines à vecteurs de support, etc. Chaque modèle a ses types de données et ses types de problèmes applicables. Dans le même temps, il existe de nombreux points communs entre les différents modèles, ou il existe une voie cachée pour l’évolution du modèle. En prenant comme exemple le perceptron connexionniste, en augmentant le nombre de couches cachées du perceptron, nous pouvons le transformer en un réseau neuronal profond. Si une fonction noyau est ajoutée au perceptron, elle peut être convertie en SVM. celui-ci
Identifier le surapprentissage et le sous-apprentissage grâce à des courbes d'apprentissage
Apr 29, 2024 pm 06:50 PM
Cet article présentera comment identifier efficacement le surajustement et le sous-apprentissage dans les modèles d'apprentissage automatique grâce à des courbes d'apprentissage. Sous-ajustement et surajustement 1. Surajustement Si un modèle est surentraîné sur les données de sorte qu'il en tire du bruit, alors on dit que le modèle est en surajustement. Un modèle surajusté apprend chaque exemple si parfaitement qu'il classera mal un exemple inédit/inédit. Pour un modèle surajusté, nous obtiendrons un score d'ensemble d'entraînement parfait/presque parfait et un score d'ensemble/test de validation épouvantable. Légèrement modifié : "Cause du surajustement : utilisez un modèle complexe pour résoudre un problème simple et extraire le bruit des données. Parce qu'un petit ensemble de données en tant qu'ensemble d'entraînement peut ne pas représenter la représentation correcte de toutes les données."
L'évolution de l'intelligence artificielle dans l'exploration spatiale et l'ingénierie des établissements humains
Apr 29, 2024 pm 03:25 PM
Dans les années 1950, l’intelligence artificielle (IA) est née. C’est à ce moment-là que les chercheurs ont découvert que les machines pouvaient effectuer des tâches similaires à celles des humains, comme penser. Plus tard, dans les années 1960, le Département américain de la Défense a financé l’intelligence artificielle et créé des laboratoires pour poursuivre son développement. Les chercheurs trouvent des applications à l’intelligence artificielle dans de nombreux domaines, comme l’exploration spatiale et la survie dans des environnements extrêmes. L'exploration spatiale est l'étude de l'univers, qui couvre l'ensemble de l'univers au-delà de la terre. L’espace est classé comme environnement extrême car ses conditions sont différentes de celles de la Terre. Pour survivre dans l’espace, de nombreux facteurs doivent être pris en compte et des précautions doivent être prises. Les scientifiques et les chercheurs pensent qu'explorer l'espace et comprendre l'état actuel de tout peut aider à comprendre le fonctionnement de l'univers et à se préparer à d'éventuelles crises environnementales.
Implémentation d'algorithmes d'apprentissage automatique en C++ : défis et solutions courants
Jun 03, 2024 pm 01:25 PM
Les défis courants rencontrés par les algorithmes d'apprentissage automatique en C++ incluent la gestion de la mémoire, le multithread, l'optimisation des performances et la maintenabilité. Les solutions incluent l'utilisation de pointeurs intelligents, de bibliothèques de threads modernes, d'instructions SIMD et de bibliothèques tierces, ainsi que le respect des directives de style de codage et l'utilisation d'outils d'automatisation. Des cas pratiques montrent comment utiliser la bibliothèque Eigen pour implémenter des algorithmes de régression linéaire, gérer efficacement la mémoire et utiliser des opérations matricielles hautes performances.
IA explicable : Expliquer les modèles IA/ML complexes
Jun 03, 2024 pm 10:08 PM
Traducteur | Revu par Li Rui | Chonglou Les modèles d'intelligence artificielle (IA) et d'apprentissage automatique (ML) deviennent aujourd'hui de plus en plus complexes, et le résultat produit par ces modèles est une boîte noire – impossible à expliquer aux parties prenantes. L'IA explicable (XAI) vise à résoudre ce problème en permettant aux parties prenantes de comprendre comment fonctionnent ces modèles, en s'assurant qu'elles comprennent comment ces modèles prennent réellement des décisions et en garantissant la transparence des systèmes d'IA, la confiance et la responsabilité pour résoudre ce problème. Cet article explore diverses techniques d'intelligence artificielle explicable (XAI) pour illustrer leurs principes sous-jacents. Plusieurs raisons pour lesquelles l’IA explicable est cruciale Confiance et transparence : pour que les systèmes d’IA soient largement acceptés et fiables, les utilisateurs doivent comprendre comment les décisions sont prises
Cinq écoles d'apprentissage automatique que vous ne connaissez pas
Jun 05, 2024 pm 08:51 PM
L'apprentissage automatique est une branche importante de l'intelligence artificielle qui donne aux ordinateurs la possibilité d'apprendre à partir de données et d'améliorer leurs capacités sans être explicitement programmés. L'apprentissage automatique a un large éventail d'applications dans divers domaines, de la reconnaissance d'images et du traitement du langage naturel aux systèmes de recommandation et à la détection des fraudes, et il change notre façon de vivre. Il existe de nombreuses méthodes et théories différentes dans le domaine de l'apprentissage automatique, parmi lesquelles les cinq méthodes les plus influentes sont appelées les « Cinq écoles d'apprentissage automatique ». Les cinq grandes écoles sont l’école symbolique, l’école connexionniste, l’école évolutionniste, l’école bayésienne et l’école analogique. 1. Le symbolisme, également connu sous le nom de symbolisme, met l'accent sur l'utilisation de symboles pour le raisonnement logique et l'expression des connaissances. Cette école de pensée estime que l'apprentissage est un processus de déduction inversée, à travers les connaissances existantes.
Flash Attention est-il stable ? Meta et Harvard ont constaté que les écarts de poids de leur modèle fluctuaient de plusieurs ordres de grandeur.
May 30, 2024 pm 01:24 PM
MetaFAIR s'est associé à Harvard pour fournir un nouveau cadre de recherche permettant d'optimiser le biais de données généré lors de l'apprentissage automatique à grande échelle. On sait que la formation de grands modèles de langage prend souvent des mois et utilise des centaines, voire des milliers de GPU. En prenant comme exemple le modèle LLaMA270B, sa formation nécessite un total de 1 720 320 heures GPU. La formation de grands modèles présente des défis systémiques uniques en raison de l’ampleur et de la complexité de ces charges de travail. Récemment, de nombreuses institutions ont signalé une instabilité dans le processus de formation lors de la formation des modèles d'IA générative SOTA. Elles apparaissent généralement sous la forme de pics de pertes. Par exemple, le modèle PaLM de Google a connu jusqu'à 20 pics de pertes au cours du processus de formation. Le biais numérique est à l'origine de cette imprécision de la formation,
