La fondation, la frontière et l'application du GNN
Ces dernières années, les réseaux de neurones graphes (GNN) ont fait des progrès rapides et incroyables. Le réseau neuronal graphique, également connu sous le nom d'apprentissage profond graphique, d'apprentissage de représentation graphique (apprentissage de représentation graphique) ou d'apprentissage profond géométrique, est le sujet de recherche qui connaît la croissance la plus rapide dans le domaine de l'apprentissage automatique, en particulier de l'apprentissage profond. Le titre de ce partage est « Bases, frontières et applications du GNN ». Il présente principalement le contenu général du livre complet « Bases, frontières et applications des réseaux de neurones graphiques » compilé par les chercheurs Wu Lingfei, Cui Peng, Pei Jian et Zhao. Liang.
1. Introduction au réseau neuronal graphique
1. Pourquoi étudier les graphiques ?
Les diagrammes sont un langage universel pour décrire et modéliser des systèmes complexes. Le graphe en lui-même n’est pas complexe, il se compose principalement d’arêtes et de nœuds. Nous pouvons utiliser des nœuds pour représenter n’importe quel objet que nous souhaitons modéliser, et nous pouvons utiliser des arêtes pour représenter la relation ou la similitude entre deux nœuds. Ce que nous appelons souvent réseau neuronal graphique ou apprentissage automatique graphique utilise généralement la structure du graphique et les informations sur les arêtes et les nœuds comme entrée de l'algorithme pour produire les résultats souhaités. Par exemple, dans un moteur de recherche, lorsque nous saisissons une requête, le moteur renvoie des résultats de recherche personnalisés basés sur les informations de la requête, les informations de l'utilisateur et certaines informations contextuelles. Ces informations peuvent être naturellement organisées dans un graphique.
2. Les données structurées sous forme de graphiques sont partout
Les données structurées sous forme de graphiques peuvent être trouvées partout, comme sur Internet, les réseaux sociaux, etc. De plus, dans le domaine actuellement très populaire de la découverte de protéines, les gens utiliseront des graphiques pour décrire et modéliser les protéines existantes et généreront de nouveaux graphiques pour aider les gens à découvrir de nouveaux médicaments. Nous pouvons également utiliser des graphiques pour effectuer des analyses de programmes complexes, ainsi que des raisonnements de haut niveau en vision par ordinateur.
3. Tendances récentes de l'apprentissage automatique des graphes
L'apprentissage automatique des graphes n'est pas un sujet très nouveau. Cette direction de recherche existe depuis 20 ans et a toujours été relativement spécialisée. avant. Depuis 2016, avec l’émergence d’articles modernes sur les réseaux neuronaux graphiques, l’apprentissage automatique graphique est devenu une direction de recherche populaire. Les gens ont découvert que cette nouvelle génération de méthodes d'apprentissage automatique graphique peut mieux apprendre les données elles-mêmes et les informations entre les données, afin de mieux représenter les données et, finalement, de mieux accomplir des tâches plus importantes.
4. Un bref historique des réseaux de neurones graphes
Le premier article sur les réseaux de neurones graphes est paru en 2009, avant que l'apprentissage profond ne devienne populaire. Des articles sur les réseaux de neurones graphiques modernes sont parus en 2016, qui constituaient des améliorations des premiers réseaux de neurones graphiques. Par la suite, l’émergence du GCN a favorisé le développement rapide des réseaux de neurones graphiques. Depuis 2017, un grand nombre de nouveaux algorithmes ont vu le jour. À mesure que les algorithmes des réseaux de neurones graphiques deviennent de plus en plus matures, depuis 2019, l'industrie a tenté d'utiliser ces algorithmes pour résoudre certains problèmes pratiques. Dans le même temps, de nombreux outils open source ont été développés pour améliorer l'efficacité de la résolution des problèmes. Depuis 2021, de nombreux livres liés aux réseaux de neurones graphes ont été écrits, dont bien sûr ce "Bases, frontières et applications des réseaux de neurones graphes".
Le livre "Bases, frontières et applications des réseaux de neurones graphes" présente systématiquement les concepts et technologies de base dans le domaine des réseaux de neurones graphes, ainsi que la recherche et le développement de pointe, et présente des applications dans différents domaines. Les lecteurs du monde universitaire et de l’industrie peuvent en bénéficier.
2. La base du réseau neuronal graphique
1. Le cycle de vie de l'apprentissage automatique
La figure ci-dessus reflète le cycle de vie de l'apprentissage automatique, dans lequel l'apprentissage des fonctionnalités est un élément très important lien La tâche principale est de transformer les données brutes en données structurées. Avant l’émergence du deep learning, tout le monde accomplissait principalement cette tâche grâce à l’ingénierie des fonctionnalités. Après l'émergence du deep learning, cette méthode d'apprentissage automatique de bout en bout a commencé à devenir courante.
2. L'apprentissage des fonctionnalités dans les graphiques
L'apprentissage des fonctionnalités dans les graphiques est très similaire à l'apprentissage en profondeur. L'objectif est de concevoir des méthodes efficaces d'apprentissage des fonctionnalités liées aux tâches ou indépendantes des tâches. les nœuds du graphique d'origine dans un espace de grande dimension pour obtenir la représentation intégrée des nœuds, puis effectuer les tâches en aval.
3. La base du réseau neuronal graphique
Il existe deux types de représentations qui doivent être apprises dans les réseaux neuronaux graphiques :
- Représentation du nœud graphique s
nécessite une opération de filtrage, qui prend la matrice du graphique et la représentation vectorielle du nœud en entrée, apprend en permanence et met à jour la représentation vectorielle du nœud. Actuellement, les opérations de filtrage les plus courantes incluent les opérations basées sur le spectre, basées sur l'espace, basées sur l'attention et basées sur la récurrence.
- La représentation du graphe
nécessite une opération de pool, qui prend la matrice du graphe et la représentation vectorielle des nœuds en entrée, apprend en continu et obtient la matrice du graphe contenant moins de nœuds. La représentation vectorielle de ses nœuds obtient finalement une représentation vectorielle au niveau du graphe pour représenter l'ensemble du graphe. Actuellement, les opérations de pool les plus courantes incluent le pooling de graphiques plats (tels que Max, Ave, Min) et le pooling de graphiques hiérarchiques (tels que Diffpool).
4. Modèle de base du réseau neuronal graphique
Il existe un concept d'apprentissage contextuel dans le domaine de l'apprentissage automatique. Dans les réseaux de neurones graphiques, le contexte d'un nœud est celui de ses nœuds voisins. Nous pouvons utiliser les nœuds voisins d'un nœud pour apprendre la représentation vectorielle de ce nœud.
De cette façon, chaque nœud peut définir un graphe de calcul.
Nous pouvons superposer le graphique de calcul. La première couche est l'information la plus originale. En transmettant et en agrégeant les informations couche par couche, nous pouvons apprendre la représentation vectorielle de tous les nœuds.
La figure ci-dessus décrit grossièrement les principales étapes de l'apprentissage du modèle de réseau neuronal graphique, qui comprennent principalement les quatre étapes suivantes :
- Définir une fonction d'agrégation
- Définir une fonction de perte en fonction de la fonction d'agrégation ; tâche ;
- Formez un lot de nœuds, par exemple, vous pouvez former un lot de graphiques de calcul à la fois
- Produisez la représentation vectorielle requise pour chaque nœud, même certains nœuds qui n'ont jamais été créés. été formé (l'apprentissage est une fonction d'agrégation, vous pouvez utiliser la fonction d'agrégation et la représentation vectorielle qui a été entraînée pour obtenir la représentation vectorielle du nouveau nœud).
La figure ci-dessus est un exemple d'utilisation de la moyenne comme fonction d'agrégation. La représentation vectorielle du nœud v dans la kième couche dépend de la représentation vectorielle de ses nœuds voisins dans. la couche précédente. Moyenne et la propre représentation vectorielle de la couche précédente.
Pour résumer le contenu ci-dessus, le point principal du réseau de neurones graphique est de générer une représentation vectorielle du nœud cible en agrégeant les informations des nœuds voisins. Il prend en compte le partage des paramètres dans l'encodeur. et prend également en compte l'apprentissage par inférence.
5. Modèles populaires de réseaux de neurones graphiques
Les algorithmes classiques ou populaires de réseaux de neurones graphiques utilisent essentiellement différentes fonctions d'agrégation ou fonctions de filtrage, qui peuvent être divisées en réseaux de neurones graphiques supervisés et en réseaux neuronaux graphiques non supervisés. réseaux de neurones graphiques supervisés.
GCN est l'un des algorithmes les plus classiques, Il peut agir directement sur le graphe et utiliser ses informations structurelles. En se concentrant sur l'amélioration de la vitesse, de la praticité et de la stabilité du modèle, comme le montre la figure ci-dessus, GCN a également connu plusieurs itérations. L'article de GCN est d'une importance historique et a jeté les bases des réseaux de neurones graphiques. Le point central de
MPNN est le processus de conversion de la convolution graphique en transfert d'informations. Il définit deux fonctions, à savoir la fonction d'agrégation et la fonction de mise à jour. Cet algorithme est un algorithme simple et général, mais il n’est pas efficace.
GraphSage est un algorithme de niveau industriel Il utilise l'échantillonnage pour obtenir un certain nombre de nœuds voisins afin d'obtenir la représentation vectorielle du nœud scolaire.
GAT est l'introduction de l'idée d'attention. Son point central est d'apprendre dynamiquement le poids du bord pendant le processus de transfert d'informations.
En plus des algorithmes présentés ci-dessus, il existe également GGNN. Sa caractéristique est que la sortie peut être multi-nœuds. Si vous êtes intéressé, vous pouvez lire les articles connexes. Dans le livre "Basics, Frontiers and Applications of Graph Neural Networks", les chapitres 5, 6, 7 et 8 présentent également comment évaluer les réseaux de neurones graphes, l'évolutivité des réseaux de neurones graphes et l'explication des réseaux de neurones graphes respectivement. .propriétés et stabilité contradictoire des réseaux de neurones graphiques Si vous êtes intéressé, vous pouvez lire les chapitres correspondants dans le livre.
3. La frontière du réseau neuronal graphique nécessite des données de structure graphique, mais la structure graphique donnée est-elle optimale ? parfois, il peut y avoir beaucoup de bruit et de nombreuses applications peuvent ne pas avoir de données structurées sous forme de graphiques, ou même n'avoir que des fonctionnalités originales.
peuvent montrer les avantages de cette approche.
Grâce aux résultats de visualisation du graphique, on peut constater que les graphiques appris ont tendance à regrouper des objets similaires, ce qui a une certaine interprétabilité. 2. Autres frontières
Dans le livre "Bases, frontières et applications des réseaux de neurones graphes", les recherches de pointe suivantes sont également présentées, qui ont des applications importantes dans de nombreux scénarios :
Classification d'images ;
Prédiction de liens ;
- ; Correspondance d'images ;
- Graphique dynamique neuronal réseau ;
- réseau neuronal graphique hétérogène ;
- AutoML pour le réseau neuronal graphique ;
- 4. Application du réseau neuronal graphique
- 1. Application du réseau neuronal graphique dans le système de recommandation
- Nous pouvons utiliser les informations de session pour construire un graphique global hétérogène, puis utiliser le graphique neuronal. réseau Apprenez à obtenir la représentation vectorielle des utilisateurs ou des éléments, et utilisez cette représentation vectorielle pour faire des recommandations personnalisées.
2. Application du réseau neuronal graphique en vision par ordinateur
Nous pouvons suivre le processus de changement dynamique des objets et approfondir notre compréhension de la vidéo grâce au réseau neuronal graphique.
3. Application du réseau neuronal graphique dans le traitement du langage naturel
Nous pouvons utiliser le réseau neuronal graphique pour comprendre les informations de haut niveau du langage naturel.
4. Application du réseau neuronal graphique dans l'analyse de programme
5.
Q1 : GNN est-il une méthode importante pour la prochaine génération d'apprentissage profond ?
A1 : Le réseau neuronal graphique est une branche très importante, et celle qui suit le rythme du réseau neuronal graphique est Transformer. Compte tenu de la flexibilité des réseaux de neurones graphiques, les réseaux de neurones graphiques et Transformer peuvent être combinés les uns avec les autres pour profiter de plus grands avantages.
Q2 : Le GNN et l'apprentissage causal peuvent-ils être combinés ? Comment combiner ?
A2 : Le maillon important dans l'apprentissage causal est le graphe causal, et le graphe causal et le GNN peuvent être naturellement combinés. La difficulté de l’apprentissage causal est que la taille de ses données est petite. Nous pouvons utiliser la capacité de GNN pour mieux apprendre les graphiques causals.
Q3 : Quelle est la différence et le lien entre l'interprétabilité du GNN et l'interprétabilité de l'apprentissage automatique traditionnel ?
A3 : Il sera introduit en détail dans le livre "Bases, frontières et applications des réseaux de neurones graphiques".
Q4 : Comment entraîner et déduire des GNN directement sur la base de la base de données de graphes et en utilisant la puissance du calcul graphique ?
A4 : Il n'existe actuellement aucune bonne pratique sur la plate-forme de calcul graphique unifiée. Certaines startups et équipes de recherche scientifique explorent des directions de recherche très précieuses et stimulantes. diviser les zones en zones.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
AI Hentai Generator
Générez AI Hentai gratuitement.
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
Cet article vous amènera à comprendre SHAP : explication du modèle pour l'apprentissage automatique
Jun 01, 2024 am 10:58 AM
Dans les domaines de l’apprentissage automatique et de la science des données, l’interprétabilité des modèles a toujours été au centre des préoccupations des chercheurs et des praticiens. Avec l'application généralisée de modèles complexes tels que l'apprentissage profond et les méthodes d'ensemble, la compréhension du processus décisionnel du modèle est devenue particulièrement importante. Explainable AI|XAI contribue à renforcer la confiance dans les modèles d'apprentissage automatique en augmentant la transparence du modèle. L'amélioration de la transparence des modèles peut être obtenue grâce à des méthodes telles que l'utilisation généralisée de plusieurs modèles complexes, ainsi que les processus décisionnels utilisés pour expliquer les modèles. Ces méthodes incluent l'analyse de l'importance des caractéristiques, l'estimation de l'intervalle de prédiction du modèle, les algorithmes d'interprétabilité locale, etc. L'analyse de l'importance des fonctionnalités peut expliquer le processus de prise de décision du modèle en évaluant le degré d'influence du modèle sur les fonctionnalités d'entrée. Estimation de l’intervalle de prédiction du modèle
Transparent! Une analyse approfondie des principes des principaux modèles de machine learning !
Apr 12, 2024 pm 05:55 PM
En termes simples, un modèle d’apprentissage automatique est une fonction mathématique qui mappe les données d’entrée à une sortie prédite. Plus précisément, un modèle d'apprentissage automatique est une fonction mathématique qui ajuste les paramètres du modèle en apprenant à partir des données d'entraînement afin de minimiser l'erreur entre la sortie prédite et la véritable étiquette. Il existe de nombreux modèles dans l'apprentissage automatique, tels que les modèles de régression logistique, les modèles d'arbre de décision, les modèles de machines à vecteurs de support, etc. Chaque modèle a ses types de données et ses types de problèmes applicables. Dans le même temps, il existe de nombreux points communs entre les différents modèles, ou il existe une voie cachée pour l’évolution du modèle. En prenant comme exemple le perceptron connexionniste, en augmentant le nombre de couches cachées du perceptron, nous pouvons le transformer en un réseau neuronal profond. Si une fonction noyau est ajoutée au perceptron, elle peut être convertie en SVM. celui-ci
Identifier le surapprentissage et le sous-apprentissage grâce à des courbes d'apprentissage
Apr 29, 2024 pm 06:50 PM
Cet article présentera comment identifier efficacement le surajustement et le sous-apprentissage dans les modèles d'apprentissage automatique grâce à des courbes d'apprentissage. Sous-ajustement et surajustement 1. Surajustement Si un modèle est surentraîné sur les données de sorte qu'il en tire du bruit, alors on dit que le modèle est en surajustement. Un modèle surajusté apprend chaque exemple si parfaitement qu'il classera mal un exemple inédit/inédit. Pour un modèle surajusté, nous obtiendrons un score d'ensemble d'entraînement parfait/presque parfait et un score d'ensemble/test de validation épouvantable. Légèrement modifié : "Cause du surajustement : utilisez un modèle complexe pour résoudre un problème simple et extraire le bruit des données. Parce qu'un petit ensemble de données en tant qu'ensemble d'entraînement peut ne pas représenter la représentation correcte de toutes les données."
L'évolution de l'intelligence artificielle dans l'exploration spatiale et l'ingénierie des établissements humains
Apr 29, 2024 pm 03:25 PM
Dans les années 1950, l’intelligence artificielle (IA) est née. C’est à ce moment-là que les chercheurs ont découvert que les machines pouvaient effectuer des tâches similaires à celles des humains, comme penser. Plus tard, dans les années 1960, le Département américain de la Défense a financé l’intelligence artificielle et créé des laboratoires pour poursuivre son développement. Les chercheurs trouvent des applications à l’intelligence artificielle dans de nombreux domaines, comme l’exploration spatiale et la survie dans des environnements extrêmes. L'exploration spatiale est l'étude de l'univers, qui couvre l'ensemble de l'univers au-delà de la terre. L’espace est classé comme environnement extrême car ses conditions sont différentes de celles de la Terre. Pour survivre dans l’espace, de nombreux facteurs doivent être pris en compte et des précautions doivent être prises. Les scientifiques et les chercheurs pensent qu'explorer l'espace et comprendre l'état actuel de tout peut aider à comprendre le fonctionnement de l'univers et à se préparer à d'éventuelles crises environnementales.
Implémentation d'algorithmes d'apprentissage automatique en C++ : défis et solutions courants
Jun 03, 2024 pm 01:25 PM
Les défis courants rencontrés par les algorithmes d'apprentissage automatique en C++ incluent la gestion de la mémoire, le multithread, l'optimisation des performances et la maintenabilité. Les solutions incluent l'utilisation de pointeurs intelligents, de bibliothèques de threads modernes, d'instructions SIMD et de bibliothèques tierces, ainsi que le respect des directives de style de codage et l'utilisation d'outils d'automatisation. Des cas pratiques montrent comment utiliser la bibliothèque Eigen pour implémenter des algorithmes de régression linéaire, gérer efficacement la mémoire et utiliser des opérations matricielles hautes performances.
IA explicable : Expliquer les modèles IA/ML complexes
Jun 03, 2024 pm 10:08 PM
Traducteur | Revu par Li Rui | Chonglou Les modèles d'intelligence artificielle (IA) et d'apprentissage automatique (ML) deviennent aujourd'hui de plus en plus complexes, et le résultat produit par ces modèles est une boîte noire – impossible à expliquer aux parties prenantes. L'IA explicable (XAI) vise à résoudre ce problème en permettant aux parties prenantes de comprendre comment fonctionnent ces modèles, en s'assurant qu'elles comprennent comment ces modèles prennent réellement des décisions et en garantissant la transparence des systèmes d'IA, la confiance et la responsabilité pour résoudre ce problème. Cet article explore diverses techniques d'intelligence artificielle explicable (XAI) pour illustrer leurs principes sous-jacents. Plusieurs raisons pour lesquelles l’IA explicable est cruciale Confiance et transparence : pour que les systèmes d’IA soient largement acceptés et fiables, les utilisateurs doivent comprendre comment les décisions sont prises
Cinq écoles d'apprentissage automatique que vous ne connaissez pas
Jun 05, 2024 pm 08:51 PM
L'apprentissage automatique est une branche importante de l'intelligence artificielle qui donne aux ordinateurs la possibilité d'apprendre à partir de données et d'améliorer leurs capacités sans être explicitement programmés. L'apprentissage automatique a un large éventail d'applications dans divers domaines, de la reconnaissance d'images et du traitement du langage naturel aux systèmes de recommandation et à la détection des fraudes, et il change notre façon de vivre. Il existe de nombreuses méthodes et théories différentes dans le domaine de l'apprentissage automatique, parmi lesquelles les cinq méthodes les plus influentes sont appelées les « Cinq écoles d'apprentissage automatique ». Les cinq grandes écoles sont l’école symbolique, l’école connexionniste, l’école évolutionniste, l’école bayésienne et l’école analogique. 1. Le symbolisme, également connu sous le nom de symbolisme, met l'accent sur l'utilisation de symboles pour le raisonnement logique et l'expression des connaissances. Cette école de pensée estime que l'apprentissage est un processus de déduction inversée, à travers les connaissances existantes.
Flash Attention est-il stable ? Meta et Harvard ont constaté que les écarts de poids de leur modèle fluctuaient de plusieurs ordres de grandeur.
May 30, 2024 pm 01:24 PM
MetaFAIR s'est associé à Harvard pour fournir un nouveau cadre de recherche permettant d'optimiser le biais de données généré lors de l'apprentissage automatique à grande échelle. On sait que la formation de grands modèles de langage prend souvent des mois et utilise des centaines, voire des milliers de GPU. En prenant comme exemple le modèle LLaMA270B, sa formation nécessite un total de 1 720 320 heures GPU. La formation de grands modèles présente des défis systémiques uniques en raison de l’ampleur et de la complexité de ces charges de travail. Récemment, de nombreuses institutions ont signalé une instabilité dans le processus de formation lors de la formation des modèles d'IA générative SOTA. Elles apparaissent généralement sous la forme de pics de pertes. Par exemple, le modèle PaLM de Google a connu jusqu'à 20 pics de pertes au cours du processus de formation. Le biais numérique est à l'origine de cette imprécision de la formation,
