Knowledge graph : le partenaire idéal des grands modèles

Les modèles linguistiques à grande échelle (LLM) ont la capacité de générer des textes fluides et cohérents, ouvrant de nouvelles perspectives dans des domaines tels que le dialogue sur l'intelligence artificielle et l'écriture créative. Cependant, le LLM présente également certaines limites clés. Premièrement, leurs connaissances se limitent aux modèles reconnus à partir des données de formation, sans une véritable compréhension du monde. Deuxièmement, les capacités de raisonnement sont limitées et ne peuvent pas faire de déductions logiques ni fusionner des faits provenant de plusieurs sources de données. Face à des questions plus complexes et ouvertes, les réponses de LLM peuvent devenir absurdes ou contradictoires, ce que l'on appelle des « illusions ». Par conséquent, bien que le LLM soit très utile à certains égards, il présente néanmoins certaines limites lorsqu’il s’agit de problèmes complexes et de situations du monde réel.

Pour combler ces lacunes, des systèmes de génération augmentée de récupération (RAG) ont vu le jour ces dernières années, dont l'idée principale est de fournir un contexte au LLM en récupérant des connaissances pertinentes auprès de sources externes pour apporter des réponses plus éclairées. Les systèmes actuels utilisent principalement la similarité sémantique des intégrations vectorielles pour récupérer des passages. Cependant, cette approche présente ses propres inconvénients, tels que le manque de véritable corrélation, l'incapacité d'agréger les faits et le manque de chaînes d'inférence. Les domaines d’application des graphes de connaissances peuvent résoudre ces problèmes. Le graphe de connaissances est une représentation structurée d'entités et de relations du monde réel. En codant les interconnexions entre les faits contextuels, les graphiques de connaissances surmontent les inconvénients de la recherche vectorielle pure, et la recherche graphique permet un raisonnement complexe à plusieurs niveaux sur plusieurs sources d'informations.

La combinaison de l'intégration de vecteurs et du graphe de connaissances peut améliorer la capacité de raisonnement du LLM et améliorer sa précision et son interprétabilité. Ce partenariat allie parfaitement la sémantique de surface avec des connaissances et une logique structurées, permettant à LLM d'appliquer simultanément l'apprentissage statistique et la représentation symbolique.

Images

1. Limites de la recherche vectorielle

La plupart des systèmes RAG trouvent le contexte du LLM grâce à la recherche vectorielle de passages dans une collection de documents. Il y a plusieurs étapes clés dans ce processus.

1. Encodage de texte : le système utilise un modèle d'intégration tel que BERT pour encoder le texte des paragraphes du corpus en représentations vectorielles. Chaque article est compressé dans un vecteur dense pour capturer la sémantique.
2. Index : ces vecteurs de canaux sont indexés dans un espace vectoriel de grande dimension pour permettre des recherches rapides du voisin le plus proche. Les méthodes populaires incluent Faiss et Pinecone, entre autres.
3. Encodage de requête : l'instruction de requête de l'utilisateur est également codée dans une représentation vectorielle en utilisant le même modèle d'intégration.
4. Récupération de similarité : une recherche du voisin le plus proche est effectuée sur les paragraphes indexés, trouvant les paragraphes les plus proches du vecteur de requête en fonction d'une métrique de distance (telle que la distance cosinus).
5. Renvoyer les résultats du paragraphe : renvoie le vecteur de paragraphe le plus similaire, extrayez le texte original pour fournir un contexte au LLM.

Ce pipeline présente plusieurs limitations majeures :

• les vecteurs de canal peuvent ne pas capturer complètement l'intention sémantique de la requête, les intégrations ne peuvent pas représenter certaines connexions d'inférence et un contexte important finit par être ignoré.
• Condenser un paragraphe entier en un seul vecteur perdra sa nuance et les principaux détails pertinents intégrés dans la phrase deviendront flous.
• La correspondance est effectuée indépendamment pour chaque paragraphe, il n'y a pas d'analyse conjointe entre les différents paragraphes, et il y a un manque de faits de connexion et de réponses qui doivent être regroupées.
• Le processus de classement et d'appariement est opaque et il n'y a aucune transparence pour expliquer pourquoi certains passages sont considérés comme plus pertinents.
• Seule la similarité sémantique est codée, et il n'y a aucune représentation des relations, structures, règles et autres contenus entre différentes connexions.
• Une focalisation unique sur la similarité des vecteurs sémantiques conduit à un manque de réelle compréhension en matière de récupération.

À mesure que les requêtes deviennent plus complexes, ces limitations deviennent de plus en plus apparentes dans l'incapacité de raisonner sur le contenu récupéré.

2. Intégrer le graphe de connaissances

Le graphe de connaissances est basé sur des entités et des relations, transmet des informations via des réseaux interconnectés et améliore les capacités de récupération grâce à un raisonnement complexe.

• Faits explicites Les faits sont capturés directement sous forme de nœuds et de bords plutôt que compressés en vecteurs opaques, ce qui préserve les détails critiques.
• Détails du contexte, les entités contiennent des attributs riches, tels que des descriptions, des alias et des métadonnées qui fournissent un contexte clé.
• La structure du réseau exprime les connexions réelles, les règles de capture, les hiérarchies, les chronologies, etc. entre les entités de modélisation des relations.
• Le raisonnement à plusieurs niveaux est basé sur le parcours des relations et la connexion de faits provenant de différentes sources pour obtenir des réponses qui nécessitent un raisonnement en plusieurs étapes.
• Le raisonnement conjoint est lié aux mêmes objets du monde réel grâce à la résolution d'entités, permettant une analyse collective.
• Corrélation interprétable, la topologie graphique offre une transparence qui peut expliquer pourquoi certains faits basés sur sont pertinents en fonction de connexions.
• Personnalisation, capture des attributs des utilisateurs, du contexte et des interactions historiques pour adapter les résultats.

Le graphe de connaissances n'est pas simplement une simple correspondance, mais un processus de parcours du graphe pour collecter des faits contextuels liés à la requête. Les méthodes de classement interprétables exploitent la topologie des graphiques pour améliorer les capacités de récupération en codant des faits structurés, des relations et un contexte, permettant ainsi un raisonnement précis en plusieurs étapes. Cette approche offre une plus grande corrélation et un plus grand pouvoir explicatif par rapport aux recherches vectorielles pures.

3. Utiliser des contraintes simples pour améliorer l'intégration des graphes de connaissances

L'intégration de graphes de connaissances dans un espace vectoriel continu est un point chaud de la recherche actuelle. Les graphes de connaissances utilisent des intégrations vectorielles pour représenter des entités et des relations afin de prendre en charge les opérations mathématiques. De plus, des contraintes supplémentaires peuvent optimiser davantage la représentation.

• Les contraintes de non-négativité, limitant les intégrations d'entités à des valeurs positives comprises entre 0 et 1 conduisent à la parcimonie, modélisent explicitement leur nature positive et améliorent l'interprétabilité.
• Les contraintes d'implication codent directement des règles logiques telles que la symétrie, l'inversion, la composition, etc. dans des contraintes relationnellement intégrées pour appliquer ces modèles.
• Modélisation de la confiance, contraintes souples avec des variables slack peuvent coder la confiance de règles logiques basées sur des preuves.
• La régularisation, qui impose un biais inductif utile et ajoute seulement une étape de projection sans rendre l'optimisation plus complexe.
• Interprétabilité et contraintes structurées assurent la transparence des modèles appris par le modèle, ce qui explique le processus d'inférence.
• La précision, la contrainte améliore la généralisation en réduisant l'espace des hypothèses à une représentation qui répond aux exigences.

Des contraintes simples et universelles sont ajoutées à l'intégration du graphe de connaissances, ce qui donne une représentation plus optimisée, plus facile à interpréter et logiquement compatible. Les intégrations obtiennent des biais inductifs qui imitent les structures et les règles du monde réel sans introduire beaucoup de complexité supplémentaire pour un raisonnement plus précis et interprétable.

4. Intégrer plusieurs cadres de raisonnement

Le graphe de connaissances nécessite un raisonnement pour dériver de nouveaux faits, répondre à des questions et faire des prédictions. Différentes technologies ont des avantages complémentaires :

Les règles logiques expriment les connaissances sous forme d'axiomes et d'ontologies logiques, raisonnables et raisonnement complet à travers des preuves de théorèmes et un traitement limité des incertitudes. L'intégration de graphiques est une structure de graphe de connaissances intégrée utilisée pour les opérations spatiales vectorielles, qui peut gérer l'incertitude mais manque d'expressivité. Les réseaux de neurones combinés aux recherches vectorielles sont adaptatifs, mais l'inférence est opaque. Des règles peuvent être créées automatiquement grâce à une analyse statistique de la structure des graphiques et des données, mais leur qualité est incertaine. Les pipelines hybrides codent des contraintes explicites via des règles logiques, les intégrations fournissent des opérations spatiales vectorielles et les réseaux de neurones bénéficient des avantages de la fusion grâce à une formation conjointe. Utilisez des méthodes de logique basées sur des cas, floues ou probabilistes pour accroître la transparence, exprimer l'incertitude et la confiance dans les règles. Étendez les connaissances en incorporant les faits déduits et les règles apprises dans des graphiques, fournissant ainsi une boucle de rétroaction.

La clé est d'identifier les types d'inférence requis et de les mapper aux techniques appropriées, en combinant des formes logiques, des représentations vectorielles et des pipelines composables de composants neuronaux pour fournir robustesse et interprétabilité.

4.1 Maintenir le flux d'informations de LLM

La récupération de faits dans le graphe de connaissances pour LLM introduit des goulots d'étranglement d'informations qui doivent être maintenus par la conception pour maintenir la pertinence. Diviser le contenu en petits morceaux améliore l'isolement mais perd le contexte environnant, ce qui entrave le raisonnement entre les morceaux. La génération de résumés de blocs fournit un contexte plus concis, avec des détails clés condensés pour mettre en évidence la signification. Joignez des résumés, des titres, des balises, etc. en tant que métadonnées pour maintenir le contexte du contenu source. La réécriture de la requête originale dans une version plus détaillée permet de mieux cibler la récupération sur les besoins du LLM. La fonction de parcours du graphe de connaissances maintient la connexion entre les faits et maintient le contexte. Le tri chronologique ou par pertinence peut optimiser la structure de l'information du LLM, et la conversion des connaissances implicites en faits explicites énoncés pour le LLM peut faciliter le raisonnement.

L'objectif est d'optimiser la pertinence, le contexte, la structure et l'expression explicite des connaissances récupérées pour maximiser les capacités de raisonnement. Il faut trouver un équilibre entre granularité et cohésion. Les relations entre les graphes de connaissances aident à créer un contexte pour des faits isolés.

4.2 Débloquez les capacités de raisonnement

La combinaison des graphiques de connaissances et de la technologie embarquée a l'avantage de surmonter les faiblesses de chacun.

Le graphe de connaissances fournit une expression structurée des entités et des relations. Améliorez les capacités de raisonnement complexes grâce à des fonctions de parcours et gérez le raisonnement à plusieurs niveaux ; l'intégration code des informations pour des opérations basées sur la similarité dans l'espace vectoriel, prend en charge une recherche approximative efficace à une certaine échelle et fait apparaître des modèles potentiels. Le codage conjoint génère des intégrations pour les entités et les relations dans les graphes de connaissances. Les réseaux de neurones graphiques fonctionnent sur des structures graphiques et des éléments intégrés via la transmission de messages différenciables.

Le graphe de connaissances collecte d'abord des connaissances structurées, puis intègre une recherche et une récupération axées sur le contenu associé. Les relations explicites du graphe de connaissances offrent une interprétabilité pour le processus de raisonnement. Les connaissances déduites peuvent être étendues aux graphiques, et les GNN permettent l'apprentissage de représentations continues.

Ce partenariat se reconnaît à travers des motifs ! L'évolutivité des forces et des réseaux de neurones améliore la représentation des connaissances structurées. C’est la clé du besoin d’apprentissage statistique et de logique symbolique pour faire progresser l’IA linguistique.

4.3 Utiliser le filtrage collaboratif pour améliorer la recherche

Le filtrage collaboratif utilise les connexions entre les entités pour améliorer la recherche. Le processus général est le suivant :

1. Construisez un graphe de connaissances dans lequel les nœuds représentent des entités et les bords représentent des relations.
2. Générez un vecteur d'intégration pour certains attributs de nœud clés (tels que le titre, la description, etc.).
3. Vector Index - Construit un index de similarité vectorielle des intégrations de nœuds.
4. Recherche du voisin le plus proche - Pour une requête de recherche, recherchez les nœuds avec les intégrations les plus similaires.
5. Ajustement collaboratif - Connexions basées sur des nœuds, utilisant des algorithmes comme le PageRank pour propager et ajuster les scores de similarité.
6. Poids du bordーAjustez le poids en fonction du type de bord, de la force, de la confiance, etc.
7. Normalisation des scores ーーNormalise les scores ajustés pour maintenir les classements relatifs.
8. Résultats réorganisésーーRésultats initiaux réorganisés en fonction des scores de collaboration ajustés.
9. Contexte utilisateurーーaffiné en fonction du profil, de l'historique et des préférences de l'utilisateur.

Photos

5. Alimenter le moteur RAG – Volant de données

Construire un système de génération d'augmentation de récupération (RAG) hautes performances en constante amélioration peut nécessiter la mise en œuvre d'un volant de données. Les graphes de connaissances débloquent de nouvelles capacités de raisonnement pour les modèles de langage en fournissant des connaissances structurées du monde. Toutefois, la création de cartes de haute qualité reste un défi. C’est là qu’intervient le volant de données, améliorant continuellement le graphe de connaissances en analysant les interactions du système.

Enregistrez toutes les requêtes, réponses, scores, actions des utilisateurs et plus encore du système pour fournir une visibilité sur la façon dont le graphique de connaissances est utilisé, utilisez l'agrégation de données pour faire apparaître les mauvaises réponses, regroupez et analysez ces réponses pour identifier les modèles qui indiquent des lacunes dans les connaissances. Examinez manuellement les réponses problématiques du système et tracez les problèmes jusqu'aux faits manquants ou incorrects dans la carte. Ensuite, modifiez directement le graphique pour ajouter les données factuelles manquantes, améliorer la structure, améliorer la clarté, et bien plus encore. Les étapes ci-dessus sont complétées dans une boucle continue et chaque itération améliore encore le graphe de connaissances.

La diffusion en continu de sources de données en temps réel telles que les actualités et les réseaux sociaux fournit un flux constant de nouvelles informations pour maintenir le graphique des connaissances à jour. L’utilisation de la génération de requêtes pour identifier et combler les lacunes critiques en matière de connaissances dépasse la portée de ce qu’offre le streaming. Trouvez des trous dans le graphique, posez des questions, récupérez les faits manquants et ajoutez-les. Pour chaque cycle, le graphique de connaissances est progressivement amélioré en analysant les modèles d'utilisation et en résolvant les problèmes de données. Le graphique amélioré améliore les performances du système.

Ce processus de volant d'inertie permet aux graphiques de connaissances et aux modèles de langage de co-évoluer en fonction des retours d'utilisation du monde réel. Les cartes sont activement modifiées pour répondre aux besoins du modèle.

En bref, le volant de données fournit un échafaudage pour l'amélioration continue et automatique du graphe de connaissances en analysant les interactions du système. Cela renforce la précision, la pertinence et l’adaptabilité des modèles de langage dépendants des graphes.

6. Résumé

L'intelligence artificielle doit combiner connaissances externes et raisonnement, c'est là qu'intervient le graphe de connaissances. Les graphes de connaissances fournissent des représentations structurées d'entités et de relations du monde réel, codant des faits sur le monde et les connexions entre eux. Cela permet un raisonnement logique complexe sur plusieurs étapes en parcourant ces faits interdépendants

Cependant, les graphiques de connaissances ont leurs propres limites, comme la rareté et le manque de gestion de l'incertitude, et c'est là que les intégrations de graphiques facilitent la localisation. En codant les éléments du graphe de connaissances dans l'espace vectoriel, les intégrations permettent un apprentissage statistique à partir de grands corpus jusqu'à des représentations de modèles latents, et permettent également des opérations efficaces basées sur la similarité.

Ni le graphe de connaissances ni l'intégration de vecteurs ne suffisent à eux seuls pour former une intelligence linguistique de type humain, mais ensemble, ils fournissent une combinaison efficace de représentation structurée des connaissances, de raisonnement logique et d'apprentissage statistique, et le graphe de connaissances couvre le modèle de réseau neuronal Au-delà la capacité de reconnaître la logique et les relations symboliques, des techniques telles que les réseaux de neurones graphiques unifient davantage ces approches grâce à des structures et des intégrations de graphiques de transfert d'informations. Cette relation symbiotique permet au système d'utiliser à la fois l'apprentissage statistique et la logique symbolique, combinant les avantages des réseaux neuronaux et de la représentation structurée des connaissances.

Il existe encore des défis dans la création de graphiques de connaissances de haute qualité, de tests de référence, de traitement du bruit, etc. Cependant, les technologies hybrides couvrant les réseaux symboliques et neuronaux restent prometteuses. À mesure que les graphes de connaissances et les modèles linguistiques continuent de se développer, leur intégration ouvrira de nouveaux domaines d’IA explicable.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!