


Chatbot de chiffon Deepseek-R1 avec Chroma, Olllama et Gradio
Ce tutoriel montre la construction d'un chatbot de génération augmentée (RAG) de récupération à l'aide de Deepseek-R1 et Langchain. Le chatbot répond aux questions basées sur une base de connaissances, dans ce cas, un livre sur les fondements de LLMS. Le processus exploite la recherche de vecteurs efficaces de Deepseek-R1 pour des réponses précises et contextuellement pertinentes, livrées via une interface Gradio conviviale.
Les forces de Deepseek-R1, y compris la récupération haute performance, le classement de pertinence à grains fins, la rentabilité (en raison de l'exécution locale), l'intégration facile avec le chroma et les capacités hors ligne, le rendent idéal pour cette application.
Le tutoriel est divisé en étapes claires:
1. Prérequis: Assurer que les bibliothèques nécessaires (Langchain, Chromadb, Gradio, Ollama, PYMUPDF) sont installées.
2. Chargement du pdf: en utilisant pyMupdfloader de Langchain pour extraire le texte des "fondations de LLMS" PDF.
3. Chunking de texte: Fractionnement du texte extrait en morceaux plus petits et chevauchants en utilisant RecursiveCharacterTextSplitter
pour améliorer la récupération de contexte.
4. Génération d'intégration: Génération d'incorporation pour chaque morceau à l'aide d'Ollamaembedddings avec Deepseek-R1. La parallélisation via ThreadPoolExecutor
accélère ce processus. Remarque: Le tutoriel mentionne la possibilité de spécifier différentes tailles de modèle Deepseek-R1 (7b, 8b, 14b, etc.).
5. Stockage des intérêts dans le chroma: Stockage des intérêts et des morceaux de texte correspondants dans une base de données vectorielle de chroma pour une récupération efficace. Le tutoriel met en évidence la création et / ou la suppression de la collection pour éviter les conflits.
6. Retriever Initialisation: Configuration du chroma Retriever, en utilisant des intégres Deepseek-R1 pour le traitement des requêtes.
7. Pipeline de chiffon (Récupération de contexte): Une fonction retrieve_context
récupère des morceaux de texte pertinents en fonction de la question d'un utilisateur.
8. Interroger Deepseek-R1: La fonction query_deepseek
Formats la question de l'utilisateur et le contexte récupéré, l'envoie à Deepseek-R1 via Olllama et nettoie la réponse de la présentation.
9. Interface Gradio: Création d'une interface interactive à l'aide de Gradio, permettant aux utilisateurs de saisir des questions et de recevoir des réponses du pipeline de chiffon.
Optimisations: Le tutoriel suggère plusieurs optimisations, notamment en ajustant la taille du morceau, en utilisant des modèles Deepseek-R1 plus petits, l'intégration de FAIS pour les ensembles de données plus grands et le traitement par lots pour la génération d'intégration.
Conclusion: Le tutoriel démontre avec succès la construction d'un chatbot de chiffon local fonctionnel, présentant la puissance de Deepseek-R1 pour une récupération efficace des informations. Des liens vers d'autres ressources en profondeur sont fournis.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

Video Face Swap
Échangez les visages dans n'importe quelle vidéo sans effort grâce à notre outil d'échange de visage AI entièrement gratuit !

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Sujets chauds

L'article passe en revue les meilleurs générateurs d'art AI, discutant de leurs fonctionnalités, de leur aptitude aux projets créatifs et de la valeur. Il met en évidence MidJourney comme la meilleure valeur pour les professionnels et recommande Dall-E 2 pour un art personnalisable de haute qualité.

META'S LLAMA 3.2: un bond en avant dans l'IA multimodal et mobile Meta a récemment dévoilé Llama 3.2, une progression importante de l'IA avec de puissantes capacités de vision et des modèles de texte légers optimisés pour les appareils mobiles. S'appuyer sur le succès o

L'article compare les meilleurs chatbots d'IA comme Chatgpt, Gemini et Claude, en se concentrant sur leurs fonctionnalités uniques, leurs options de personnalisation et leurs performances dans le traitement et la fiabilité du langage naturel.

L'article traite des meilleurs assistants d'écriture d'IA comme Grammarly, Jasper, Copy.ai, WireSonic et Rytr, en se concentrant sur leurs fonctionnalités uniques pour la création de contenu. Il soutient que Jasper excelle dans l'optimisation du référencement, tandis que les outils d'IA aident à maintenir le ton

La récente note du PDG de Shopify Tobi Lütke déclare hardiment la maîtrise de l'IA une attente fondamentale pour chaque employé, marquant un changement culturel important au sein de l'entreprise. Ce n'est pas une tendance éphémère; C'est un nouveau paradigme opérationnel intégré à P

Le paysage de l'IA de cette semaine: un tourbillon de progrès, de considérations éthiques et de débats réglementaires. Les principaux acteurs comme Openai, Google, Meta et Microsoft ont déclenché un torrent de mises à jour, des nouveaux modèles révolutionnaires aux changements cruciaux de LE

Hé là, codant ninja! Quelles tâches liées au codage avez-vous prévues pour la journée? Avant de plonger plus loin dans ce blog, je veux que vous réfléchissiez à tous vos malheurs liés au codage - les énumérez. Fait? - Let & # 8217

L'article examine les meilleurs générateurs de voix d'IA comme Google Cloud, Amazon Polly, Microsoft Azure, IBM Watson et Descript, en se concentrant sur leurs fonctionnalités, leur qualité vocale et leur aptitude à différents besoins.
