ChatGPT domestique est à nouveau open source ! L'effet a été considérablement amélioré et peut également être exécuté sur les téléphones mobiles.

Récemment, l'équipe Yuanyu Intelligence a ouvert un autre grand modèle de la série ChatYuan : ChatYuan-large-v2, qui prend en charge l'inférence sur une seule carte graphique grand public, un PC et même des téléphones mobiles.

Tout à l'heure, "Chinese ChatGPT" ChatYuan a publié une nouvelle version.

Le ChatYuan-large-v2 mis à jour prend non seulement en charge les langues bilingues chinois et anglais, mais prend également en charge une longueur totale d'entrée et de sortie allant jusqu'à 4k.

C'est également le résultat de la recherche de Yuanyu Intelligence en direction des grands modèles après les précédents modèles PromptCLUE-base, PromptCLUE-v1-5 et ChatYuan-large-v1.

Adresse du projet Open source :

​https://github.com/clue-ai/ChatYuan​

Huggingface :

​https://huggingface.co/ClueAI/ChatYuan-large-v2​

Modelscope :

​https://modelscope.cn/models/ClueAI/ChatYuan-large-v2/summary​

01 Qu'est-ce que ChatYuan-large-v2 ?

ChatYuan-large-v2 est un grand modèle de langage conversationnel fonctionnel qui prend en charge le bilinguisme chinois et anglais. ChatYuan-large-v2 utilise la même solution technique que la version v1, en termes de réglage fin des instructions, d'apprentissage par renforcement des commentaires humains et. chaînes de pensée optimisées.

ChatYuan-large-v2 est un modèle représentatif de la série ChatYuan qui permet d'obtenir des effets de haute qualité avec une conception légère. Il peut obtenir les effets de base du modèle 10B de l'industrie avec seulement 0,7B de paramètres, réduisant considérablement les coûts d'inférence et améliorant l'efficacité d'utilisation. . Les utilisateurs peuvent effectuer des inférences sur des cartes graphiques grand public, des PC et même des téléphones mobiles (INT4 ne nécessite qu'un minimum de 400 Mo).

Dans le même temps, afin de mieux améliorer l'expérience utilisateur, l'équipe a encapsulé des outils. Chatyuan-large-v2 a été implémenté localement et peut être exécuté localement. Après téléchargement, la version h5 peut être utilisée directement localement pour le web. interaction avec les pages.

02 Quelles sont les améliorations vers la v2 ?

Basé sur les fonctions originales de chatyuan-large-v1, le modèle v2 a été optimisé comme suit :

• Capacités de base améliorées : les questions et réponses contextuelles originales et les capacités d'écriture créative ont été considérablement améliorées.
• Ajout de la possibilité de refuser de répondre : apprenez à refuser de répondre à certaines questions dangereuses et nuisibles.
• Fonction de génération de code ajoutée : la génération de code de base a été optimisée dans une certaine mesure.
• Fonction de génération de tableau ajoutée : contenu et format de tableau optimisés.
• Capacités d'opérations mathématiques améliorées : les opérations mathématiques de base telles que l'addition et la soustraction ont été optimisées.
• Longueur totale d'entrée et de sortie étendue : le nombre maximum de jetons de longueur est étendu à 4096.
• Capacités de scénario de simulation améliorées : vous pouvez simuler des conversations à plusieurs personnes ou des scénarios spécifiques, et effectuer la création de contenu et l'interaction contextuelle dans des scénarios.
• Ajout de capacités de dialogue bilingue chinois-anglais : interaction bilingue chinois-anglais nouvellement ajoutée, création en anglais, traduction et autres fonctions. "Capacité de rejet"
formulaire Générer

Génération de code

03 Limitations de la v2

Étant donné que Chatyuan-large-v1 est un grand modèle léger, il y aura toujours certaines limitations et lacunes. Il est conseillé aux développeurs d'en être conscients, notamment :

.

• Pour la mise en œuvre de base des fonctions de base de raisonnement, de calcul et de génération de code, il existe toujours le problème d'une formation insuffisante. Dans certains scénarios, des erreurs logiques se produiront. Par exemple, le code peut être fondamentalement implémenté et a la capacité de le faire. annoter, mais il ne peut pas être garanti qu'il soit rationalisé, fluide et précis, la visibilité doit être optimisée.
• Les réponses des connaissances générales ne sont pas assez précises et les connaissances factuelles sont toujours inexactes.
• Le traitement des informations contextuelles est encore insuffisant.

Conclusion

En général, la v2 s'est grandement améliorée par rapport au modèle open source v1 en termes de compréhension du contexte, de génération de contenu, de génération de table de codes, etc. Elle peut atteindre la base de dizaines de milliards d'échelles de paramètres dans l'industrie avec une échelle de paramètres de seulement 0,7B. L'effet est de réduire considérablement le coût du raisonnement et d'améliorer l'efficacité de l'utilisation.

Yuanyu Intelligence a déclaré que l'équipe adhérerait fermement à la voie de l'open source et continuerait à ouvrir des grands modèles à usage général de meilleure qualité et de plus grande taille à l'avenir, continuerait à construire un écosystème de développeurs open source et promouvrait le développement open source. Des grands modèles nationaux. Nous espérons que tous les amis nous critiqueront et nous corrigeront.

Invitation à des tests internes du produit

En plus de ce modèle open source ChatYuan-large-v2, l'équipe Yuanyu a officiellement lancé les tests internes du produit KnowX KnowX est équipé des capacités de grand modèle de la dernière version. de ChatYuan en ligne et est capable de compréhension contextuelle. Il présente d'excellentes performances en matière de génération de contenu, de génération de code, de calculs de raisonnement logique, etc. Afin de garantir la fiabilité, la stabilité et l'optimisation ultérieure de la version, le produit a maintenant été lancé pour tests internes. Le nombre de places est limité. Les amis intéressés peuvent postuler via le lien ci-dessous.

Canal d'application bêta interne :

​https://wj.qq.com/s2/11984341/e00b/​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!