Démontrant de superbes performances d'IA, AndesGPT renforce Find X7

Depuis fin 2022, l’intelligence artificielle (IA) s’est rapidement répandue dans le monde et est devenue l’un des centres d’attention mondiaux. En tant que produits intelligents, les téléphones mobiles doivent également devenir plus intelligents. Par conséquent, les fabricants de téléphones mobiles travaillent également activement et sans relâche pour améliorer les capacités d’IA des téléphones mobiles. Le 8 janvier, OPPO a lancé en grande pompe la série Find X7. Cette série phare haut de gamme a non seulement réalisé d'énormes avancées en termes de performances, d'imagerie, d'écran, etc., mais son amélioration significative des capacités d'IA est également devenue un point fort du téléphone mobile. industrie.

Nous avons déjà appris que la série Find X7 lancera le premier grand modèle de 7 milliards de paramètres de l'industrie déployé côté appareil. Grâce à l'architecture de « collaboration appareil-cloud », cette série peut réaliser des opérations collaboratives locales et cloud, apportant ainsi de nouvelles capacités intelligentes à la série Find X7.

Andes Grand Model (AndesGPT) d'OPPO est un agent intelligent à grande échelle centré sur l'utilisateur. Il possède trois capacités importantes : l'amélioration du dialogue, la personnalisation et la collaboration appareil-cloud, offrant un solide support pour l'application d'assistants IA dans les terminaux intelligents. L'objectif de ce modèle est de fournir aux utilisateurs des services plus personnalisés et intelligents et de réaliser une superbe entrée dans les terminaux intelligents grâce au dialogue et à l'interaction avec les utilisateurs.

Grâce au déploiement informatique flexible d'Andes Cloud, la série Find X7 peut rapidement itérer de grands modèles dans le cloud. Parmi eux, le cluster de formation en réseau GPU + IB immergé améliore les performances de formation de plus de 8 % par rapport au refroidissement par air traditionnel, tout en améliorant l'efficacité énergétique de 45 % et en augmentant la densité de déploiement de la puissance de calcul de plus de 400 %. La technologie de virtualisation cloud native SGPU développée par OPPO réduit les coûts d'utilisation du GPU jusqu'à 70 %. De plus, grâce à la technologie originale PagedAttention, AndesGPT peut réduire le délai du premier mot de 50 % et augmenter le débit d'inférence de 30 %.

Il convient de mentionner que grâce à une coopération approfondie avec MediaTek, OPPO a pris la tête du secteur en adoptant la technologie de quantification 4 bits (la solution optimale de déploiement final de grands modèles de l'industrie) et a promu conjointement la mise en œuvre progressive d'AndesGPT large modèles de langage et grands modèles visuels à l'extrémité, afin que la précision ne diminue pas et que les performances soient meilleures. Grâce à la prise en charge de la technologie de quantification 4 bits, AndesGPT offre une réponse plus rapide et une meilleure sécurité côté client. Il peut être calculé à l'aide de deux solutions d'optimisation basées sur le même modèle, améliorant ainsi le temps de génération de contenu du modèle. De plus, OPPO a également optimisé conjointement avec MediaTek pour obtenir une accélération haute performance du HTP, de l'APU et du GPU.

La série Find X7 est équipée d'un grand modèle de langage de 7 milliards de paramètres basé sur le déploiement côté client AndesGPT, ce qui lui permet d'avoir une vitesse de réponse et des capacités de grand modèle plus rapides que les autres téléphones mobiles. Par exemple, Find X7 ne prend que 0,2 seconde pour générer le premier mot d'un résumé de 200 mots, ce qui est 20 fois plus rapide que les autres téléphones mobiles. Pour un résumé de 2 000 mots, cela ne prend que 2,9 secondes, soit 2,5 fois plus rapide que sur les autres téléphones mobiles. Il ressort de ces données qu'en termes de fonction de résumé des appels intelligents Al, la série Find X7 a atteint 3,5 fois le niveau des autres téléphones mobiles avec 14 000 mots.

De plus, la série Find X7 introduit également un nouvel assistant Xiaobu, un grand modèle de réduction du bruit vocal auto-développé et une fonction de préchargement de réseau faible par l'IA. Xiaobu Assistant a été encore amélioré et est devenu plus intelligent. Il peut non seulement inspirer votre inspiration créative, mais également fournir une analyse SWOT couramment utilisée dans les outils d'analyse commerciale et vous aider à créer des plans PPT et d'autres fonctions. De plus, davantage de fonctions expérimentales seront progressivement ouvertes à l’avenir pour enrichir continuellement l’expérience d’IA intelligente des utilisateurs.

Je dois dire que cette fois, la série Find X7 a parfaitement intégré l'IA et a fourni des fonctions plus efficaces et plus pratiques pour aider les utilisateurs à résoudre facilement les problèmes de la vie quotidienne.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!