MediaTek utilise le modèle de langage Meta Llama 2 pour améliorer les capacités des applications d'IA générative des appareils finaux

Le 24 août 2023, MediaTek a annoncé qu'il utiliserait le modèle de langage étendu (LLM) open source de nouvelle génération de Meta, Llama 2, ainsi que le processeur d'IA avancé (APU) de MediaTek et la plate-forme complète de développement d'IA (NeuroPilot) pour établir le terminal complet. L'écosystème informatique de l'IA latérale accélère le développement d'applications d'IA pour les smartphones, l'IoT, les automobiles, les maisons intelligentes et autres appareils de pointe, offrant une expérience plus sûre, plus fiable et différenciée pour les terminaux. Il est prévu que d'ici la fin de l'année, les smartphones alimentés par la puce mobile phare Dimensity de nouvelle génération de MediaTek prendront en charge les applications d'IA développées par le modèle Llama 2, offrant aux utilisateurs une expérience d'application d'IA générative passionnante

Dr Xu Jingquan, directeur général adjoint principal de MediaTek et directeur général de l'unité commerciale des communications sans fil, a déclaré : « La vulgarisation de l'intelligence artificielle générative est l'une des tendances importantes de la transformation numérique. "

Actuellement, la plupart des IA génératives s'appuient sur le cloud computing pour fonctionner. Cependant, grâce à l'application réussie du modèle Llama 2, MediaTek a réalisé la fonction d'exécuter des applications d'IA générative directement sur les terminaux. L’émergence de cette technologie apporte des avantages uniques aux développeurs et aux utilisateurs. Tout d’abord, les utilisateurs peuvent profiter d’une expérience utilisateur transparente tout en bénéficiant d’une sécurité et d’une fiabilité accrues des informations utilisateur. Deuxièmement, cette technologie peut atteindre une latence plus faible et avoir la capacité d’effectuer des opérations hors ligne. En outre, cette technologie peut également réduire les coûts d’exploitation par rapport au cloud computing. En bref, grâce à l'innovation de MediaTek, tout le monde peut facilement profiter de la commodité et de l'innovation apportées par l'IA générative

Afin de libérer pleinement le potentiel de l'IA générative, les fabricants d'appareils terminaux doivent adopter des processeurs d'IA (APU) à haute puissance de calcul et à faible consommation et améliorer la puissance de calcul globale de l'appareil grâce à des connexions réseau plus rapides et plus fiables. Actuellement, chaque SoC pour smartphone MediaTek 5G est équipé d'un processeur d'IA, qui a été utilisé avec succès dans des applications d'IA générative, telles que la réduction du bruit de l'IA (AI-NR), la super résolution de l'IA (AI-SR) et la compensation de mouvement de l'IA (AI-NR). MEMC) etc

MediaTek prévoit de lancer une nouvelle génération de puces mobiles phares d'ici la fin de l'année. La puce utilisera une pile logicielle (NeuroPilot) optimisée pour le modèle Llama 2 et sera équipée d'un processeur AI (APU) amélioré pour prendre en charge le modèle Transformer en tant qu'accélération du réseau fédérateur. Cette conception peut réduire la consommation de lecture et d'écriture et l'utilisation de la bande passante de la mémoire vive dynamique (DRAM), et améliorer encore les performances des grands modèles de langage et des applications d'IA générative. Cela aidera les développeurs à créer d'étonnantes applications d'IA et à accélérer la mise en œuvre et le développement d'applications d'IA sur les terminaux

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!