MediaTek menggunakan model bahasa Meta Llama 2 untuk meningkatkan keupayaan aplikasi AI generatif peranti akhir

Pada 24 Ogos 2023, MediaTek mengumumkan bahawa ia akan menggunakan model bahasa besar (LLM) sumber terbuka Meta generasi baharu Llama 2 serta pemproses AI (APU) termaju MediaTek dan platform pembangunan AI yang lengkap (NeuroPilot) untuk mewujudkan terminal lengkap- Ekosistem pengkomputeran AI sisi mempercepatkan pembangunan aplikasi AI untuk telefon pintar, IoT, kereta, rumah pintar dan peranti tepi lain, memberikan pengalaman yang lebih selamat, lebih dipercayai dan berbeza untuk peranti terminal. Dijangka menjelang akhir tahun, telefon pintar yang dikuasakan oleh cip mudah alih perdana Dimensity generasi baharu MediaTek akan menyokong aplikasi AI yang dibangunkan oleh model Llama 2, membawa pengguna pengalaman aplikasi AI generatif yang menarik

Dr. Xu Jingquan, Timbalan Pengurus Besar Kanan MediaTek dan Pengurus Besar Unit Perniagaan Komunikasi Tanpa Wayar, berkata: "Pempopularan kecerdasan buatan generatif adalah salah satu trend penting dalam transformasi digital. Visi kami adalah untuk menyediakan alat untuk pembangun dan penamat pengguna Llama 2 , membawa lebih banyak peluang inovasi kecerdasan buatan dan pengalaman produk Melalui perkongsiannya dengan Meta, MediaTek boleh menyediakan penyelesaian keseluruhan perkakasan dan perisian yang lebih berkuasa, membawa jauh melebihi keupayaan dan keupayaan sebelumnya kepada peranti terminal

Pada masa ini, kebanyakan AI generatif bergantung pada pengkomputeran awan untuk dijalankan. Walau bagaimanapun, melalui aplikasi model Llama 2 yang berjaya, MediaTek telah merealisasikan fungsi menjalankan aplikasi AI generatif secara langsung pada peranti terminal. Kemunculan teknologi ini membawa kelebihan unik kepada pembangun dan pengguna. Pertama sekali, pengguna boleh menikmati pengalaman pengguna yang lancar sambil memperoleh keselamatan dan kebolehpercayaan maklumat pengguna yang lebih kukuh. Kedua, teknologi ini boleh mencapai kependaman yang lebih rendah dan mempunyai keupayaan untuk melaksanakan operasi luar talian. Selain itu, teknologi ini juga dapat mengurangkan kos operasi berbanding bergantung kepada pengkomputeran awan. Pendek kata, melalui inovasi MediaTek, semua orang boleh menikmati kemudahan dan inovasi yang dibawa oleh AI generatif

Untuk melancarkan sepenuhnya potensi AI generatif, pengeluar peranti terminal perlu menggunakan kuasa pengkomputeran tinggi, pemproses AI berkuasa rendah (APU) dan meningkatkan kuasa pengkomputeran keseluruhan peranti melalui sambungan rangkaian yang lebih pantas dan lebih dipercayai. Pada masa ini, setiap SoC telefon pintar MediaTek 5G dilengkapi dengan pemproses AI, yang telah berjaya digunakan dalam aplikasi AI generatif, seperti pengurangan hingar AI (AI-NR), resolusi super AI (AI-SR) dan pampasan gerakan AI ( AI- MEMC) dan lain-lain

MediaTek merancang untuk melancarkan generasi baharu cip mudah alih perdana menjelang akhir tahun ini. Cip itu akan menggunakan timbunan perisian (NeuroPilot) yang dioptimumkan untuk model Llama 2, dan akan dilengkapi dengan pemproses AI (APU) yang dinaik taraf untuk menyokong model Transformer sebagai pecutan rangkaian tulang belakang. Reka bentuk ini boleh mengurangkan penggunaan baca dan tulis serta penggunaan lebar jalur memori akses rawak dinamik (DRAM), dan meningkatkan lagi prestasi model bahasa besar dan aplikasi AI generatif. Ini akan membantu pembangun mencipta aplikasi AI yang menakjubkan dan mempercepatkan pelaksanaan dan pembangunan aplikasi AI pada peranti terminal

Atas ialah kandungan terperinci MediaTek menggunakan model bahasa Meta Llama 2 untuk meningkatkan keupayaan aplikasi AI generatif peranti akhir. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!