Biarkan AI berada di mana-mana! Intel melancarkan VPU baharu: kecekapan tenaga ultra tinggi menghancurkan GPU

AI, kecerdasan buatan, perkara ini sebenarnya bukan baru sama sekali.

Dari karya fiksyen sains pada tahun-tahun awal hingga pelaksanaan beransur-ansur kemudian, daripada superkomputer IBM "Deep Blue" menewaskan ahli catur Kasparov pada tahun 1997 kepada Google AlphaGo menewaskan juara Go Lee Sedol pada tahun 2016, AI sentiasa berada di sana Kemajuan sentiasa berkembang.

Namun, disebabkan pelbagai batasan dalam algoritma kuasa pengkomputeran, keupayaan teknikal, senario aplikasi, dll., AI sentiasa berasa seperti istana di udara.

Sehingga kemunculan ChatGPT barulah AI benar-benar mencetuskan semangat orang biasa Kami mendapati bahawa AI sangat berkuasa dan begitu mudah didapati, membuatkan ramai individu dan syarikat teruja dan tergila-gilakannya.

Seperti yang kita semua tahu, perkakasan dan algoritma yang cukup berkuasa dan munasabah adalah dua asas untuk mencapai AI yang cekap dan praktikal Dalam kegilaan AI ini, NVIDIA sangat berbangga kerana pengalaman bertahun-tahun dalam bidang pengkomputeran berprestasi tinggi. . Susun atur masa hadapan dan penanaman dalam sangat sesuai untuk pembangunan AI awan berskala ultra besar.

Sudah tentu, AI adalah pelbagai dari segi kaedah pelaksanaan dan senario aplikasi, kedua-dua di bahagian awan dan di bahagian peranti.

Fokus NVIDIA adalah pada AI bahagian awan dan generatif, Intel menyerang kedua-dua pertimbangan generatif bahagian awan dan sisi peranti Memandangkan semakin banyak AI berjalan pada peranti, ia lebih dekat dengan kehidupan harian biasa pengguna. Penambahbaikan yang dibawa oleh pengalaman menjadi semakin jelas, dan banyak perkara yang perlu dilakukan oleh Intel.

AI bahagian peranti mempunyai beberapa ciri cemerlang:

Pertama, pangkalan pengguna adalah besar dan senario aplikasi menjadi semakin meluas;

Kedua, kependaman adalah sangat rendah, lagipun, tidak perlu bergantung pada rangkaian untuk menghantar arahan dan data ke awan untuk diproses dan kemudian kembali;

Yang ketiga ialah privasi dan keselamatan, anda tidak perlu risau tentang maklumat peribadi, rahsia perniagaan, dsb. dibocorkan selepas dimuat naik

Keempat, kosnya lebih rendah Ia tidak memerlukan pelayan dan pengiraan berskala besar, dan boleh diselesaikan dengan hanya peralatan tempatan.

AI pada peranti mungkin kedengaran pelik kepada anda, tetapi sebenarnya,

kekaburan latar belakang, pengindahan visual, pengindahan bunyi (pengurangan hingar audio), pengurangan hingar video, pembahagian imej, dll. yang biasa digunakan oleh orang ramai, semua Ia adalah senario aplikasi biasa AI bahagian hujung, dan AI bekerja keras di belakang tabir.

Untuk mencapai hasil yang lebih baik, aplikasi ini memerlukan model rangkaian yang lebih lengkap dan kompleks, dan permintaan untuk kuasa pengkomputeran secara semula jadi berkembang pesat.

Sebagai contoh, penindasan hingar memerlukan 50 kali lebih kuasa pengkomputeran berbanding dua tahun lalu, dan pembahagian latar belakang juga telah meningkat lebih daripada 10 kali ganda.

Apatah lagi selepas kemunculan model AI generatif, permintaan untuk kuasa pengkomputeran telah meningkat dengan pesat, secara langsung meningkat mengikut urutan magnitud Sama ada ia Stable Diffusion atau GTP berasaskan bahasa, parameter modelnya sangatlah tinggi berlebih-lebihan.

Sebagai contoh, bilangan parameter GPT3 telah mencapai kira-kira 175 bilion, iaitu hampir 500 kali ganda daripada GPT2 yang dianggarkan mencapai tahap trilion.

Ini semua mengemukakan keperluan yang lebih ketat pada perkakasan dan algoritma.

Intel secara semula jadi telah mula memberi perhatian dan melabur dalam AI untuk masa yang lama, sama ada Xeon peringkat pelayan atau Teras peringkat pengguna, mereka mengambil bahagian dalam AI dalam pelbagai cara Istilah "pemproses teras pintar generasi XX " adalah sangat popular. Sebahagian besarnya disebabkan oleh AI.

Sebelum ini, penyelesaian Intel AI dipercepatkan terutamanya pada seni bina dan tahap set arahan CPU dan GPU.

Sebagai contoh,

DL Boost berasaskan pembelajaran mendalam

ditambah daripada Teras generasi ke-10 dan Xeon boleh skala generasi kedua, termasuk arahan rangkaian saraf vektor VNNI, pecutan BF16/INT8, dsb.

Sebagai contoh,

Gaussian Network Accelerator GNA 2.0

yang ditambahkan pada Teras generasi ke-11 adalah bersamaan dengan peranan NPU Ia hanya menggunakan sumber yang sangat rendah dan boleh melakukan pengiraan inferens saraf dengan cekap. Sebagai contoh, kod Xeon boleh skala generasi keempat yang diberi nama Sapphire Rapids'

sambungan matriks lanjutan AMX

telah meningkatkan penaakulan masa nyata AI dan prestasi latihan sehingga 10 kali ganda, dan kelajuan pemprosesan besar model bahasa telah dipertingkatkan sebanyak 20 kali ganda, dan perisian sokongan dan pembangunan alat juga lebih lengkap dan kaya.

Pada pandangan Intel,

tiada seni bina perkakasan tunggal yang sesuai untuk semua senario AI Perkakasan yang berbeza mempunyai ciri tersendiri

, ada yang mempunyai kuasa pengkomputeran yang berkuasa, ada yang mempunyai kependaman ultra rendah, ada yang serba boleh. , dan ada yang mempunyai Specialize.

Sebagai infrastruktur, AI juga mempunyai pelbagai aplikasi dan keperluan senario, dengan beban dan kelewatan yang berbeza

Contohnya, pemprosesan suara dan imej masa nyata tidak memerlukan terlalu banyak kuasa pengkomputeran, tetapi sangat sensitif kepada kependaman. Pada masa ini, strategi XPU Intel sangat menyasarkan kelebihan istimewa CPU ini sesuai untuk pemprosesan AI ringan yang sensitif terhadap kelewatan, dan GPU sesuai untuk aplikasi AI yang sangat selari.

Satu lagi kelebihan Intel yang tiada tandingan ialah ekosistem x86 yang stabil dan besar, yang mempunyai asas jisim yang luas tanpa mengira aplikasi atau pembangunan.

Kini, Intel mempunyai VPU lagi.

Meteor Lake, yang akan dikeluarkan lewat tahun ini, akan menyepadukan unit VPU bebas buat kali pertama, dan ia akan menjadi standard pada semua model, yang boleh melaksanakan operasi AI tertentu dengan lebih cekap.

Sumber teknikal unit Intel VPU berasal daripada Movidius permulaan AI yang diperoleh oleh Intel pada tahun 2017. Seni bina VPU yang direka olehnya adalah revolusioner Ia hanya memerlukan penggunaan kuasa 1.5W untuk mencapai kuasa pengkomputeran yang berkuasa 4TOPS Nisbah kecekapan tenaga sungguh luar biasa , mula-mula digunakan untuk mengelakkan halangan dron, dsb., dan kini ia telah memasuki pemproses, bekerja bersama-sama dengan CPU dan GPU.

VPU pada asasnya ialah seni bina baharu yang direka untuk AI. Ia boleh melaksanakan beberapa operasi matriks dengan cekap dan sangat baik pada pemprosesan yang jarang digunakan dan kecekapan tenaga ultra tinggi sangat sesuai untuk beberapa aplikasi memerlukan Senario jangka panjang yang dibuka dan dilaksanakan, seperti latar belakang kabur dan dialih keluar dalam persidangan video, seperti kawalan gerak isyarat media penstriman.

Sebab Intel perlu membina VPU apabila ia sudah mempunyai CPU dan GPU adalah kerana banyak aplikasi bahagian hujung kini dijalankan pada komputer riba, yang sangat sensitif terhadap hayat bateri digunakan dalam aplikasi mudah alih.

Faktor lain ialah CPU dan GPU, sebagai platform pengkomputeran umum, mempunyai tugas yang berat sendiri Jika sejumlah besar beban AI ditambahkan pada mereka, kecekapan pelaksanaan akan dikurangkan dengan ketara.

Senario aplikasi khusus, VPU juga sangat luas, seperti persidangan video, CPU AI semasa sudah boleh mencapai komposisi automatik (Auto-Framing), penjejakan mata, avatar/potret maya, pengecaman gerak isyarat, dsb.

Selepas menambah VPU dengan penggunaan kuasa yang rendah dan kuasa pengkomputeran yang tinggi, anda juga boleh meningkatkan kekaburan latar belakang, pengurangan hingar dinamik dan pemprosesan lain untuk menjadikan kesan lebih tepat Contohnya, objek di latar belakang akan menjadi kabur jika ia sepatutnya kabur, dan tangan/rambut manusia akan kabur. Tunggu sehingga sesuatu yang tidak sepatutnya kabur tidak lagi kabur.

Dengan perkakasan yang cekap dan senario yang sesuai, perisian yang sama cekap diperlukan untuk mengeluarkan kekuatan penuhnya dan mencapai hasil terbaik Ini sebenarnya bukan masalah untuk Intel, yang mempunyai berpuluh ribu pembangun perisian.

Meteor Lake belum lagi dikeluarkan secara rasmi Intel telah bekerjasama dengan banyak rakan kongsi ekologi dalam penyesuaian VPU, dan pembangun perisian bebas juga sangat aktif.

Contohnya, Adobe, banyak penapis, pemprosesan automatik, potongan pintar, dsb., boleh dijalankan pada VPU.

Sebagai contoh, orang digital Unreal Engine, seperti sauh maya, boleh ditangkap dan dipaparkan dalam masa nyata dengan sangat baik oleh VPU.

Blender, Audacity, OBS, GIMP... senarainya boleh jadi panjang, dan ia terus berkembang.

Lebih penting lagi, CPU, GPU dan VPU tidak melakukan perkara mereka sendiri, tetapi boleh digabungkan untuk memberikan permainan sepenuhnya kepada kelebihan masing-masing untuk mencapai pengalaman AI yang terbaik.

Sebagai contoh, terdapat pemalam berdasarkan Stable Diffusion dalam GIMP, yang boleh merendahkan ambang untuk pengguna biasa menggunakan AI generatif sepenuhnya. Ia boleh menggerakkan sepenuhnya keupayaan pecutan CPU, GPU dan VPU, dan bersurai keseluruhan model kepada berbeza Di samping IP, mereka bekerjasama antara satu sama lain untuk mendapatkan prestasi terbaik.

Antaranya, VPU boleh mengehos modul VNET dan GPU bertanggungjawab untuk melaksanakan modul pengekod Melalui kerjasama tersebut, ia hanya mengambil masa kira-kira 20 saat untuk menghasilkan gambar yang kompleks.

Antaranya, VPU mempunyai penggunaan kuasa paling rendah, diikuti oleh CPU, dan GPU mempunyai penggunaan kuasa tertinggi.

Intel telah menyedari sepenuhnya kepentingan AI dalam meningkatkan pengalaman PC Untuk menghadapi cabaran ini, Intel berusaha sedaya upaya untuk mempromosikan pembangunan dan mempopularkan AI pada kedua-dua peringkat perkakasan dan perisian, meletakkan asas yang kukuh untuk. pembangunan dan pempopularan AI pada bahagian peranti.

Di peringkat perkakasan, CPU, GPU dan VPU akan membentuk platform asas di mana-mana di peringkat perisian, pelbagai perisian pembangunan piawai seperti OpenVINO akan sangat menggalakkan penerokaan senario aplikasi.

Pada masa hadapan, buku nota nipis dan ringan yang dilengkapi dengan platform Tasik Meteor boleh menjalankan model besar dengan mudah seperti Stable Diffusion untuk merealisasikan graf Vincentian, yang mengurangkan ambang aplikasi AI dan generatif AI boleh dilaksanakan dengan cekap, akhirnya merealisasikan AI sebenar di mana-mana.

Atas ialah kandungan terperinci Biarkan AI berada di mana-mana! Intel melancarkan VPU baharu: kecekapan tenaga ultra tinggi menghancurkan GPU. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!