Apakah jenis cip AI yang diperlukan untuk meletakkan model besar ke dalam kamera? Jawapan Aixin Yuanzhi ialah AX650N

Xinxixi (Akaun awam: aichip001)

Pengarang |. ZeR0

Sunting | Satu cara untuk menulis semula adalah: persaingan model besar AI mencetuskan kegilaan yang tidak pernah berlaku sebelum ini Menurut laporan oleh CoreDoc pada 30 Mei, kebangkitan ChatGPT adalah kuasa penggerak utama persaingan ini. Dalam pertandingan ini, kepantasan adalah kunci untuk memperoleh kelebihan penggerak pertama Dari latihan model hingga pelaksanaan, terdapat keperluan mendesak untuk cip AI berprestasi tinggi.

Pada Mac tahun ini, Aixin Yuanzhi, sebuah syarikat R&D cip persepsi visual AI dan platform kuasa pengkomputeran asas, melancarkan cip SoC generasi ketiga AX650N dengan kuasa pengkomputeran tinggi dan kecekapan tenaga yang tinggi. Liu Jianwei, pengasas bersama dan naib presiden Aixin Yuanzhi, berkata dalam temu bual baru-baru ini dengan Xinxi dan media lain bahawa cip AX650N mempunyai kelebihan yang jelas apabila menjalankan Transformer, dan Transformer ialah struktur yang biasa digunakan dalam model besar semasa.

Transformer pada mulanya digunakan untuk mengendalikan tugas dalam bidang pemprosesan bahasa semula jadi, dan secara beransur-ansur berkembang ke dalam bidang penglihatan komputer, menunjukkan potensi untuk menggantikan algoritma penglihatan komputer arus perdana tradisional CNN dalam lebih banyak tugas visual. Cara menggunakan Transformer dengan cekap pada sisi peranti dan sisi tepi telah menjadi pertimbangan teras untuk lebih ramai pengguna yang mempunyai keperluan penggunaan model yang besar apabila memilih platform.

Berbanding dengan menggunakan GPU untuk menggunakan model besar Transformer dalam awan, Aixin Yuanzhi percaya bahawa cabaran terbesar dalam menggunakan Transformer di bahagian tepi dan bahagian hujung datang daripada penggunaan kuasa, yang menjadikan Aixin Yuanzhi mempunyai prestasi tinggi dan penggunaan kuasa yang rendah . NPU ketepatan campuran telah menjadi platform pilihan untuk menggunakan Transformer pada kedua-dua bahagian hujung dan tepi.

Data menunjukkan bahawa apabila model visual arus perdana Swin Transformer (SwinT) dijalankan pada platform Aixin Yuanzhi AX650N, prestasinya setinggi 361FPS, ketepatan setinggi 80.45%, dan penggunaan kuasa serendah 199FPS/W, yang sangat berguna dalam daya saing pendaratan.

1 Ia mempunyai kuasa pengkomputeran yang tinggi dan kecekapan tenaga yang tinggi, dan telah disesuaikan dengan pelbagai model Transformer

Cip AX650N ialah satu lagi cip penglihatan pintar berprestasi tinggi yang dilancarkan oleh Aixin Yuanzhi selepas siri AX620 dan AX630.

SoC ini menggunakan reka bentuk berbilang teras heterogen, menyepadukan CPU A55 8 teras, NPU kuasa pengkomputeran tinggi sebanyak 43.2TOPs@INT4 atau 10.8TOPs@INT8, ISP yang menyokong 8K@30fps dan H.264 dan Penyunting H.265.

Dari segi antara muka, AX650N menyokong 64bit LPDDR4x, berbilang input MIPI, output Gigabit Ethernet, USB dan HDMI 2.0b, dan menyokong 32 saluran penyahkodan 1080p@30fps.

Untuk penempatan model besar di bahagian tepi dan hujung, AX650N mempunyai kelebihan prestasi tinggi, ketepatan tinggi, penggunaan kuasa yang rendah dan penggunaan mudah.

Khususnya, apabila Aixin Yuanzhi AX650N menjalankan SwinT, prestasi tinggi 361 bingkai adalah setanding dengan SoC kawalan domain berasaskan GPU mewah dalam bidang pemanduan autonomi automotif, ketepatan tinggi 80.45% adalah lebih tinggi daripada purata pasaran; 199FPS/W Kelajuan mencerminkan penggunaan kuasa yang rendah, yang beberapa kali lebih baik daripada SoC kawalan domain berasaskan GPU terkini.

Aixin Yuanzhi menjelaskan bahawa pelanggan bahagian tepi awal dan bahagian hujung memberi lebih banyak perhatian kepada bilangan terabait kuasa pengkomputeran yang ada, tetapi ini adalah data tidak langsung yang akhirnya menjadi perhatian pengguna ialah seberapa pantas model itu boleh berjalan dalam keadaan sebenar perniagaan, serta penggunaan Seberapa rendah kos dan kos penggunaan.

Dalam hal ini, AX650N menyokong ketepatan campuran bit rendah Jika pengguna menggunakan INT4, mereka boleh mengurangkan penggunaan memori dan lebar jalur dengan berkesan serta mengawal kos penggunaan bahagian hujung dan tepi.

Pada masa ini, AX650N telah disesuaikan dengan model Transformer seperti ViT/DeiT, Swin/SwinV2, DETR, dll., dan juga boleh berjalan melebihi 30 bingkai dalam DINOv2, yang menjadikan pengesanan, pengelasan, segmentasi dan operasi lain lebih mudah untuk pengguna. Produk berasaskan AX650N telah pun digunakan dalam senario penglihatan komputer yang penting seperti bandar pintar, pendidikan pintar dan pembuatan pintar..

2 adalah mudah untuk menggunakan model besar dan anda boleh menjalankan model GitHub yang asal

Aixin Yuanzhi juga mencipta rangkaian alat AI generasi baharu Pulsar2. Rantaian alat merangkumi fungsi empat dalam satu penukaran model, kuantifikasi luar talian, penyusunan model dan penjadualan heterogen, yang mengukuhkan lagi keperluan untuk penggunaan model rangkaian yang cekap Sambil mengoptimumkan seni bina NPU secara mendalam, ia juga mengembangkan sokongan operator & model . keupayaan dan skop, serta sokongan untuk rangkaian struktur Transformer.

Aixin Yuanzhi telah mendapati dalam amalan bahawa syarikat di pasaran yang mempromosikan cip yang boleh menjalankan SwinT biasanya perlu membuat beberapa pengubahsuaian pada model tersebut mungkin menyebabkan beberapa masalah dan membawa lebih banyak kesulitan kepada pengguna.

Sebelum ini, kebanyakan model Transformer visual yang serupa dengan SwinT telah digunakan pada pelayan awan kerana GPU lebih mesra kepada sokongan pengiraan struktur MHA Sebaliknya, cip AI sisi tepi/peranti perlu memastikan model struktur CNN disebabkan oleh keterbatasan seni bina mereka. Kecekapan itu pada asasnya, tidak banyak pengoptimuman prestasi pada struktur MHA, malah struktur rangkaian perlu diubah suai sebelum ia boleh digunakan dengan berat hati.

AX650N mudah digunakan. Anda boleh menjalankan model asal dengan cekap pada GitHub pada platform Aixin Yuanzhi tanpa mengubah suai atau melatih semula QAT.

"Pengguna kami telah melaporkan bahawa platform kami pada masa ini merupakan platform terbaik untuk sokongan Transformer, dan kami juga melihat kemungkinan untuk melaksanakan model besar pada platform kami, Liu Jianwei berkata bahawa pelanggan boleh menghargai AX650N Sebagai platform kuasa pengkomputeran AI , kesan pelaksanaan akhir adalah lebih baik dan lebih mudah untuk digunakan, ia lebih mudah disesuaikan dengan senario, dan ia lebih cepat untuk bermula, yang meningkatkan kecekapan pengguna dan memendekkan kitaran pengeluaran besar-besaran.

Maklum balas pelanggan yang dikumpul oleh Aixin Yuanzhi menunjukkan bahawa selepas mendapat papan pembangunan dan dokumentasi Aixin Yuanzhi, pada asasnya ia mengambil masa satu jam untuk menyelesaikan pengeluaran semula demo dan menjalankan model rangkaian persendirian.

Cip AX650N boleh menyesuaikan dengan pantas kepada struktur rangkaian yang baru muncul, terima kasih kepada tahap fleksibiliti dan kebolehprograman tertentu dalam reka bentuk perkakasan dan perisian. Seterusnya, Aixin Yuanzhi AX650N akan terus mengoptimumkan struktur Transformer dan meneroka lebih banyak model Transformer yang besar seperti model besar berbilang modal.

Aixin Yuanzhi juga akan melancarkan papan pembangunan AXera-Pi Pro berdasarkan AX650N, dan meletakkan lebih banyak maklumat dan contoh AI pada GitHub supaya pembangun dapat meneroka aplikasi produk yang lebih kaya dengan cepat.

3. Senario aplikasi visual telah mewujudkan keperluan mendesak untuk model Transformer

Menurut Aixin Yuanzhi, menggunakan model visual yang besar pada bahagian tepi atau hujung boleh membantu menyelesaikan masalah pelaburan tinggi dalam aplikasi pintar AI dalam senario long-tail.

Kaedah pemantauan sampah sungai sebelum ini ialah selepas menemui sampah di sungai, pengumpulan data dan pelabelan diperlukan terlebih dahulu, dan kemudian latihan model dilakukan. Jika sampah baharu muncul di saluran sungai yang sebelum ini tidak dilindungi oleh anotasi data dan model terlatih, model itu mungkin tidak dapat mengenal pastinya. Latihan semula dari awal memakan masa dan intensif buruh.

Model besar Transformer mempunyai keupayaan pemahaman semantik dan lebih serba boleh daripada model CNN tradisional Ia boleh memahami dan melaksanakan pelbagai tugas hiliran yang lebih luas tanpa mengetahui semua adegan visual yang kompleks terlebih dahulu. Menggunakan model pra-latihan besar dengan latihan tanpa pengawasan, sampah baharu yang tidak pernah dilihat sebelum ini boleh dikenal pasti.

Aixin Yuanzhi memberitahu Xinxi bahawa pada masa ini, semua senario aplikasi yang menggunakan kamera untuk menangkap imej telah mula mempunyai permintaan mendesak untuk model besar Transformer bergantung pada R&D dan pembangunan pelanggan dalam setiap segmen status.

Dari perspektif reka bentuk seni bina cip, untuk menjadikan model Transformer digunakan dengan lebih pantas di bahagian tepi atau hujung, dalam satu pihak, kita mesti cuba mengurangkan penggunaan lebar jalur model besar, dan sebaliknya, kita perlu mengoptimumkan struktur Transformer. Orang yang bertanggungjawab bagi Aixin Yuanzhi berkata bahawa pengalaman kejuruteraan yang terkumpul dalam penggunaan sebenar AX650N akan diulang ke dalam platform cip generasi akan datang, membolehkan model Transformer berjalan lebih pantas dan lebih baik, memberikannya kelebihan gerak pertama tertentu berbanding dengan rakan sebaya yang lain.

“Inilah sebabnya platform cip Aixin adalah pilihan terbaik untuk pelaksanaan Transformer, kerana apabila semua orang membuat model lebih kecil, mereka mesti mahu melihat kesan berjalan pada bahagian akhir Kami mempunyai platform yang boleh lakukan eksperimen gelung tertutup sedemikian,” katanya.

Untuk mengoptimumkan lagi kesan inferens Transformer, Aixin Yuanzhi akan menumpukan pada cara untuk membolehkan perkakasan membaca data diskret dengan cekap, dan cara memadankan pengiraan sokongan dengan bacaan data. Di samping itu, Aixin Yuanzhi juga cuba menggunakan 4bit untuk menyelesaikan masalah parameter model yang besar, dan meneroka sokongan untuk beberapa model sistem pakar jarang atau campuran (MOE, Mixture of Experts).

Kesimpulan: Cip AI berprestasi tinggi membentuk asas penggunaan model berskala besar

Daripada pengeluaran besar-besaran cip penglihatan AI berprestasi tinggi pertama AX630A pada tahun 2020, kepada cip pintar sisi tepi yang dibangunkan sendiri generasi kedua AX620A pada tahun 2021, kepada cip AX650N generasi ketiga yang baru dikeluarkan, Aixin Yuanzhi telah terus Melancarkan cip penglihatan AI dengan kuasa pengkomputeran yang tinggi dan kecekapan tenaga yang tinggi untuk memenuhi keperluan aplikasi AI di bahagian hujung dan tepi.

Dr. Qiu Xiaoxin, pengasas, pengerusi dan Ketua Pegawai Eksekutif Aixin Yuanzhi, berkata pembangunan teknologi kecerdasan buatan terus mencipta peluang baharu teknologi sebelumnya telah mempromosikan pembangunan Aixin Yuanzhi dalam teknologi cip seperti pemprosesan visual dan elektronik automotif. Kemajuan terkini dalam model besar telah mencipta peluang baharu untuk penerokaan berterusan Aixin di bahagian hujung dan tepi dalam beberapa tahun kebelakangan ini.

Pelan R&D dan pelaksanaan Aixin yang berkaitan semuanya ditujukan kepada satu matlamat, iaitu, apabila pengguna atau bakal pengguna memikirkan Transformer, mereka boleh memikirkan Aixin Yuanzhi, dan kemudian membangunkan lebih banyak lagi berdasarkan platform kuasa pengkomputeran AI Aixin Yuanzhi. Aplikasi model Transformer akhirnya akan mempercepatkan pelaksanaan model besar dan aplikasi pintar pada bahagian hujung dan tepi.

Seterusnya, pengumpulan lebih banyak pengalaman penggunaan juga akan menggalakkan evolusi berterusan cip dan perisian Aixin Yuanzhi, dan membantu jurutera algoritma mempromosikan lagi inovasi model Transformer dengan menyediakan alat yang berprestasi tinggi dan mudah digunakan imaginasi yang diterapkan.

Atas ialah kandungan terperinci Apakah jenis cip AI yang diperlukan untuk meletakkan model besar ke dalam kamera? Jawapan Aixin Yuanzhi ialah AX650N. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!