CRAM: Reka Bentuk Cip Baharu Yang Boleh Mengurangkan Penggunaan Kuasa Protokol AI mengikut Susunan Magnitud

Kecerdasan Buatan (AI) terus memacu revolusi perindustrian ke-4, di samping permintaan tenaganya. Hari ini, sesiapa sahaja boleh mengakses alatan AI lanjutan

Kecerdasan Buatan (AI) terus memperkasakan revolusi perindustrian ke-4, di samping permintaan tenaganya. Hari ini, sesiapa sahaja boleh mengakses alatan AI termaju dan menyepadukannya ke dalam sistem mereka untuk meningkatkan kecekapan dan mengurangkan beban kerja. Tenaga yang diperlukan untuk menggerakkan algoritma ini meningkat apabila permintaan untuk aplikasi AI meningkat. Oleh itu, ahli alam sekitar sudah pun menunjukkan kebimbangan kemampanan sekitar teknologi. Syukurlah, satu pasukan penyelidik telah mencipta alternatif yang sangat cekap. Inilah yang anda perlu tahu.

Meningkatkan Permintaan Tenaga AI Mewujudkan Krisis Tenaga

Sistem AI baharu terus dilancarkan pada kekerapan yang semakin meningkat. Ramalan penggunaan tenaga global terkini meramalkan bahawa penggunaan tenaga AI akan berganda daripada 460 terawatt-jam (TWj) pada 2022 kepada 1,000 TWj menjelang 2026. Protokol ini termasuk pengesyor, model bahasa besar (LLM), pemprosesan dan penciptaan imej dan video, Web3 perkhidmatan, dan banyak lagi.

Menurut kajian penyelidik, sistem AI memerlukan pemindahan data yang menyamai "200 kali ganda tenaga yang digunakan untuk pengiraan apabila membaca tiga operan sumber 64-bit daripada dan menulis satu operan destinasi 64-bit ke memori utama luar cip." Oleh itu, mengurangkan penggunaan tenaga untuk aplikasi pengkomputeran kecerdasan buatan (AI) merupakan kebimbangan utama bagi pembangun yang perlu mengatasi sekatan jalan ini untuk mencapai penggunaan berskala besar dan mematangkan teknologi.

Syukurlah, sekumpulan jurutera inovatif dari University of Minnesota telah meningkatkan kemungkinan penyelesaian yang boleh mengurangkan penggunaan kuasa protokol AI mengikut urutan magnitud. Untuk melaksanakan tugas ini, penyelidik memperkenalkan reka bentuk cip baharu yang menambah baik Seni Bina Von Neumann yang terdapat dalam kebanyakan cip hari ini.

Senibina Von Neumann

John von Neumann merevolusikan sektor komputer pada tahun 1945 apabila dia memisahkan unit logik dan memori, membolehkan pengkomputeran yang lebih cekap pada masa itu. Dalam susunan ini, logik dan data disimpan di lokasi fizikal yang berbeza. Ciptaan beliau meningkatkan prestasi kerana ia membolehkan kedua-duanya diakses secara serentak.

Hari ini, kebanyakan komputer masih menggunakan struktur Von Neuman dengan HD anda menyimpan program anda dan arahan pengaturcaraan perumahan memori akses rawak (RAM) serta data sementara. RAM hari ini menyelesaikan tugas ini menggunakan pelbagai kaedah termasuk DRAM, yang memanfaatkan kapasitor, dan SRAM, yang mempunyai berbilang litar.

Terutamanya, struktur ini berfungsi dengan baik selama beberapa dekad. Walau bagaimanapun, pemindahan data yang berterusan antara logik dan ingatan memerlukan banyak tenaga. Pemindahan tenaga ini meningkat apabila keperluan data dan beban pengiraan meningkat. Oleh itu, ia mewujudkan kesesakan prestasi yang mengehadkan kecekapan apabila kuasa pengkomputeran meningkat.

Percubaan Penambahbaikan terhadap Permintaan Tenaga

Sejak bertahun-tahun, banyak percubaan telah dibuat untuk menambah baik seni bina Von Neumann. Percubaan ini telah mencipta variasi proses ingatan yang berbeza dengan matlamat untuk mendekatkan kedua-dua tindakan secara fizikal. Pada masa ini, tiga variasi utama termasuk.

Pemprosesan memori hampir

Naik taraf ini mendekatkan logik secara fizikal kepada ingatan. Ini dicapai menggunakan infrastruktur bertindan 3D. Menggerakkan logik lebih dekat mengurangkan jarak dan tenaga yang diperlukan untuk memindahkan data yang diperlukan kepada pengiraan kuasa. Seni bina ini memberikan kecekapan yang lebih baik.

Pengkomputeran Dalam ingatan

Satu lagi kaedah semasa untuk meningkatkan seni bina pengiraan ialah pengkomputeran dalam memori. Terutama, terdapat dua variasi gaya cip ini. Yang asal mengintegrasikan kelompok logik di sebelah memori pada satu cip. Penggunaan ini membolehkan penghapusan transistor yang digunakan dalam pendahulunya. Walau bagaimanapun, terdapat ramai yang menganggap kaedah ini tidak "benar" kepada struktur dalam memori kerana ia masih mempunyai lokasi memori yang berasingan, yang bermaksud isu prestasi awal yang terhasil daripada pemindahan data wujud, walaupun pada skala yang lebih kecil.

True In-Memory

Jenis seni bina cip terakhir ialah "dalam ingatan benar." Untuk melayakkan diri sebagai jenis seni bina ini, memori perlu melakukan pengiraan secara langsung. Struktur ini meningkatkan keupayaan dan prestasi kerana data untuk operasi logik kekal di lokasinya. Versi terbaharu penyelidik seni bina dalam memori sebenar ialah CRAM.

(CRAM)

Memori capaian rawak pengiraan (CRAM) membolehkan pengiraan dalam ingatan sebenar kerana data diproses dalam tatasusunan yang sama. Para penyelidik mengubah suai seni bina standard 1T1M STT-MRAM untuk menjadikan CRAM mungkin. Reka letak CRAM menyepadukan transistor mikro ke dalam setiap sel dan dibina pada CPU berasaskan persimpangan terowong magnetik.

Pendekatan ini memberikan kawalan dan prestasi yang lebih baik. Pasukan itu kemudian menyusun transistor tambahan, garis logik (LL) dan garis bit logik (LBL) dalam setiap sel, membolehkan pengiraan masa nyata dalam bank memori yang sama.

Sejarah CRAM

Sistem AI hari ini memerlukan struktur baharu yang boleh memenuhi permintaan pengiraan mereka tanpa mengurangkan kebimbangan kemampanan. Menyedari permintaan ini, jurutera memutuskan untuk mendalami keupayaan CRAM buat kali pertama. Keputusan mereka diterbitkan dalam jurnal saintifik NPJ di bawah laporan "Demonstrasi eksperimen memori akses rawak pengiraan berasaskan terowong magnetik."

CRAM pertama memanfaatkan struktur peranti MTJ. Peranti spintronik ini bertambah baik pada kaedah penyimpanan sebelumnya dengan menggunakan putaran elektron dan bukannya transistor untuk memindahkan dan menyimpan

Atas ialah kandungan terperinci CRAM: Reka Bentuk Cip Baharu Yang Boleh Mengurangkan Penggunaan Kuasa Protokol AI mengikut Susunan Magnitud. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!