Rumah > web3.0 > ELM – Penyelesaian Kepada Masalah Kuasa

ELM – Penyelesaian Kepada Masalah Kuasa

WBOY
Lepaskan: 2024-07-16 02:15:30
asal
312 orang telah melayarinya

Grid kuasa A.S. tidak akan dapat menampung beban yang meningkat tanpa pelaburan yang besar – Goldman Sachs menambat pelaburan yang diperlukan pada $50+ bilion. Ini berlaku ketika negara sudah komited dengan pelaburan yang besar untuk menaik taraf grid ($22 bilion sejak 2021) untuk menyokong permintaan yang semakin meningkat yang timbul daripada inisiatif negara untuk beralih daripada peralatan gas asli, pengembangan pasaran EV, operasi perlombongan kripto, domestik pembuatan dan peningkatan keperluan untuk melindungi daripada gangguan yang disebabkan oleh peristiwa cuaca ekstrem atau peningkatan risiko serangan siber. Untuk memenuhi keperluan yang semakin meningkat, pelaburan yang besar adalah penting. Goldman Sachs telah menekankan keperluan mendesak untuk lebih $50 bilion dalam peningkatan grid. Ini berlaku pada masa negara sudah terlibat dalam usaha penting untuk meningkatkan kapasiti grid. Sejak 2021, kira-kira $22 bilion telah diperuntukkan untuk peningkatan ini. Inisiatif ini bertujuan untuk menyokong peningkatan permintaan yang berpunca daripada usaha negara untuk beralih daripada peralatan gas asli, memperkukuh pasaran EV, menampung operasi perlombongan kripto dan memupuk pembuatan domestik. Selain itu, terdapat keperluan mendesak untuk melindungi daripada gangguan yang disebabkan oleh kejadian cuaca ekstrem atau peningkatan risiko serangan siber.

Penyelesaian Kepada Masalah Besar Boleh Menjadi Sangat KecilELM – A Solution To The Power Problem

Kami pernah menghadapi cabaran yang sama sebelum ini; pada tahun 2023, kami beralih daripada mentol lampu pijar kepada alternatif yang cekap tenaga di peringkat persekutuan untuk mengurangkan permintaan kuasa pada infrastruktur negara kami. Walaupun tiada mentol lampu individu menimbulkan masalah yang besar, volum semata-mata memberi kesan yang ketara. Begitu juga, aplikasi AI kini muncul, mempamerkan pelbagai kegunaan dan berpotensi dihadkan hanya oleh kecekapannya pada skala.

Keadaan semasa AI meniru pengenalan elektrik kerana ia bersedia untuk membolehkan industri baharu utama dan memacu ekonomi. Hari ini AI sangat bergantung pada Unit Pemprosesan Grafik (GPU), iaitu pemproses khusus yang direka bentuk asalnya untuk mempercepatkan pemaparan grafik. Struktur selari GPU juga sesuai untuk latihan model AI tradisional bagi aplikasi dan digunakan secara meluas dalam Kecerdasan Buatan Perkara (AIoT), yang menimbulkan kebimbangan kecekapan pada skala. Syarikat AI secara berkesan menggunakan terlalu banyak pemproses yang paling canggih dan intensif tenaga untuk memenuhi beberapa keperluan aplikasi termudah mereka. Walaupun pendekatan satu saiz untuk semua boleh berfungsi dalam aplikasi AI awal, ia tidak boleh menjadi standard yang mampan untuk semua pelaksanaan AI.

Ketidakupayaan untuk menyesuaikan keselamatan, kebolehskalaan dan kecekapan penyelesaian AI kepada aplikasi tertentu ialah tidak seperti memandu treler traktor untuk mengambil barangan runcit anda. Walaupun ia pasti akan melakukan kerja, ia tidak dioptimumkan untuk kebanyakan tugas kerana ia sangat tidak cekap serta mahal. Ketidakpadanan antara keperluan aplikasi inilah yang membawa kepada pelbagai akibat yang tidak diingini. Permintaan yang semakin meningkat untuk AI tidak dapat dinafikan, tetapi apabila AI bergantung pada GPU, aplikasi yang terhasil membebankan infrastruktur kami yang sudah rapuh.

Syarikat AI perlu mencari cara alternatif untuk menyelaraskan keperluan aplikasi untuk menyimpang dari laluan ini yang boleh mengancam kami infrastruktur. Syarikat seperti Brand Engagement Network Inc. atau BEN BNAI, menyedari perkara ini dan telah mengoptimumkan penyelesaian mereka untuk menyampaikan kuasa dan prestasi AI sambil melakukannya dengan cara yang boleh berskala dan boleh disokong.

BEN's ELM – Penyelesaian Kepada Masalah Kuasa

Jadi bagaimana BEN melakukannya? Melalui Model Bahasa Cekap (ELM): gabungan pembahagian dan pengoptimuman model bahasa untuk tugasan khusus. Teknologi yang belum selesai paten ini menumpukan pada kecekapan dan pengkhususan aplikasi, yang berbeza dengan LLM yang lebih tradisional seperti yang digunakan oleh OpenAI's ChatGPT yang cuba menyamaratakan segala-galanya menjadi model tanpa pandang bulu untuk tujuan generatif.

Walaupun ini mungkin kelihatan seperti perbezaan kecil, kuasa pengiraan dan pemprosesan yang diperlukan dalam setiap pendekatan berbeza dengan ketara. Apabila LLM tradisional menggunakan model semua termasuk, ini bermakna penyelesaian mereka tidak ditentukan. Mereka menugaskan penyelesaian AI mereka untuk menangani semua keperluan bagi semua cabaran atau aplikasi. Ini bukan sahaja meningkatkan kemungkinan ralat yang dijana tetapi ia juga memerlukan pemprosesan selari yang besar dan, apabila beroperasi dengan motif tindak balas yang tepat pada masanya, memerlukan penggunaan GPU. ELM BEN, sebaliknya, memfokuskan pada keperluan aplikasi yang ditentukan dan membenarkan penyelesaian yang selamat, jejak kecil dan tertumpu. Ini bermakna penyelesaian yang disasarkan dengan ELM boleh dijalankan dengan sumber CPU yang terhad, yang lebih mudah didapati, kos yang jauh lebih rendah dan menggunakan kuasa pemprosesan yang kurang.

Pergantungan pada CPU menyediakan lebih banyak pilihan penggunaan, termasuk SaaS, Private Cloud, Penyelesaian Mudah Alih dan On Prem yang mana industri seperti Penjagaan Kesihatan dan Perkhidmatan Kewangan telah bergelut untuk meminimumkan potensi risiko pelanggaran dan kebocoran data. Lazimnya, CPU adalah jauh lebih murah untuk digunakan & dikendalikan, telah pun wujud di pasaran, dan yang paling penting, tersedia dalam kuantiti yang banyak. Ini tidak berlaku dengan GPU, yang berada di tengah-tengah isu ketersediaan yang malah memaksa Elon Musk menjadi kreatif dengan perolehan unit pemprosesan ini untuk pelbagai syarikatnya.

ELM + RAFT: Gabungan Kuat Namun Cekap

ELM BEN juga menambah sistem RAFT (Retrieval Augmented Fine-Tuning) untuk memastikan aplikasinya boleh dipercayai, boleh diramal dan cekap. Cabaran penting yang ditimbulkan oleh AI ialah risiko 'halusinasi' di mana AI memberikan jawapan yang mengelirukan atau langsung palsu akibat AI dibina di atas sumber data yang tidak diketahui dan direka bentuk untuk menjana tindak balas walau apa pun. Halusinasi adalah sama seperti tenaga haba terbuang daripada lampu pijar. Mereka masih menuntut kuasa yang sama untuk menjana tindak balas tetapi merupakan akibat yang tidak diingini daripada teknologi LLM tradisional. Beberapa anggaran menunjukkan bahawa halusinasi boleh berlaku

Atas ialah kandungan terperinci ELM – Penyelesaian Kepada Masalah Kuasa. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

sumber:kdj.com
Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Tutorial Popular
Lagi>
Muat turun terkini
Lagi>
kesan web
Kod sumber laman web
Bahan laman web
Templat hujung hadapan