Untuk memberi penghormatan kepada TempleOS, pembangun telah mencipta sistem pengendalian untuk melancarkan Llama 2. Netizen: Komputer lama dengan memori 8G boleh menjalankannya

Perlu dikatakan bahawa projek "penciptaan kedua" Llama 2 menjadi semakin tegar dan menarik.

Sejak Meta mengeluarkan model sumber terbuka besar Llama 2, terdapat banyak projek "sekunder" yang mengelilingi model ini .

Sebelum ini pada bulan Julai, Andrej Karpathy, bekas pengarah AI Tesla dan kembali ke OpenAI, menggunakan masa hujung minggunya untuk membuat projek menarik tentang Llama 2 llama2.c membolehkan pengguna melatih model bayi Llama 2 dalam PyTorch, dan kemudian melakukan inferens menggunakan hampir 500 baris fail C tulen tanpa sebarang kebergantungan.

Hari ini, berdasarkan projek Karpathy llama2.c, pemaju lain mencipta sistem pengendalian demo untuk memulakan Llama 2, serta modul Kernel panggilan untuk pembantu mod pengguna yang melakukan inferens Llama 2. Projek ini dipanggil Llama 2 Everywhere, atau singkatannya L2E.

Walau bagaimanapun, penulis juga menyatakan bahawa keperluan sistem semasa ialah 512MB RAM dan x86_64 (64-bit) PC, dan kebolehgunaan perlu dipertingkatkan. .

Pada masa yang sama, projek ini juga menyembunyikan beberapa telur Paskah, seperti permainan "Doom", tetapi anda mesti menyelesaikan teka-teki untuk mencarinya.

Alamat projek: https://github.com/trholding/llama2.c

Andrej Karpathy juga memajukan projek baharu ini, dengan mengatakan bahawa ia mempunyai "kemerdekaan" ciri runnable, binari, mudah alih dan boleh boot". Dia menjangkakan projek llama2.cnya akan berjaya, dan projek baharu ini mengembangkan imaginasi.

L2E telah diiktiraf oleh netizen dari semua lapisan masyarakat, dan ada yang mengatakan bahawa ini sangat hebat. Pada asasnya ia boleh dimulakan pada mana-mana komputer riba lama dan boleh berjalan pada CPU sahaja, 8G RAM sudah memadai, 16G lebih baik.

Sesetengah orang juga merasakan bahawa projek itu sangat mirip dengan TempleOS, sistem pengendalian yang dibangunkan untuk Tuhan (ia dibangunkan sendiri oleh mendiang pengaturcara genius Terry Davis), tetapi projek Pengarang menyatakan bahawa dia hanya memberi penghormatan kepada Terry dan TempleOS.

L2E membina sistem pengendalian hanya menggunakan kernel Linux dan sedikit pengetahuan, dunia yang berbeza daripada yang dibina oleh Terry dari awal.

Seterusnya, mari belajar tentang niat asal, demo dan ciri projek L2E.

Pengenalan Projek L2E

#🎜🎜🎜##🎜🎜🎜##🎜🎜🎜##🎜 #Pengarang projek menyatakan bahawa L2E direka bentuk untuk memastikan keserasiannya pada pelbagai peranti, seperti pelancaran pada Chromebook dan menggunakan pada unikernels berketumpatan tinggi perusahaan.

Pada masa hadapan, dengan memanfaatkan sejumlah besar LLM profesional berskala kecil rangkaian, teragih dan diselaraskan sendiri dengan keperluan perkakasan sederhana, projek ini telah potensi untuk melepaskan melebihi kecerdasan Crowd untuk satu LLM berskala besar.

Pada masa ini, kes penggunaan yang ketara untuk L2E sedang melatih model berskala kecil pada sumber teks yang berbeza, termasuk buku teks, buku terbuka dan korpus SlimPajama. Model terlatih ini digunakan menggunakan L2E untuk dijalankan sebagai contoh boleh boot pada komputer sekolah yang lebih lama dan ketinggalan zaman. Pilihan penggunaan ini boleh menjadi berharga di perpustakaan sekolah atau bilik darjah yang sambungan Internet terhad atau tidak tersedia.

Matlamat utama projek adalah untuk mewujudkan ekosistem AI inklusif yang boleh menyesuaikan diri dengan pelbagai persekitaran dan memberi perkhidmatan kepada individu dan komuniti pada Pemerkasaan skala global.

Selain itu dengan latihan dengan pelbagai data telemetri perkakasan, diharapkan model tersebut akan belajar untuk mentafsir input sensor dan penggerak kawalan berdasarkan cerapan yang diperoleh daripada input sensor. Hala tuju penyelidikan ini berkemungkinan memainkan peranan dalam bidang seperti automasi, ruang, robotik dan Internet Perkara, dan L2E akan memainkan peranan penting dalam merapatkan jurang antara AI dan sistem fizikal.

#🎜🎜 #Pameran Demo L2E

#🎜🎜🎜##🎜🎜🎜##🎜🎜🎜 #Pengarang projek menunjukkan beberapa contoh pelancaran Llama 2.

Berikut ialah sistem pengendalian L2E bagi kernel Linux Kini anda sebenarnya boleh memulakan dan membuat kesimpulan model Llama 2 pada komputer.

Juga anda boleh melakukan kucing /dev/llama dan echo "Sudo buat saya sandwic! " > /dev/llama dan arahan lain, atau lulus parameter kernel l2e.quest="Apakah erti kehidupan?".

Akhir sekali, ia juga mungkin untuk melancarkan dan membuat kesimpulan satu set 1000 model Virtual Baby Llama 2 pada pelayan perusahaan besar.

L2E sangat mudah alih dan boleh menjalankan satu fail boleh laku pada mana-mana sistem pengendalian x86_64, seperti Windows, GNU Linux, GNU/Systemd , NetBSD, OpenBSD, dsb. Kemerdekaan dicerminkan dalam keupayaan untuk membenamkan model dan tokenizer melalui ZipOS (cosmocc), INCBIN, strliteral. L2E boleh berjalan pada CPU/GPU.

Sila rujuk projek asal untuk butiran lanjut.

Atas ialah kandungan terperinci Untuk memberi penghormatan kepada TempleOS, pembangun telah mencipta sistem pengendalian untuk melancarkan Llama 2. Netizen: Komputer lama dengan memori 8G boleh menjalankannya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!