Video pemasangan AI master Li Mu ada di sini! Anda juga boleh mengamalkan 10 bilion model besar

Sebelum video pemasangan dikeluarkan, Cikgu Li Mu pernah melancarkan tinjauan kecil soal selidik Mengambil kesempatan daripada pengurangan harga kad grafik, mari lihat pendapat kanak-kanak tentang video pemasangan Sejauh manakah anda berminat untuk menjalankan Transformer?

Pada masa itu, budak genius Huawei "Zhihui Jun" pun turut menyukainya, yang menunjukkan bahawa semua orang masih menantikannya.

Tidak, Mu Shen ada di sini dengan video pemasangannya. Bagaimana untuk melatih model 10 bilion pada kos terendah?

Baru-baru ini, bulatan mata wang telah menjadi reda, dan harga GPU juga telah menurun dengan ketara Contohnya, Nvidia 3090TI kini berharga AS$1,600 (asal harga USD 2,000).

Pada permulaan projek ini, 2 mesin prototaip telah dipasang, setiap satu dengan dwikad RTX 3090TI , menggunakan air sistem penyejukan untuk mengurangkan bunyi bising.

Kos pemasangan mesin adalah lebih daripada 5,000 dolar AS, kira-kira 35,000 yuan.

Tanpa berlengah lagi, mari kita lihat bagaimana Mu God memasang mesin tersebut~

Senarai pemasangan

Keperluan pertama untuk pemasangan adalah cukup senyap. Jika tidak, ia akan menjadi terlalu bising dan anda tidak akan dapat bekerja.

Keperluan kedua ialah pelesapan haba yang baik. Jika tidak, jika suhu terlalu tinggi, GPU akan menjadi perlahan.

Perkara ketiga ialah, kerana kita perlu menjalankan model Transformer yang agak besar, lebar jalur GPU mestilah cukup baik.

Jika anda telah memasang pelayan GPU sebelum menjalankan CNN, keperluan untuk menjalankan model Transformer akan berbeza. Oleh kerana model Transformer lebih besar daripada model CNN, penggunaan memori akan lebih tinggi. Jadi saiz memori GPU adalah sangat penting.

Mu Shen juga berkata sebelum ini bahawa model Transformer yang besar itu harus dilatih pada berbilang GPU, daripada Jurutera di Google, Microsoft, dsb. semua menggunakan mesin seperti DGA X100 untuk dijalankan. Walaupun pada mesin sedemikian, lebar jalur GPU kekal sebagai hambatan.

Perbezaan antara membeli GPU pelayan jenis ini dan GPU permainan ialah yang pertama bukan tentang seberapa pantas satu kad boleh berjalan, tetapi berapa banyak kad boleh lari antara kad.

Oleh itu, perkara utama konsep pemasangan adalah untuk memaksimumkan memori GPU dan lebar jalur sambungan antara GPU,

Jika anda ingin meletakkan banyak kad dalam mesin, anda perlu membeli sistem penyejukan turbin.

Jika anda ingin berdiam diri, beli sinki haba yang disejukkan air, Mu Shen membeli 4 yuan sebanyak 3090 TI. Kelebihan menggunakan penyejukan air ialah ia agak senyap, tetapi kelemahannya ialah ia memakan banyak ruang.

Jadi, jika anda ingin meletakkan empat kad dalam bekas, jangan beli versi yang disejukkan air, tetapi beli versi dengan hanya satu kipas turbo .

Dan arah angin dalam casis adalah isu yang sangat penting. Jika anda membeli kad dengan tiga kipas, udara akan memasuki casis dari hadapan dan kemudian menghilangkan haba dari semua arah Jika kad terlalu rapat, suhu di dalam casis akan menjadi sangat tinggi.

Mu Shen juga berkata bahawa bertahun-tahun yang lalu, dia membeli empat kad dengan dua kipas besar dan meletakkannya sebagai hasilnya, suhu satu kad adalah terlalu tinggi.

Selepas memilih GPU (ASUS ROG), konfigurasi yang tinggal agak mudah. CPU ialah CPU AMD 12-teras, papan induk ialah jenama yang dipanggil PCIE 4.0 16, cakera keras ialah cakera keras 2 TB M.2, kipas ialah kipas sejukan air 120mm, dan casis bersaiz penuh ialah tambah.

Langkah Pemasangan

Selepas senarai pemasangan selesai, langkah seterusnya ialah proses pemasangan khusus . Langkah-langkahnya adalah seperti berikut:

Letak dahulu GPU. Ambil perhatian bahawa anda tidak boleh menyentuh tempat logam dengan tangan anda semasa proses peletakan Jika terdapat elektrik statik, ia akan menyebabkan GPU mengalirkan elektrik dengan mudah.

Selepas memasukkan GPU, ketatkan skru. Kemudian masukkan kipas.

Selepas memasangkan kuasa, ikat kord kuasa dan paip air bersama-sama. Kemudian sambungkan jambatan NVLink.

Akhir sekali, sambungkan bekalan kuasa dan mesin sedia untuk dijalankan.

Ujian Tekanan

Selepas pemasangan selesai, tugas seterusnya adalah untuk terus memasang sistem pengendalian.

Mu Shen memasang ubuntu22, dan selepas memasangnya, dia menyambung dari jauh.

Sudah tentu, Mu Shen juga menerangkan pelbagai situasi dengan lebih terperinci Selain ubuntu22, windows dan linux juga tersedia di bawah keperluan yang berbeza.

Di sini Mu Shen menggunakan SSH untuk sambungan jauh.

Sistem Mu Shen telah pun memasang pemandu Pada masa yang sama, dia juga menegaskan bahawa jika tiada pemandu lagi, ia adalah ok. Gunakan apt-get untuk memasang nvidia-driver-515.

Selepas pemasangan, anda boleh menjalankan nvidia-smi dan melihat sistem.

Anda boleh melihat pelbagai maklumat daripadanya. Seperti bilangan GPU, suhu, watt, penggunaan memori, dsb.

Seterusnya, anda juga boleh melihat sama ada pautan-nv adalah normal melalui matriks topo-m nvidia-smi.

Anda boleh melihat bahawa kedua-dua GPU disambungkan oleh NV4. 4 bermaksud 4 saluran, yang bermaksud sambungan adalah normal.

Soalan seterusnya ialah untuk menguji suhu sistem di bawah beban penuh.

Mu Shen berkata bahawa GPU diuji dengan program kecil yang dipanggil gpu-burn, yang boleh dimuat turun dari github.

Mushen menjalankan simulasi selama sepuluh minit dan melihat suhu kedua-dua GPU. Mu Shen juga bergurau bahawa anda boleh merasakan udara panas bertiup dari GPU.

Begitu juga, CPU juga boleh menguji suhu dengan cara ini, menggunakan cpu-burn.

Pada akhirnya, suhu kedua-dua GPU kekal pada 58 darjah dan 55 darjah, dan penggunaan kuasa mencapai lebih daripada 440 watt (penggunaan kuasa penuh 480 watt), yang cukup bagus.

Parameter terakhir ialah penggunaan kuasa mesin. Ujian Mu Shen menggunakan kira-kira 1240 watt, yang bermaksud 1.5 kilowatt jam elektrik sejam.

Berdasarkan data semasa, kestabilan adalah OK.

Bagi prestasi menjalankan Transformer pada mesin ini, kita kena tunggu video seterusnya.

Komen hangat netizen

Selepas video tersebut ditayangkan, netizen di stesen b turut menyatakan minat yang tinggi.

Seorang wakil pelajar dari kelas sempurna muncul dan menyenaraikan senarai lengkap konfigurasi yang disebut dalam video.

Sesetengah netizen bergegas menonton dan "belajar cara memasang mesin daripada Li Mu".

Mu Shen sendiri menyatakan bahawa dia merasakan bahawa kad 3090ti tidak begitu baik. Seorang netizen segera memberi komen, "Jika ia tidak berkesan, wasap sahaja dan berikannya." sudah tentu, pemasangan tegar seperti ini Pasti ada unsur jenaka dalam komen di bawah video.

Saya hanya boleh mengatakan bahawa ia sangat benar.

Atas ialah kandungan terperinci Video pemasangan AI master Li Mu ada di sini! Anda juga boleh mengamalkan 10 bilion model besar. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!