Adakah kilang AI penyewa tunggal akan menjadi trend pusat data terkini?

Pusat data Colocation biasanya direka untuk menampung berpuluh-puluh atau bahkan ratusan pelanggan untuk aplikasi yang berbeza. Walau bagaimanapun, Nvidia menawarkan model pusat data unik yang khusus untuk menjalankan aplikasi khusus untuk pelanggan tunggal.

Kemunculan "kilang kecerdasan buatan"

Pusat data jenis baharu ini berbeza daripada pusat data tradisional Ia memfokuskan kepada penyediaan perkhidmatan infrastruktur yang lebih cekap dan fleksibel. Pusat data tradisional sering menjadi tuan rumah berbilang aplikasi dan berbilang penyewa, manakala pusat data baharu lebih menumpukan pada peruntukan dinamik dan pengoptimuman sumber untuk memenuhi keperluan aplikasi dan penyewa yang berbeza. Reka bentuk pusat data baharu ini lebih fleksibel dan pintar, serta boleh melaraskan peruntukan sumber dalam masa nyata mengikut permintaan, meningkatkan kecekapan dan prestasi keseluruhan. Dengan konsep reka bentuk yang inovatif ini,

Pusat data baharu ini digunakan terutamanya untuk mengehoskan sebilangan kecil aplikasi, biasanya digunakan oleh penyewa tunggal. Mereka bertanggungjawab untuk memproses data, melatih model dan menjana token untuk menghasilkan kecerdasan buatan. Kami memanggil pusat data baharu ini sebagai "kilang AI."

Kilang kecerdasan buatan telah menjadi fenomena di mana-mana. Saya percaya hampir setiap rantau utama akan mempunyai awan AI sendiri, begitu juga dengan setiap negara utama. Jadi kita berada di permulaan transformasi pengkomputeran, yang merupakan titik infleksi yang penting.

Pada masa ini, trend ini secara beransur-ansur muncul di negara-negara seperti India, Sweden, Jepun dan Perancis. Untuk mencapai penggunaan kecerdasan buatan yang berkesan, perbezaan bahasa dan budaya antara negara mesti diambil kira. Permintaan untuk kecerdasan buatan juga berbeza dari negara ke negara, seperti Jepun dan Sweden. Oleh sebab itu, pusat data AI dan kilang AI penyewa tunggal cenderung terhad kepada negara tertentu.

Nilai skala penggunaan kecerdasan buatan

Penyedia perkhidmatan awan yang besar seperti Amazon dan Google dan penyedia pengehosan utama seperti Equinix, saiz pusat data mereka biasanya agak besar, cukup besar untuk menampung saiz padang bola sepak. Memandangkan penggunaan kuasa tinggi pemproses Nvidia Hopper, kilang AI ini akan setanding saiznya dengan restoran McDonald's.

Rak pusat data biasanya bajet untuk penggunaan kuasa antara 6kW dan 8kW. Walau bagaimanapun, jika pelayan yang dioptimumkan untuk menjalankan LLM diperlukan, penggunaan kuasa satu pelayan adalah lebih kurang 11kW. Ini bersamaan dengan purata penggunaan kuasa kira-kira 14 pelayan tujuan umum.

Dalam kes ini, hanya bilangan pelayan GPU yang terhad seperti DGXH100 boleh dijalankan di pusat data biasa Jika anda mempunyai pusat data 1MW, anda boleh menggunakan kira-kira 50 pelayan DGXH100 di dalamnya. Menggunakan AI secara berskala kepada sejumlah besar pengguna serentak akan memerlukan kumpulan besar pelayan sedemikian. Ini bermakna bahawa pusat data biasa hanya boleh memenuhi keperluan bilangan pelanggan yang terhad, dan kemungkinan besar hanya seorang pelanggan sahaja.

Masa depan kilang AI

Pilihan paling kos efektif untuk mereka bentuk persekitaran GPU tujuan tunggal seperti kilang AI adalah untuk membina pusat data khusus, direka bentuk dan diletakkan dengan ketumpatan yang lebih tinggi dan penyejukan cecair sebagai tumpuan Di lokasi terbaik untuk perniagaan AI.

Penggunaan kuasa kelompok AI akan menjadi faktor pengehad dalam pusat data dengan bilangan pelayan yang besar, dan kemungkinan beberapa pusat data ini akan dikhususkan untuk AI. Rangka kerja keselamatan dan kawal selia yang mengelilingi AI juga mungkin memacu aliran ini. Pertumbuhan kecerdasan buatan generatif dan am menimbulkan beberapa isu keselamatan dan pematuhan, jadi perusahaan boleh memutuskan untuk menjalankan beban kerja sedemikian daripada kemudahan yang sangat selamat dan dibina khas.

Kilang dan Pusat Data Kepintaran Buatan

Oleh kerana ketumpatan kuasa kecerdasan buatan adalah lima hingga sepuluh kali ganda daripada pusat data tradisional, skala kilang kecerdasan buatan tidak akan mencapai saiz pusat data tradisional, yang mempunyai keluasan lebih daripada seratus Ribu kaki persegi.

Satu lagi perbezaan antara pusat data tradisional dan kilang AI ialah lokasinya. Walaupun pusat data gergasi cenderung dibina di lokasi terpencil bersebelahan dengan sumber tenaga boleh diperbaharui, kilang AI boleh dibina di pusat bandar atau kawasan metropolitan dan di kemudahan sedia ada dengan jumlah kuasa yang banyak.

Terdapat banyak ruang pejabat dan runcit yang kurang digunakan pada masa ini dan yang menjadi sangat, sangat menarik ialah bangunan terbiar atau ruang bandar yang kurang digunakan atau sebahagian daripada gudang lama di tengah-tengah yang sudah mempunyai elektrik, di mana anda boleh menjatuhkan beberapa peralatan AI, beberapa penyejukan cecair dan pasangkannya.

Walaupun mustahil untuk meramalkan masa depan industri pusat data, pertumbuhan pesat kecerdasan buatan menunjukkan bahawa kilang AI mungkin tidak lama lagi menjadi satu keperluan apabila pengendali infrastruktur digital berebut untuk memenuhi permintaan yang semakin meningkat.

Atas ialah kandungan terperinci Adakah kilang AI penyewa tunggal akan menjadi trend pusat data terkini?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!