Kecerdasan buatan memaksa pusat data untuk memikirkan semula reka bentuk

Dengan aplikasi kecerdasan buatan berskala besar dalam perusahaan, salah satu akibatnya ialah ia menggunakan bahagian yang lebih besar daripada beban kerja di pusat data.

AI bukan sahaja akan mempercepatkan permintaan untuk pusat data dan mewujudkan insentif baharu untuk pelaburan, tetapi juga akan memberi kesan kepada strategi kemampanan pusat data dan sifat infrastruktur yang akan digunakan.

Sebagai contoh, Tirias Research meramalkan bahawa, seperti yang berlaku pada masa ini, infrastruktur pelayan pusat data AI generatif serta kos operasi akan melebihi $76 juta menjelang 2028, lebih daripada dua kali ganda anggaran kos operasi tahunan semasa Amazon AWS, menyumbang Satu pertiga daripada jumlah global pasaran perkhidmatan awan.

Prestasi pengiraan perkakasan dijangka meningkat sebanyak 400%, mengurangkan anggaran 50x peningkatan beban kerja pemprosesan Tirias

Ketumpatan yang lebih tinggi

Kluster latihan yang besar dan inferens kelebihan kecil, menurut kertas putih baharu daripada pelayan Schneider Electric The explosive growth juga bermakna peralihan kepada ketumpatan kuasa rak yang lebih tinggi.

Kertas putih menyatakan: "Pemula AI, perusahaan, penyedia kolokasi dan gergasi Internet kini mesti mempertimbangkan kesan kepadatan ini pada reka bentuk dan pengurusan infrastruktur fizikal pusat data

Pusat Penyelidikan Pengurusan Tenaga Schneider terhadap kesan buatan." perisikan tentang Kesan terhadap permintaan tenaga diramalkan. Menurut anggaran, AI pada masa ini mewakili 4.3GW permintaan kuasa dan dijangka berkembang pada CAGR 26% hingga 36% menjelang 2028

Ini akan menghasilkan jumlah permintaan 13.5GW hingga 20GW, yang merupakan kuasa pusat data keseluruhan permintaan Dua hingga tiga kali ganda pertumbuhan. Menjelang 2028, beban kerja AI akan menyumbang 20% ​​daripada jumlah tenaga pusat data

Schneider menyatakan bahawa walaupun ia dijangka menggunakan lebih banyak kuasa daripada kelompok latihan, beban kerja inferens boleh dijalankan pada pelbagai ketumpatan rak.

"Beban kerja latihan AI, sebaliknya, telah berjalan pada ketumpatan yang sangat tinggi, dengan 20-100 kW atau lebih bagi setiap rak

Permintaan dan kos rangkaian adalah yang mendorong rak latihan ini dikelompokkan bersama. sedang bersama. Kelompok berketumpatan kuasa tinggi ini menimbulkan cabaran asas kepada reka bentuk pengurusan kuasa, penyejukan, rak dan perisian pusat data

Cabaran Sistem Kuasa

Schneider menggariskan empat bidang utama yang mungkin memberi kesan: Kuasa, Penyejukan , rak dan pengurusan perisian

Dalam kuasa, beban kerja AI menimbulkan cabaran kepada sistem kuasa dalam sistem suis dan pengedaran.

Sesetengah voltan yang sedang digunakan akan terbukti tidak praktikal untuk digunakan, manakala saiz blok pengedaran yang lebih kecil mungkin membazirkan ruang IT. Suhu rak yang lebih tinggi juga meningkatkan peluang kegagalan dan bahaya. Perkara yang telah ditulis semula: Beberapa voltan yang sedang digunakan mungkin terbukti tidak praktikal apabila digunakan, manakala saiz blok pengedaran kuasa yang lebih kecil mungkin membazirkan ruang IT. Pada masa yang sama, suhu rak yang lebih tinggi juga meningkatkan kemungkinan kegagalan dan bahaya

Apabila pusat data beralih kepada penyejukan cecair, penyejukan akan menjadi kritikal dan salah satu kawasan yang memerlukan perubahan ketara, dengan lebih daripada separuh Penyejukan cecair telah digunakan dalam pengkomputeran berprestasi tinggi profesional selama berabad-abad.

Schneider berkata: "Walaupun penyejukan udara masih wujud dalam masa terdekat, adalah diramalkan bahawa peralihan daripada penyejukan udara kepada penyejukan cecair akan menjadi penyelesaian pilihan atau perlu untuk pusat data dengan kluster kecerdasan buatan." Dikatakan semula: Menurut Schneider, walaupun masih terdapat penyejukan udara dalam masa terdekat, ramalan menunjukkan bahawa peralihan daripada penyejukan udara kepada penyejukan cecair akan menjadi penyelesaian pilihan atau perlu untuk pusat data dengan kelompok AI

vs udara Penyejukan cecair mempunyai banyak kelebihan berbanding penyejukan. Pertama, penyejukan cecair meningkatkan kebolehpercayaan dan prestasi pemproses. Kedua, penyejukan cecair menjimatkan ruang dan meningkatkan ketumpatan rak. Selain itu, air dalam penyejukan cecair mempunyai inersia haba yang lebih besar dan boleh mengurangkan penggunaan air

Untuk kelompok AI, pelayan perlu lebih mendalam, keperluan kuasa lebih besar dan penyejukan lebih kompleks.

Untuk memenuhi permintaan, rak mesti mempunyai ketumpatan yang lebih tinggi dan kapasiti galas beban

Digital Twins

Akhirnya, alatan perisian seperti DCIM, BMS dan alatan reka bentuk elektrik akan menjadi kunci untuk mengurus kelompok AI

Dengan perisian konfigurasi dan pelaksanaan yang betul yang membolehkan kembar digital pusat data mengenal pasti kekangan kuasa dan menyejukkan prestasi sumber dan menyediakan maklumat yang relevan untuk keputusan susun atur yang optimum

Dalam persekitaran yang semakin dinamik, semakin kecil margin untuk ralat, semakin tinggi risiko operasi. Oleh itu, Schneider mengesyorkan mewujudkan kembar digital seluruh ruang IT, termasuk peralatan dalam rak dan mesin maya.

Dengan menambah atau mengalihkan beban IT secara digital, anda boleh mengesahkan bahawa terdapat kuasa, penyejukan dan kapasiti galas beban lantai yang mencukupi untuk menyokongnya. Ini memaklumkan keputusan untuk mengelakkan sumber terkandas dan meminimumkan kesilapan manusia yang boleh menyebabkan masa henti

Atas ialah kandungan terperinci Kecerdasan buatan memaksa pusat data untuk memikirkan semula reka bentuk. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!