Gartner: Generatif AI akan memacu transformasi reka bentuk pusat data perusahaan China

Berita pada 15 April 2024, tinjauan CIO dan teknologi eksekutif 2024 baru-baru ini yang dikeluarkan oleh Gartner menunjukkan bahawa lebih daripada 60% syarikat China merancang untuk menggunakan kecerdasan buatan generatif dalam 12 hingga 24 bulan akan datang (GenAI). Memandangkan syarikat China cenderung untuk menggunakan GenAI secara tempatan dan bukannya melalui awan awam, persekitaran infrastruktur semasa tidak dapat menyokong projek GenAI. Ini akan menggalakkan transformasi reka bentuk pusat data perusahaan China.

Zhang Lukeng, pengarah penyelidikan di Gartner, berkata: “Disebabkan kebimbangan keselamatan dan privasi data serta keperluan kawal selia, sesetengah perusahaan memilih untuk menggunakan penyelesaian GenAl atau memperhalusi model bahasa besar (LLM) di premis adalah penting untuk pusat data Ia bukan sekadar keperluan pengehosan yang mudah, tetapi mungkin mengubah strategi pusat data perusahaan, kerana latihan model memerlukan kluster GPU berskala besar "Gartner mentakrifkan lima kaedah penggunaan GenAI (lihat Rajah 1). Bergantung pada kaedah penggunaan GenAI yang dipilih oleh perusahaan, ketua pegawai maklumat (CIO) dan pemimpin infrastruktur dan operasi (I&O) China perlu memahami kesan penggunaan GenAI dan cara mengambil tindakan.

Rajah 1: Lima kaedah untuk penggunaan kecerdasan buatan generatif

Gartner: Generatif AI akan memacu transformasi reka bentuk pusat data perusahaan ChinaPemimpin teknologi China mesti bersedia menghadapi CIO dan I&O ini kesan pusat data.

Menggunakan GenAI di premis akan memaksa pemimpin I&O mengubah cara mereka mereka bentuk persekitaran pengehosan

Impak penggunaan GenAI pada pusat data menentukan jenis beban kerja yang dijalankan, kerana sesetengah beban kerja GenAI memerlukan penggunaan grafik mewah unit pemprosesan (GPU). Disebabkan oleh bekalan GPU mewah yang terhad di pasaran China, pemimpin I&O yang ingin menggunakan GenAI di premis perlu mengubah cara persekitaran pengehosan mereka direka bentuk.

Pemimpin I&O tidak boleh menyelesaikan kekurangan bekalan sahaja dan mesti bekerjasama dengan perniagaan, jurutera AI dan pasukan berfungsi untuk menangani cabaran ini.

Zhang Yingling berkata: “CIO China dan pemimpin I&O yang menyediakan sumber infrastruktur untuk penempatan GenAl harus proaktif bekerjasama dengan pasukan perniagaan dan berkaitan untuk meramalkan kesan beban kerja yang berbeza terhadap kos dan jadual pusat data, supaya dapat menyediakan untuk GenAl Membangunkan strategi makro pusat data untuk penggunaan Jika model latihan memerlukan kluster GPU mewah, anda perlu memahami sepenuhnya pelbagai pilihan pengehosan dengan mengimbangi kos, risiko dan peluang (seperti membeli perkakasan alternatif atau memajak sumber GPU).

Kerahkan GPU berskala besar Kluster perlu mengubah dan meningkatkan infrastruktur dan peralatan pusat data

Membina model asas dari awal atau memperhalusi model memerlukan penggunaan kluster GPU berskala besar, yang akan menumbangkan pusat data sedia ada. Kerana latihan model GenAI memerlukan daya pemprosesan yang tinggi, kependaman rendah dan infrastruktur tanpa kerugian. Untuk menyokong kluster pengkomputeran berprestasi tinggi tersebut, rangkaian, storan, bekalan kuasa dan sistem penyejukan mesti dinaik taraf. Dalam sesetengah kes, kemudahan sedia ada perlu diubah suai untuk menjadi tuan rumah infrastruktur yang dinaik taraf (lihat Rajah 2).

Rajah 2: Kesan kluster GPU berskala besar ke atas pusat data

Gartner: Generatif AI akan memacu transformasi reka bentuk pusat data perusahaan ChinaZhang Yingling dan pemimpin I&O China berkata: " perlu Bekerjasama dengan saintis data dan jurutera untuk menjelaskan saiz kluster GPU dan keperluan prestasi GenAI untuk menentukan keperluan infrastruktur untuk rangkaian dan storan Pada masa yang sama, keperluan kuasa, kecekapan penyejukan, rak, ruang, dsb. juga perlu dianalisis untuk menentukan pusat data sedia ada. Terdapat jurang dalam persekitaran dalam menggunakan kluster GPU yang besar Mengimbangi masa dan kos dan memilih penyelesaian transformasi pusat data yang paling sesuai.”

Atas ialah kandungan terperinci Gartner: Generatif AI akan memacu transformasi reka bentuk pusat data perusahaan China. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!