Markah larian yang menakjubkan diturunkan, lebih baik daripada H100! Apakah cip AI paling berkuasa NVIDIA GH200?

Permintaan yang semakin meningkat untuk pengkomputeran AI generatif telah meningkatkan harga saham NVIDIA, pengeluar GPU utama, melonjak ke paras tertinggi baharu. Pada pertengahan Ogos, Ketua Pegawai Eksekutif Huida Huang Renxun sekali lagi mempromosikan DGXGH200 di pameran itu Ia merupakan generasi baharu cip super AI generatif yang dibina dengan kad pengkomputeran dipercepatkan GraceHopper Ia juga merupakan produk superkomputer DGX peringkat Exaflop pertama

.

Prestasi rolling H100 mencapai 17%

Menurut data skor larian pada 11 September, NVIDIA mengumumkan bahawa produk serupa GH200, H100, L4 dan Jetson Orinnya telah mencapai prestasi terkemuka.

GH200 ialah penyerahan pertama cip tunggal Selepas membandingkannya dengan satu H100 dengan CPU Intel, gabungan GH200 mempunyai peningkatan sekurang-kurangnya 15% dalam setiap ujian. Dave Salvator, pengarah kecerdasan buatan di NVIDIA, berkata dalam sidang akhbar: Grace Hopper menunjukkan prestasi yang sangat kuat buat kali pertama, meningkatkan prestasi sebanyak 17% berbanding dengan GPU H100 yang diserahkan, dan kami sudah pun berada di hadapan secara menyeluruh.

Apakah itu GH200?

Penerangan rasmi: NVIDIA GH200 ialah cip super pertama yang menyepadukan GPU H100 dan CPU Grace Kedua-duanya disambungkan melalui NVLink-C2C dengan lebar jalur sehingga 900GB/s untuk kebolehskalaan yang lebih baik.

NVIDIA berkata bahawa GH200 mempunyai tiga ciri utama:

l Memori besar untuk model besar: Menyediakan pembangun dengan lebih daripada 500 kali ganda memori untuk membina model besar.

l Pengkomputeran ultra-penjimatan tenaga: lebar jalur meningkat sebanyak 7 kali ganda, dan penggunaan kuasa antara sambungan dikurangkan sebanyak lebih daripada 5 kali.

Bersepadu dan sedia untuk digunakan: cipta model besar dalam beberapa minggu. Perkara yang telah ditulis semula: Sudah disepadukan dan sedia untuk digunakan: model besar boleh dibina dalam masa beberapa minggu

Prestasi kebanyakan pemain telah meningkat kepada 20% berbanding generasi sebelumnya

Semasa COMPUTEX pada bulan Mei, Ketua Pegawai Eksekutif NVIDIA Jen-Hsun Huang menyebut bahawa cip GH200 dijadualkan akan dikeluarkan secara besar-besaran pada suku kedua 2024. Penanda aras MLPerfv3.1 menguji lebih daripada 13,500 keputusan, dan banyak prestasi penyerah meningkat lebih daripada 20% berbanding penanda aras 3.0.

MLPerf ialah alat biasa untuk pelanggan menilai prestasi cip AI.

Senarai penyerah termasuk ASUS, Azure, Connect Tech, DELL, Fujitsu, Giga Computing, Google, H3C, HPE, IEI, Intel, Intel HabanaLabs, Nutanix, Oracle, Qualcomm, Quanta Cloud Technology, SiMA, Supermicro, TTA dan xFusion dll

Atas ialah kandungan terperinci Markah larian yang menakjubkan diturunkan, lebih baik daripada H100! Apakah cip AI paling berkuasa NVIDIA GH200?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!