NVIDIA melancarkan cip AI baharu H200, prestasi dipertingkatkan sebanyak 90%! Kuasa pengkomputeran China mencapai kejayaan bebas!

Walaupun dunia masih taksub dengan cip NVIDIA H100 dan membelinya secara gila-gila untuk memenuhi permintaan yang semakin meningkat untuk kuasa pengkomputeran AI, pada hari Isnin waktu tempatan, NVIDIA secara senyap-senyap melancarkan cip AI terbaru H200 untuk latihan model AI yang besar Berbanding Berbanding produk generasi sebelumnya H100, prestasi H200 telah dipertingkatkan kira-kira 60% hingga 90%.

H200 ialah versi NVIDIA H100 yang dinaik taraf Ia juga berdasarkan seni bina Hopper seperti H100 Peningkatan utama termasuk 141GB memori video HBM3e, dan lebar jalur memori video telah meningkat daripada 3.35TB/s daripada H100 kepada 4.8TB/s. . Menurut laman web rasmi NVIDIA, H200 juga merupakan cip pertama syarikat yang menggunakan memori HBM3e Memori ini lebih pantas dan mempunyai kapasiti yang lebih besar, jadi ia lebih sesuai untuk model bahasa yang besar. NVIDIA berkata: "Dengan HBM3e, NVIDIA H200 menyampaikan 141GB memori pada 4.8TB sesaat, hampir dua kali ganda kapasiti dan 2.4 kali lebar jalur berbanding A100 Menurut gambar rasmi,

Kelajuan keluaran H200 model besar Llama 2 dan GPT-3.5 masing-masing adalah 1.9 kali dan 1.6 kali ganda berbanding H100

, dan kelajuannya dalam pengkomputeran berprestasi tinggi HPC telah mencapai 110 kali ganda daripada dwi-teras x86 kali CPU. H200 dijangka akan dihantar pada suku kedua tahun depan, dan Nvidia masih belum mengumumkan harganya.

Walau bagaimanapun, seperti H100 dan cip AI lain, NVIDIA tidak akan membekalkan cip H200 kepada pengeluar China.

Pada 17 Oktober tahun ini, Jabatan Perdagangan A.S. mengeluarkan peraturan kawalan eksport baharu untuk cip

, terutamanya kawalan yang lebih ketat pada cip AI kuasa pengkomputeran tinggi. Salah satu peraturan baharu yang sangat penting ialah melaraskan piawaian terhad untuk cip pengkomputeran lanjutan dan menetapkan "ambang ketumpatan prestasi" baharu sebagai parameter. Menurut peraturan baharu, H800 dan A800 "edisi khas" Nvidia China telah dihadkan daripada mengeksport ke China.

Ketiadaan cip AI yang paling maju akan membawa beberapa cabaran kepada pembangunan industri AI domestik dalam jangka pendek, tetapi ia juga mengandungi peluang:

Pertama, terdapat

peluang untuk menggantikan cip kuasa pengkomputeran domestik

, seperti pesanan Baidu baru-baru ini sebanyak 1,600 cip Huawei Ascend 910B, kedua, di bawah ketidakpadanan antara bekalan dan permintaan, kenaikan harga sewa kuasa pengkomputeran akan mendapat manfaat; syarikat. Pada 14hb, Huina Technology mengumumkan bahawa caj perkhidmatan kuasa pengkomputeran untuk pelayan pengkomputeran berprestasi tinggi yang dibenamkan dengan cip NVIDIA A100 akan ditingkatkan sebanyak 100% akhirnya, teknologi pembungkusan canggih yang diwakili oleh Chiplet boleh, pada tahap tertentu, menyelesaikan masalah; kekurangan masalah kapasiti pengeluaran proses lanjutan dijangka membawa kepada pembangunan yang dipercepatkan. Jadi selain Huawei Shengteng, siapa lagi yang mempunyai kuasa pengkomputeran domestik yang boleh membawa sepanduk itu? Apakah syarikat yang berkaitan dengan rantaian industri? Apakah hala tuju lain yang dijangka mendapat manfaat secara tidak langsung?

Empat arahan manfaat utama kami dan syarikat perwakilan daripada kawalan bebas kuasa pengkomputeran AI domestik

telah menghasilkan topik khas "Adalah penting untuk mengawal kuasa pengkomputeran AI secara bebas" Rakan yang memerlukan dialu-alukan untuk mengimbas kod QR di bawah atau Tambah pembantu WeChat: hzkyxjyy, dapatkannya secara percuma atau baca dalam kalangan rakan anda. Selepas penambahan berjaya, semua laporan lepas dan setiap laporan khas masa hadapan boleh dibaca secara percuma.

Atas ialah kandungan terperinci NVIDIA melancarkan cip AI baharu H200, prestasi dipertingkatkan sebanyak 90%! Kuasa pengkomputeran China mencapai kejayaan bebas!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!