Des scores de course incroyables révélés, meilleurs que le H100 ! Quelle est la puce IA GH200 la plus puissante de NVIDIA ?

La demande croissante pour l’informatique générative par IA a fait grimper le cours de l’action de NVIDIA, un important fabricant de GPU, vers un nouveau sommet. À la mi-août, Huang Renxun, PDG de Huida, a de nouveau fait la promotion du DGXGH200 lors de l'exposition. Il s'agit d'une nouvelle génération de superpuce d'IA générative construite avec la carte de calcul accéléré GraceHopper. Il s'agit également du premier produit de superordinateur DGX de niveau Exaflop de Huida.

La performance du Rolling H100 atteint 17%

Selon les données de score en cours du 11 septembre, NVIDIA a annoncé que ses produits similaires GH200, H100, L4 GPU et Jetson Orin ont atteint des performances de premier plan.

GH200 est la première soumission d'une seule puce. Après l'avoir comparée à un seul H100 avec processeur Intel, la combinaison GH200 présente une amélioration d'au moins 15 % dans chaque test. Dave Salvator, directeur de l'intelligence artificielle chez NVIDIA, a déclaré lors d'une conférence de presse : Grace Hopper a réalisé de très bons résultats pour la première fois, améliorant les performances de 17 % par rapport au GPU H100 présenté, et nous sommes déjà en avance dans tous les domaines.

Qu’est-ce que le GH200 ?

Description officielle : NVIDIA GH200 est la première super puce à intégrer le GPU H100 et le CPU Grace. Les deux sont interconnectés via NVLink-C2C avec une bande passante allant jusqu'à 900 Go/s, ce qui offre une meilleure évolutivité et des performances d'apprentissage en profondeur ultra-rapides. .

NVIDIA a déclaré que le GH200 possède trois fonctionnalités principales :

l Mémoire énorme pour les grands modèles : offre aux développeurs plus de 500 fois la mémoire nécessaire pour créer de grands modèles.

lCalcul super économe en énergie : bande passante augmentée de 7 fois et consommation d'énergie d'interconnexion réduite de plus de 5 fois.

Intégré et prêt à exécuter : créez de grands modèles en quelques semaines. Ce qui a été réécrit : Déjà intégré et prêt à fonctionner : un grand modèle peut être construit en quelques semaines

Les performances de la plupart des joueurs ont été améliorées de 20 % par rapport à la génération précédente

Lors du COMPUTEX en mai, le PDG de NVIDIA, Jen-Hsun Huang, a mentionné que la puce GH200 devrait être produite en série au deuxième trimestre 2024. Le benchmark MLPerfv3.1 a testé plus de 13 500 résultats et les performances de nombreux soumissionnaires se sont améliorées de plus de 20 % par rapport au benchmark 3.0.

MLPerf est un outil commun permettant aux clients d'évaluer les performances des puces IA.

La liste des soumissionnaires comprend ASUS, Azure, Connect Tech, DELL, Fujitsu, Giga Computing, Google, H3C, HPE, IEI, Intel, Intel HabanaLabs, Nutanix, Oracle, Qualcomm, Quanta Cloud Technology, SiMA, Supermicro, TTA et xFusion. Attends

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!