NVIDIA a publié un article présentant la « loi de Huang » : les performances d'inférence du GPU ont été multipliées par 1 000 en dix ans, sans craindre l'impact de la loi de Moore.

Nouvelles de ce site le 1er octobre, alors que les gens se demandent si la loi de Moore ralentira, s'appliquera toujours ou même mourra dans les années 2020, NVIDIA a publié un document annonçant « Loi de Huang ».

Selon un récent blog NVIDIA, Au cours de la dernière décennie, la puissance de traitement de l'intelligence artificielle des GPU NVIDIA a augmenté 1 000 fois. La « loi de Huang » signifie que l'accélération observée dans les « performances d'inférence sur une seule puce » ne disparaîtra pas mais continuera à se produire.

Selon Bill Daly, scientifique en chef de NVIDIA, "le changement tectonique dans la manière dont les performances informatiques seront atteintes dans l'ère post-loi de Moore" repose principalement sur l'intelligence humaine. Bien que cette caractéristique semble difficile à résumer en une loi, Dali estime que le tableau suivant marque le début de la « loi de Huang »

La recherche de ce site a révélé que la « loi de Huang » n'est pas la première création de NVIDIA elle-même. déclaration. IEEE Spectrum a été le premier à proposer une loi nommée d'après Huang, et la « loi de Huang » est devenue plus tard célèbre grâce à une chronique du Wall Street Journal.

Basé sur la récente présentation de Dally à la conférence Hot Chips 2023, le graphique ci-dessus montre une augmentation de 1 000 fois des performances d'inférence de l'IA GPU au cours de la dernière décennie. Dally a déclaré qu'il est intéressant de noter que, contrairement à la loi de Moore, le rétrécissement du processus n'a presque aucun impact sur la progression de la loi de Huang.

Dally rappelle comment il a obtenu une croissance 16x en modifiant le traitement des nombres sous-jacent des GPU NVIDIA. Un autre grand coup de pouce est venu avec l'arrivée de l'architecture Hopper de Nvidia utilisant le moteur Transformer. Hopper est censé réaliser un saut de performances de 12,5x et des économies d'énergie en utilisant une combinaison dynamique de virgule flottante 8 et 16 bits et de mathématiques entières.

Dally a également déclaré que malgré les avantages décroissants de la loi de Moore, il pense que la « loi de Huang » continuera d'exister .

Déclaration publicitaire : cet article contient des liens de saut externes (y compris, mais sans s'y limiter, des hyperliens, des codes QR, des mots de passe, etc.), qui sont conçus pour fournir plus d'informations et gagner du temps de vérification. Les résultats sont uniquement à titre de référence. Veuillez noter que tous les articles de ce site contiennent cette déclaration

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!