Périphériques technologiques
IA
NVIDIA lance la nouvelle puce AI H200, performances améliorées de 90% ! La puissance informatique de la Chine réalise une percée indépendante !
NVIDIA lance la nouvelle puce AI H200, performances améliorées de 90% ! La puissance informatique de la Chine réalise une percée indépendante !
Alors que le monde est toujours obsédé par les puces NVIDIA H100 et les achète follement pour répondre à la demande croissante de puissance de calcul de l'IA, lundi, heure locale, NVIDIA a discrètement lancé la dernière puce AI H200 pour la formation de grands modèles d'IA Par rapport à. Son produit H100 de génération précédente, les performances du H200 ont été améliorées d'environ 60% à 90%.
H200 est une version améliorée de NVIDIA H100. Il est également basé sur l'architecture Hopper comme le H100. La mise à niveau principale comprend 141 Go de mémoire vidéo HBM3e. La bande passante de la mémoire vidéo est passée de 3,35 To/s du H100 à 4,8 To/s. Selon le site officiel de NVIDIA, le H200 est également la première puce de la société à utiliser la mémoire HBM3e. Cette mémoire est plus rapide et a une plus grande capacité, elle est donc plus adaptée aux modèles à langages volumineux. NVIDIA a déclaré : « Avec le HBM3e, le NVIDIA H200 offre 141 Go de mémoire à 4,8 To par seconde, presque deux fois la capacité et 2,4 fois la bande passante par rapport à l'A100 . Selon les images officielles,
La vitesse de sortie du grand modèle Llama 2 et GPT-3.5 du H200 est respectivement 1,9 fois et 1,6 fois supérieure à celle du H100, et sa vitesse en calcul haute performance HPC a atteint 110 fois celle du dual-core Temps CPU x86. Le H200 devrait être livré au deuxième trimestre de l'année prochaine, et Nvidia n'a pas encore annoncé son prix.
Cependant, comme le H100 et d'autres puces IA, NVIDIA ne fournira pas de puces H200 aux fabricants chinois.
Le 17 octobre de cette année, le ministère américain du Commerce a publié de nouvelles réglementations de contrôle des exportations de puces, en particulier des contrôles plus stricts sur les puces d'IA à haute puissance de calcul. L'une des nouvelles réglementations très importantes consiste à ajuster les normes restreintes pour les puces informatiques avancées et à fixer un nouveau « seuil de densité de performances » comme paramètre. Selon la nouvelle réglementation, les « éditions spéciales » H800 et A800 de Nvidia Chine ne peuvent plus être exportées vers la Chine.
Le manque de puces d'IA les plus avancées posera certains défis au développement de l'industrie nationale de l'IA à court terme, mais il recèle également des opportunités :Premièrement, il existe
opportunités de remplacement des puces de puissance de calcul nationales, comme la récente commande de Baidu de 1 600 puces Huawei Ascend 910B. Deuxièmement, en raison de l'inadéquation entre l'offre et la demande, la hausse du prix de location de la puissance de calcul profitera à la location de puissance de calcul ; entreprises. Le 14, Huina Technology a annoncé que les frais de service de puissance de calcul pour les serveurs de calcul haute performance équipés de puces NVIDIA A100 seront augmentés de 100 %. Enfin, la technologie de packaging avancée représentée par Chiplet peut, dans une certaine mesure, résoudre le problème ; la pénurie de problèmes de capacité de production de processus avancés devrait ouvrir la voie à un développement accéléré. Donc, à part Huawei Shengteng, qui d'autre disposant d'une puissance informatique nationale peut porter la bannière ? Quelles sont les entreprises liées à la chaîne industrielle ? Quelles autres orientations devraient en bénéficier indirectement ?
Nos quatre principales directions de bénéfices et sociétés représentatives du contrôle indépendant de la puissance de calcul de l'IA nationaleont produit un sujet spécial "Il est impératif de contrôler indépendamment la puissance de calcul de l'IA". Les amis dans le besoin sont invités à scanner le code QR ci-dessous ou. Ajoutez l'assistant WeChat : hzkyxjyy, obtenez-le gratuitement ou lisez-le dans votre cercle d'amis. Après un ajout réussi, tous les rapports passés et chaque futur rapport spécial peuvent être lus gratuitement.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
Outils d'IA chauds
Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes
AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.
Undress AI Tool
Images de déshabillage gratuites
Clothoff.io
Dissolvant de vêtements AI
AI Hentai Generator
Générez AI Hentai gratuitement.
Article chaud
Outils chauds
Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit
SublimeText3 version chinoise
Version chinoise, très simple à utiliser
Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP
Dreamweaver CS6
Outils de développement Web visuel
SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)
Nouveau titre : lancement du NVIDIA H200 : capacité du HBM augmentée de 76 %, la puce IA la plus puissante qui améliore considérablement les performances des grands modèles de 90 %
Nov 14, 2023 pm 03:21 PM
Selon les informations du 14 novembre, Nvidia a officiellement lancé le nouveau GPU H200 lors de la conférence "Supercomputing23" le matin du 13, heure locale, et a mis à jour la gamme de produits GH200. Parmi eux, le H200 est toujours construit sur l'architecture Hopper H100 existante. Cependant, une mémoire à bande passante plus élevée (HBM3e) a été ajoutée pour mieux gérer les grands ensembles de données nécessaires au développement et à la mise en œuvre de l'intelligence artificielle, ce qui améliore de 60 à 90 % les performances globales d'exécution de grands modèles par rapport à la génération précédente H100. . Le GH200 mis à jour alimentera également la prochaine génération de supercalculateurs IA. En 2024, plus de 200 exaflops de puissance de calcul de l’IA seront en ligne. H200
Selon certaines rumeurs, MediaTek aurait remporté une grosse commande de Google pour des puces d'IA de serveur et fournirait des puces Serdes à haut débit.
Jun 19, 2023 pm 08:23 PM
Le 19 juin, selon les médias de Taiwan, en Chine, Google (Google) a contacté MediaTek pour coopérer afin de développer la dernière puce d'IA orientée serveur et prévoit de la confier au processus 5 nm de TSMC pour la fonderie, avec des plans pour production de masse au début de l’année prochaine. Selon le rapport, des sources ont révélé que cette coopération entre Google et MediaTek fournirait à MediaTek des solutions de sérialisation et de désérialisation (SerDes) et aiderait à intégrer le processeur tenseur (TPU) auto-développé par Google pour aider Google à créer les dernières puces Server AI qui seront plus puissantes. que les architectures CPU ou GPU. L’industrie souligne que de nombreux services actuels de Google sont liés à l’IA. Elle a investi dans la technologie d’apprentissage profond il y a de nombreuses années et a constaté que l’utilisation de GPU pour effectuer des calculs d’IA était très coûteuse. Google a donc décidé de le faire.
La prochaine grande nouveauté en matière d'IA : performances maximales de la puce NVIDIA B100 et du modèle OpenAI GPT-5
Nov 18, 2023 pm 03:39 PM
Après le lancement de la NVIDIA H200, connue comme la puce d'IA la plus puissante au monde, l'industrie a commencé à attendre avec impatience la puce B100, plus puissante de NVIDIA. Dans le même temps, OpenAI, la start-up d'IA la plus populaire cette année, a démarré. pour développer un modèle GPT-5 plus puissant et plus complexe. Guotai Junan a souligné dans le dernier rapport de recherche que les B100 et GPT5 aux performances illimitées devraient être commercialisés en 2024 et que les mises à niveau majeures pourraient générer une productivité sans précédent. L’agence s’est déclarée optimiste quant au fait que l’IA entrera dans une période de développement rapide et que sa visibilité se poursuivra jusqu’en 2024. Par rapport aux générations de produits précédentes, quelle est la puissance du B100 et du GPT-5 ? Nvidia et OpenAI ont déjà donné un aperçu : le B100 pourrait être plus de 4 fois plus rapide que le H100, et le GPT-5 pourrait atteindre un super
Kneron lance la dernière puce AI KL730 pour piloter l'application à grande échelle de solutions GPT légères
Aug 17, 2023 pm 01:37 PM
Les progrès en matière d'efficacité énergétique du KL730 ont résolu le plus gros goulot d'étranglement dans la mise en œuvre des modèles d'intelligence artificielle : le coût énergétique. Par rapport à l'industrie et aux puces Kneron précédentes, la puce KL730 a augmenté de 3 à 4 fois. Des modèles de langage GPT légers à grande échelle, tels que nanoGPT, et fournissent une puissance de calcul effective de 0,35 à 4 téra par seconde. La société d'IA Kneron a annoncé aujourd'hui la sortie de la puce KL730, qui intègre un NPU de qualité automobile et un traitement du signal d'image (ISP). pour apporter une IA sûre et à faible consommation d'énergie. Les capacités sont renforcées dans divers scénarios d'application tels que les serveurs de périphérie, les maisons intelligentes et les systèmes de conduite assistée automobile. Kneron, basé à San Diego, est connu pour ses unités de traitement neuronal (NPU) révolutionnaires, et sa dernière puce, la KL730, vise à atteindre
NVIDIA lance la nouvelle puce AI H200, performances améliorées de 90% ! La puissance informatique de la Chine réalise une percée indépendante !
Nov 14, 2023 pm 05:37 PM
Alors que le monde est toujours obsédé par les puces NVIDIA H100 et les achète follement pour répondre à la demande croissante de puissance de calcul de l'IA, lundi, heure locale, NVIDIA a discrètement lancé sa dernière puce AI H200, qui est utilisée pour entraîner de grands modèles d'IA par rapport à d'autres. Les performances des produits de génération précédente H100 et H200 ont été améliorées d'environ 60 à 90 %. Le H200 est une version améliorée du Nvidia H100. Il est également basé sur l'architecture Hopper comme le H100. La mise à niveau principale comprend 141 Go de mémoire vidéo HBM3e, et la bande passante de la mémoire vidéo est passée de 3,35 To/s du H100 à 4,8. To/s. Selon le site officiel de Nvidia, la H200 est également la première puce de la société à utiliser la mémoire HBM3e. Cette mémoire est plus rapide et a une plus grande capacité, elle est donc plus adaptée aux grands langages.
Kneron annonce le lancement de sa dernière puce AI KL730
Aug 17, 2023 am 10:09 AM
Selon les mots originaux, il peut être réécrit comme suit : (Global TMT 16 août 2023) La société d'IA Kneron, dont le siège est à San Diego et connue pour ses unités de traitement neuronal (NPU) révolutionnaires, a annoncé la sortie de la puce KL730. La puce intègre un NPU de qualité automobile et un traitement du signal d'image (ISP) et fournit des capacités d'IA sûres et à faible consommation d'énergie pour divers scénarios d'application tels que les serveurs de périphérie, les maisons intelligentes et les systèmes de conduite assistée automobile. La puce KL730 a obtenu d'excellents résultats. termes d'efficacité énergétique. Une percée, par rapport aux puces Nerner précédentes, son efficacité énergétique a augmenté de 3 à 4 fois et est de 150 % à 200 % supérieure à celle des produits similaires dans les grandes industries. La puce a une puissance de calcul effective de 0,35 à 4 téra par seconde et peut prendre en charge le grand GPT léger le plus avancé.
Les puces IA sont en rupture de stock dans le monde !
May 30, 2023 pm 09:53 PM
Le PDG de Google compare la révolution de l’IA à l’utilisation du feu par l’humanité, mais désormais, le feu numérique qui alimente l’industrie – les puces IA – est difficile à trouver. La nouvelle génération de puces avancées qui pilotent les opérations d'IA sont presque toutes fabriquées par NVIDIA. Alors que ChatGPT sort du cercle, la demande du marché pour les puces de traitement graphique (GPU) NVIDIA dépasse de loin l'offre. "Parce qu'il y a une pénurie, la clé est votre cercle d'amis", a déclaré Sharon Zhou, co-fondatrice et PDG de Lamini, une startup qui aide les entreprises à construire des modèles d'IA tels que des chatbots. "C'est comme du papier toilette pendant l'épidémie". Ce genre de chose a limité la puissance de calcul que les fournisseurs de cloud comme Amazon et Microsoft peuvent offrir à des clients comme OpenAI, le créateur de ChatGPT.
Microsoft développe sa propre puce d'IA 'Athena'
Apr 25, 2023 pm 01:07 PM
Microsoft développe des puces optimisées pour l'IA afin de réduire le coût de formation des modèles d'IA génératifs, tels que ceux qui alimentent le chatbot OpenAIChatGPT. The Information a récemment cité deux personnes proches du dossier affirmant que Microsoft développait un nouveau chipset nommé « Athena » depuis au moins 2019. Les employés de Microsoft et d'OpenAI ont déjà accès aux nouvelles puces et les utilisent pour tester leurs performances sur de grands modèles de langage tels que GPT-4. La formation de grands modèles de langage nécessite l'ingestion et l'analyse de grandes quantités de données afin de créer un nouveau contenu de sortie pour l'IA afin d'imiter la conversation humaine. C'est une caractéristique des modèles d'IA génératifs. Ce processus en nécessite un grand nombre (de l'ordre de plusieurs dizaines). de milliers) de A
