Lancement d'une nouvelle architecture du cluster informatique Shengteng AI pour prendre en charge la formation de grands modèles avec plus d'un billion de paramètres

Selon l'actualité du 20 septembre, lors de la Huawei Full Connectivity Conference 2023 qui s'est tenue aujourd'hui, Wang Tao, directeur général de Huawei, directeur du comité de gestion des activités d'infrastructure TIC et président d'Enterprise BG, a officiellement dévoilé la nouvelle architecture de l'informatique Ascend AI. cluster - Atlas 900 SuperCluster , peut prendre en charge la formation de grands modèles avec plus d'un billion de paramètres.

Selon les rapports, le nouveau cluster utilise le nouveau commutateur informatique intelligent Huawei Galaxy AI CloudEngine XH16800 Avec sa capacité de port haute densité 800GE, un réseau de commutation à deux couches peut atteindre un ultra-large de 2 250 nœuds (équivalent). à 18 000 cartes) Mise en réseau de cluster sans échelle.

Le nouveau cluster utilise également une architecture innovante de super-nœuds, qui améliore considérablement les capacités de formation de grands modèles. En outre, Huawei exploite ses avantages complets dans les domaines de l'informatique, des réseaux, du stockage, de l'énergie et d'autres domaines pour améliorer de manière globale la fiabilité du système au niveau des appareils, des nœuds, des clusters et des entreprises, et améliorer la stabilité de la formation de grands modèles de quelques jours à plusieurs mois. .

De plus,

Huawei a publié l'architecture informatique hétérogène CANN 7.0, plus ouverte et plus facile à utiliser, qui est non seulement entièrement compatible avec les cadres d'IA, les bibliothèques d'accélération et les grands modèles grand public de l'industrie, mais s'ouvre également profondément capacités sous-jacentes, permettant au cadre d'IA et aux bibliothèques d'accélération d'appeler et de gérer les ressources informatiques plus directement, permettant aux développeurs de personnaliser les opérateurs hautes performances, offrant ainsi une compétitivité différenciée aux grands modèles.

Huawei a également mis à niveau le langage de programmation Ascend C pour utiliser une méthode de programmation plus efficace afin de simplifier la logique de mise en œuvre des opérateurs, de raccourcir considérablement le cycle de développement des opérateurs de fusion et de permettre le développement rapide de modèles et d'applications d'IA.

Pour les entreprises et les développeurs mondiaux,

Le site officiel de HUAWEI Cloud a officiellement lancé aujourd'hui la zone spéciale "Cent modèles et milliers de modes" du service Ascend AI Cloud. entièrement adapté au service cloud Ascend AI. Configuration et optimisation ; fournit une chaîne d'outils pour le développement d'applications. Tous les outils de développement ont été basés sur le cloud, éliminant le besoin de processus de configuration fastidieux et permettant un accès en un clic et une utilisation immédiate.

▲ Zone spéciale du service cloud Ascend AI dans différents modes

Selon la requête sur ce site, depuis juillet de cette année, le cluster Ascend AI a soutenu la construction de centres de calcul d'intelligence artificielle en 25 villes à travers le pays, dont des plates-formes publiques de puissance de calcul dans 7 villes, ont été sélectionnées comme premier lot de « plates-formes nationales d'innovation ouverte de puissance de calcul publique d'intelligence artificielle de nouvelle génération »

Shengteng AI a développé plus de 30 partenaires matériels et plus de 1 200 ISV, et a lancé plus de 2 500 solutions d'IA pour divers secteurs, fournissant des services à grande échelle aux opérateurs, à Internet, à la finance et à d'autres secteurs

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!