Das Moore Thread Kua'e Intelligent Computing Center wurde auf die Größenordnung von 10.000 Karten mit 10.000 P-Level-Gleitkomma-Rechenfunktionen erweitert

Laut Nachrichten dieser Website vom 3. Juli gab Moore Thread heute bekannt, dass sein KI-Flaggschiffprodukt KUAE Intelligent Computing Cluster Solution von der aktuellen Kilokartenebene auf die 10.000-Karten-Skala erweitert wurde. Der intelligente Computing-Cluster Moore Thread Kua'e Wanka verwendet eine voll ausgestattete GPU als Basis, um eine inländische Allzweck-Beschleunigungs-Computing-Plattform zu schaffen, die Wanka-Skalierung und 10.000 P-Level-Gleitkomma-Computing-Funktionen unterstützt. Sie ist speziell für Trainingskomplexe konzipiert große Modelle mit Billionen von Parametern und Design.

Kuae Wanka Intelligent Computing Solution verfügt über die folgenden Kernfunktionen:

Wanka WanP: Kuae Intelligent Computing Cluster erreicht eine einzelne Cluster-Skala von über 10.000 Karten, wobei die Gleitkomma-Rechenleistung 10Exa-Flops erreicht und damit das PB-Niveau erreicht Kapazität, PB-Level-Ultra-High-Speed-Inter-Card-Interconnection-Gesamtbandbreite pro Sekunde und PB-Level-Ultra-High-Speed-Node-Interconnection-Gesamtbandbreite.

Langfristiges und stabiles Training: Moore Thread rühmt sich, dass die durchschnittliche störungsfreie Laufzeit des Wanka-Clusters 15 Tage übersteigt und ein stabiles Training großer Modelle für bis zu 30 Tage erreicht werden kann. Die durchschnittliche wöchentliche Trainingseffizienz liegt über 99 %, was weit über dem Branchendurchschnitt liegt.

Hohe MFU: Der Kua'e Wanka-Cluster wurde einer Reihe von Optimierungen auf Systemsoftware, Framework, Algorithmus und anderen Ebenen unterzogen, um ein hocheffizientes Training großer Modelle zu erreichen (ein üblicher Indikator zur Bewertung der Trainingseffizienz großer Modelle). ) kann bis zu 60 % erreichen.

Umweltfreundlich: Kann große Modelle verschiedener Architekturen und Modi wie LLM, MoE, Multimodal, Mamba usw. beschleunigen. Basierend auf der Programmiersprache MUSA, vollständig kompatibel mit CUDA-Funktionen und dem automatisierten Migrationstool Musify, beschleunigt es die „Day0“-Migration neuer Modelle.

Diese Seite hat erfahren, dass Moore Thread drei Wanka-Cluster-Projekte durchführen wird, nämlich:

• Qinghai Zero Carbon Industrial Park Wanka-Cluster-Projekt
• Qinghai Plateau Kua'e Wanka-Cluster-Projekt
• Guangxi ASEAN Wanka-Cluster-Projekt

Das obige ist der detaillierte Inhalt vonDas Moore Thread Kua'e Intelligent Computing Center wurde auf die Größenordnung von 10.000 Karten mit 10.000 P-Level-Gleitkomma-Rechenfunktionen erweitert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!