Einführung eines Shengteng AI-Computing-Clusters mit neuer Architektur, um das Training großer Modelle mit über einer Billion Parametern zu unterstützen

Laut Nachrichten vom 20. September hat Wang Tao, Huaweis Geschäftsführer, Direktor des ICT Infrastructure Business Management Committee und Präsident von Enterprise BG, während der heute stattfindenden Huawei Full Connectivity Conference 2023 offiziell die neue Architektur des Ascend AI Computing veröffentlicht Cluster – Atlas 900 SuperCluster , kann das Training großer Modelle mit über einer Billion Parametern unterstützen.

Berichten zufolge nutzt der neue Cluster den neuen Huawei Galaxy AI Intelligent Computing Switch CloudEngine bis 18.000 Karten) Skalierungsfreie Cluster-Vernetzung.

Der neue Cluster verwendet außerdem eine innovative Superknotenarchitektur, die die Trainingsmöglichkeiten für große Modelle erheblich verbessert. Darüber hinaus nutzt Huawei seine umfassenden Vorteile in den Bereichen Computer, Netzwerk, Speicher, Energie und anderen Bereichen, um die Systemzuverlässigkeit auf Geräteebene, Knotenebene, Clusterebene und Geschäftsebene umfassend zu verbessern und die Stabilität des Trainings großer Modelle von Tagen auf Monate zu verbessern .

. Darüber hinaus hat

Huawei die offenere und benutzerfreundlichere heterogene Computerarchitektur CANN 7.0

veröffentlicht, die nicht nur vollständig mit den KI-Frameworks, Beschleunigungsbibliotheken und gängigen Großmodellen der Branche kompatibel ist, sondern sich auch umfassend öffnet zugrunde liegende Funktionen, die es dem KI-Framework und den Beschleunigungsbibliotheken ermöglichen, Rechenressourcen direkter aufzurufen und zu verwalten, sodass Entwickler Hochleistungsoperatoren anpassen können und großen Modellen eine differenzierte Wettbewerbsfähigkeit verleihen.

Huawei hat außerdem die Programmiersprache Ascend C aktualisiert, um eine effizientere Programmiermethode zu verwenden, um die Logik der Operatorimplementierung zu vereinfachen, den Entwicklungszyklus von Fusionsoperatoren erheblich zu verkürzen und die schnelle Entwicklung von KI-Modellen und -Anwendungen zu ermöglichen.

Für globale Unternehmen und Entwickler hat die offizielle Website von Huawei Cloud heute offiziell den Sonderbereich „Hundert Modelle und Tausende von Modi“ des Ascend AI Cloud Service gestartet. Der Sonderbereich enthält die wichtigsten Open-Source-Großmodelle der Branche Vollständig an den Ascend AI-Cloud-Service angepasst; bietet eine Toolkette für die Anwendungsentwicklung, sodass umständliche Konfigurationsprozesse überflüssig sind und ein Ein-Klick-Zugriff möglich ist.

▲ Ascend AI Cloud Service-Sonderbereich in verschiedenen Modi

Laut der Abfrage auf dieser Website hat der Ascend AI-Cluster seit Juli dieses Jahres den Bau von Rechenzentren für künstliche Intelligenz in unterstützt 25 Städte im ganzen Land, darunter öffentliche Rechenleistungsplattformen in 7 Städten, wurden als erste Gruppe nationaler „offener Innovationsplattformen für öffentliche Rechenleistung der neuen Generation für künstliche Intelligenz“ ausgewählt.

Shengteng AI hat mehr als 30 Hardwarepartner und mehr als 1.200 entwickelt ISVs und hat mehr als 2.500 KI-Lösungen für verschiedene Branchen auf den Markt gebracht und bietet umfangreiche Dienste für Betreiber, Internet, Finanzen und andere Branchen

Das obige ist der detaillierte Inhalt vonEinführung eines Shengteng AI-Computing-Clusters mit neuer Architektur, um das Training großer Modelle mit über einer Billion Parametern zu unterstützen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!