1兆を超えるパラメータを持つ大規模なモデルトレーニングをサポートする新しいアーキテクチャShengteng AIコンピューティングクラスターを発表

9月20日のニュースによると、本日開催されたファーウェイ・フル・コネクティビティ・カンファレンス2023において、ファーウェイのマネージング・ディレクター、ICTインフラストラクチャー・ビジネス管理委員会のディレクター、エンタープライズBGの社長である王濤氏が、Ascendの新しいアーキテクチャを正式にリリースしたとのこと。 AI コンピューティング クラスター—Atlas 900 SuperCluster は、1 兆を超えるパラメーターを含む大規模なモデルのトレーニングをサポートできます。

レポートによると、新しいクラスターは新しい Huawei Galaxy AI インテリジェント コンピューティング スイッチ CloudEngine XH16800 を使用しており、高密度 800GE ポート機能により、 2 層になります。スイッチングネットワークで十分 2,250ノード(18,000枚相当)の超大規模ノンコンバージェンスクラスタネットワーキングを実現。

新しいクラスターでは、革新的なスーパーノード アーキテクチャも使用されており、大規模モデルのトレーニング機能が大幅に向上しています。さらに、ファーウェイは、コンピューティング、ネットワーク、ストレージ、エネルギー、その他の分野における総合的な利点を活用して、デバイスレベル、ノードレベル、クラスターレベル、ビジネスレベルからシステムの信頼性を包括的に向上させ、からの大規模モデルトレーニングの安定性を向上させます。日レベルから月レベル 。

さらに、ファーウェイは、よりオープンで使いやすいCANN 7.0ヘテロジニアス・コンピューティング・アーキテクチャをリリースしました。これは、業界のAIフレームワーク、アクセラレーション・ライブラリ、および主流と完全な互換性があるだけでなく、大規模なモデルだけでなく、基盤となる機能も大幅に開放され、AI フレームワークとアクセラレーション ライブラリがコンピューティング リソースをより直接呼び出して管理できるようになり、開発者が高性能のオペレーターをカスタマイズできるようになり、大規模モデルに差別化された競争力を与えることができます。

ファーウェイはまた、Ascend C プログラミング言語 をアップグレードし、より効率的なプログラミング手法を使用してオペレーターの実装ロジックを簡素化し、フュージョン オペレーターの開発を大幅に短縮しました。 . サイクルにより、AI モデルとアプリケーションの迅速な開発が可能になります。

グローバル企業と開発者向けに、Huawei Cloud 公式 Web サイトで Shengteng AI クラウド サービス「モジュールと数千の国家」特別エリア が本日正式に開始されました。特別な分野には業界が含まれます 主流のオープンソースの大規模モデルは、Ascend AI クラウド サービスに基づいて完全に適応および最適化されています; アプリケーション開発用のツール チェーンが提供され、すべての開発ツールがクラウドベースであるため、煩雑な構成プロセスが不要になり、ワンクリックでアクセスできるようになりますそして瞬時に起動して使用します。

▲ Shengteng AI クラウド サービス特区

によるとこのサイトのクエリによると、今年 7 月の時点で、Ascend AI クラスターは全国 25 都市の人工知能コンピューティング センターの建設をサポートしており、7 都市のパブリック コンピューティング パワー プラットフォームが全国的な「新世代」の最初のバッチとして選択されています。イノベーション プラットフォーム」

Shengteng AI は、30 を超えるハードウェア パートナーと 1,200 を超える ISV を開発し、2,500 を超える業界 AI ソリューションを立ち上げて、オペレーターに大規模なサービスを提供しています。インターネット、金融、その他の業界

以上が1兆を超えるパラメータを持つ大規模なモデルトレーニングをサポートする新しいアーキテクチャShengteng AIコンピューティングクラスターを発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。