Google は A3 インスタンスを立ち上げようとしています: NVIDIA H100 を搭載し、26 エクサフロップスの AI パフォーマンスを提供します

WBOY
リリース: 2023-09-05 12:29:01
転載
1355 人が閲覧しました

8 月 31 日の IT ホーム ニュース Google Cloud は、本日開催された Cloud Next カンファレンスで、A3 仮想マシン インスタンスが来月開始されることを発表しました。 Google Cloud は、今年 5 月に開催された I/O Developer Conference で A3 インスタンスを発表しましたが、最大のハイライトは、生成 AI や大規模言語モデルのニーズを満たすために NVIDIA H100 Tensor Core GPU を搭載していることです。

谷歌即将推出A3实例:搭载英伟达H100,提供26 exaFlops的AI性能

IT House は、A3 インスタンスが第 4 世代 Intel Xeon スケーラブル プロセッサ、2TB DDR5-4800 メモリ、および 8 基の NVIDIA H100 "Hopper" GPU を使用し、NVLink 4.0 および NVSwitch を通じて 3.6 TBps を達成していることを以前に報告しました。

新しい A3 スーパーコンピューターは、生成人工知能と大規模言語モデルにおける今日のイノベーションを推進する人工知能モデルで最も要求の厳しいタスクをトレーニングし提供するように特別に設計されています。レポートによると、このスーパーコンピューターは 26 エクサフロップスの人工知能パフォーマンスを提供できるそうです。

本日の発表で、Google Cloud は、これまでで最もコスト効率が高くアクセスしやすいクラウド TPU である新しい TPU v5e も導入しました。これらの TPU とカスタム ASIC は、人工知能と機械学習のワークロードを高速化するように設計されています

SDxCentral のレポートによると、TPU v5e は、前世代の製品と比較して、1 ドルあたりのトレーニング パフォーマンスが 2 倍、1 ドルあたりの推論パフォーマンスが 2.5 倍向上しました

以上がGoogle は A3 インスタンスを立ち上げようとしています: NVIDIA H100 を搭載し、26 エクサフロップスの AI パフォーマンスを提供しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ソース:sohu.com
このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート