Google即將推出A3實例：搭載英偉達H100，提供26 exaFlops的AI效能

IT之家 8 月 31 日消息，Google Cloud 在今天舉行的雲端 Next 大會上，宣布下個月上線 A3 虛擬機器實例。 Google雲端在今年 5 月舉行的 I / O 開發者大會上宣布 A3 實例，最大的亮點在​​於配備英偉達 H100 Tensor Core GPU，滿足生成式 AI 和大語言模型的需求。

IT之家之前有報道，A3實例使用了第4代英特爾至強可擴展處理器、2TB DDR5-4800內存，以及8張英偉達H100“Hopper”GPU，透過NVLink 4.0和NVSwitch實現了3.6 TBps的對分頻寬

新的A3超級電腦被專門設計用於訓練和服務對人工智慧模型要求非常嚴苛的任務，這些模型推動了當今生成人工智慧和大型語言模型的創新。據介紹，這台超級電腦能夠提供26 exaFlops的人工智慧效能

在今天的發表會上，Google雲端也介紹了全新的TPU v5e，這是迄今為止成本效益最高、最容易存取的雲端TPU。這些TPU和客製化的ASIC旨在加速人工智慧和機器學習工作負載

根據SDxCentral的報道，TPU v5e相較於前代產品，在每美元的訓練性能上提高了一倍，在每美元的推理性能上提高了2.5倍

以上是Google即將推出A3實例：搭載英偉達H100，提供26 exaFlops的AI效能的詳細內容。更多資訊請關注PHP中文網其他相關文章！