谷歌即将推出A3实例：搭载英伟达H100，提供26 exaFlops的AI性能

IT之家 8 月 31 日消息，Google Cloud 在今天召开的云 Next 大会上，宣布下月上线 A3 虚拟机实例。谷歌云在今年 5 月召开的 I / O 开发者大会上宣布 A3 实例，最大的亮点在于配备英伟达 H100 Tensor Core GPU，满足生成式 AI 和大语言模型的需求。

IT之家之前有报道，A3实例使用了第4代英特尔至强可扩展处理器、2TB DDR5-4800内存，以及8张英伟达H100“Hopper”GPU，通过NVLink 4.0和NVSwitch实现了3.6 TBps的对分带宽

新的A3超级计算机被专门设计用于训练和服务对人工智能模型要求非常严苛的任务，这些模型推动了当今生成人工智能和大型语言模型的创新。据介绍，这台超级计算机能够提供26 exaFlops的人工智能性能

在今天的发布会上，谷歌云还介绍了全新的TPU v5e，这是迄今为止成本效益最高、最易于访问的云TPU。这些TPU和定制的ASIC旨在加速人工智能和机器学习工作负载

根据SDxCentral的报道，TPU v5e相较于前代产品，在每美元的训练性能上提高了一倍，在每美元的推理性能上提高了2.5倍

以上是谷歌即将推出A3实例：搭载英伟达H100，提供26 exaFlops的AI性能的详细内容。更多信息请关注PHP中文网其他相关文章！