Google Cloud kündigte an, dass es im nächsten Monat virtuelle A3-Maschineninstanzen einführen wird, die mit NVIDIA-GPUs ausgestattet sind, um den KI-Anforderungen gerecht zu werden

Laut Nachrichten vom 31. August gab Google Cloud auf der heute abgehaltenen Cloud Next-Konferenz bekannt, dass es nächsten Monat A3-Virtual-Machine-Instanzen einführen wird. Das größte Highlight dieser neuen virtuellen Maschineninstanz ist, dass sie mit NVIDIA H100 ausgestattet ist Die Tensor Core GPU kann die Anforderungen generativer künstlicher Intelligenz und großer Sprachmodelle erfüllen.

Berichten zufolge verwendet die A3-Instanz den skalierbaren Intel Xeon-Prozessor der 4. Generation, 2 TB DDR5-4800-Speicher und 8 NVIDIA H100 „Hopper“-GPUs. Von NVlink 4.0 und NVSwitch implementiert diese Instanz 3.6 Halbierungsbandbreite in TBit/s. Der neue A3-Supercomputer ist darauf ausgelegt, die anspruchsvollsten KI-Modelle zu trainieren und zu bedienen sowie generative KI und groß angelegte Sprachmodellinnovationen voranzutreiben. Es wird gesagt, dass dieser Supercomputer 26 bereitstellen kann Künstliche Intelligenzleistung von exaFlops.

Darüber hinaus stellte Google Cloud auf der Pressekonferenz auch das neue TPU v5e vor. Diese Cloud-TPU ist die bisher kostengünstigste und zugänglichste. Diese TPUs oder benutzerdefinierten ASICs zielen darauf ab, Arbeitslasten im Bereich künstliche Intelligenz und maschinelles Lernen zu beschleunigen. Laut SDxCentral verdoppelt TPU v5e die Trainingsleistung pro Dollar und verbessert die Inferenzleistung pro Dollar um das 2,5-fache im Vergleich zur vorherigen Generation

Das obige ist der detaillierte Inhalt vonGoogle Cloud kündigte an, dass es im nächsten Monat virtuelle A3-Maschineninstanzen einführen wird, die mit NVIDIA-GPUs ausgestattet sind, um den KI-Anforderungen gerecht zu werden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!