Google, 5세대 AI 칩 출시: AI 모델의 훈련 및 실행 속도를 5배 가속화

Google은 대형 모델의 학습 및 추론을 위한 5세대 맞춤형 텐서 프로세서(TPU) 칩 TPU v5e를 출시했습니다. 새로운 칩을 사용하면 AI 모델을 훈련하고 실행하는 속도가 5배 더 빨라집니다. 이전 세대 칩과 비교하여 TPU v5e는 학습 성능을 달러당 2배 향상시키고 추론 성능을 달러당 2.5배 향상시킵니다

Google의 5세대 맞춤형 텐서 프로세서(TPU) 칩인 TPU v5e는 대형 모델의 학습 및 추론에 사용되어 AI 모델의 학습 및 실행 속도를 최대 5배 향상시킵니다.

샌프란시스코에서 열린 연례 Google Cloud 컨퍼런스인 Google Cloud Next에서 Google은 대규모 모델 학습 및 추론에 사용되는 5세대 맞춤형 텐서 프로세서(TPU) 칩 TPU v5e인 새로운 인공 지능 칩을 출시했습니다. 이전 세대 칩과 비교하여 TPU v5e는 달러당 훈련 성능을 2배, 달러당 추론 성능을 2.5배 향상시킵니다

Google은 최적화를 통해 기계 학습 모델의 훈련 및 추론 속도를 높일 수 있는 신경망 전용 TPU 칩을 설계했습니다. 1세대 TPU는 2016년에 출시되었고, 4세대 맞춤형 프로세서 TPU는 2021년에 출시되어 2022년에 개발자에게 제공될 예정입니다. Cloud TPU는 Google Cloud Services의 기능으로 대규모 언어 모델, 단백질 접힘 모델링, 약물 개발 등 많은 양의 행렬 계산이 필요한 크고 복잡한 딥 러닝 모델에 적합합니다. 클라우드 TPU를 사용하면 기업이 AI 워크로드를 구현할 때 비용과 시간을 절약할 수 있습니다

Google Cloud는 중대형 모델의 학습 및 추론 요구사항을 위해 설계된 TPU v5e를 출시했습니다. 이 버전의 칩은 이전 세대 TPU v4와 비교하여 달러당 훈련 성능이 2배 향상되고 달러당 추론 성능이 2.5배 향상되었으며 비용은 TPU v4의 절반 미만입니다. . 이를 통해 더 많은 조직이 성능이나 유연성을 희생하지 않고도 더 크고 복잡한 AI 모델을 교육하고 배포할 수 있습니다. Google Cloud는 TPU v5e를 총 400Tb/s 이상의 대역폭으로 최대 256개 칩의 상호 연결을 지원하고 다양한 대규모 언어 모델 및 생성 기능을 지원하기 위해 8가지 가상 머신 구성을 제공하는 '슈퍼컴퓨터'라고 설명합니다. 인공 지능 지능형 모델에 대한 요구 사항. 속도 벤치마크에 따르면 TPU v5e를 사용하면 AI 모델을 훈련하고 실행하는 속도가 5배 더 빨라집니다

기술 매체 TechCrunch에 따르면 Google 클라우드 컴퓨팅 및 머신러닝 인프라 부문 부사장 겸 총괄 관리자인 Mark Lohmeyer는 "이것은 현재까지 가장 비용 효율적이고 접근성이 뛰어난 클라우드 TPU입니다."라고 Lohmeyer Er은 Google Cloud가 사용자에게 보장하는 기능을 강조했습니다. TPU 클러스터를 이전에 도달할 수 없었던 수준으로 확장할 수 있으므로 고객은 단일 TPU 클러스터의 물리적 경계를 넘어 인공 지능 모델을 쉽게 확장할 수 있습니다. 즉, 단일 대규모 AI 워크로드가 여러 물리적 TPU 클러스터에 걸쳐 있고 비용 효율적으로 수만 개의 칩으로 확장될 수 있습니다. "클라우드 GPU 및 클라우드 TPU와 관련하여 우리는 고객에게 AI 워크로드에 대한 광범위한 수요를 충족할 수 있는 다양한 선택권과 유연성을 제공합니다."

Google Cloud는 차세대 TPU를 출시하는 것 외에도 다음 달 NVIDIA H100 GPU 기반 A3 시리즈 가상 머신을 출시할 예정이라고 발표했습니다. 이 가상 머신은 대규모 인공 지능에 강력한 컴퓨팅 성능을 제공하기 위해 GPU 슈퍼컴퓨터 형태로 제공됩니다. 지능 모델

위 내용은 Google, 5세대 AI 칩 출시: AI 모델의 훈련 및 실행 속도를 5배 가속화의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!