NVIDIA는 1000조 매개변수 AI 모델을 활용하여 Blackwell 기반 DGX SuperPOD 슈퍼컴퓨터를 출시했습니다.

3월 19일 이 사이트의 소식에 따르면, 오늘 열린 GTC 개발자 컨퍼런스에서 NVIDIA는 1조 매개변수 AI 모델 처리를 위한 DGX SuperPOD를 출시하여 초대형 생성 AI 훈련 및 추론 워크로드에 안정적인 성능을 제공했습니다.

이 사이트는 새로운 DGX SuperPOD가 새로운 고효율 수냉식 랙 마운트 아키텍처를 채택하고 NVIDIA DGX GB200 시스템을 갖추고 있다는 보고서를 통해 알게 되었습니다. 11.5엑사플롭의 인공 지능 슈퍼 컴퓨팅 성능과 240 FP4 정밀도의 테라바이트 속도를 지원하므로 고객은 랙을 추가하여 더욱 확장할 수 있습니다.

각 DGX GB200 시스템에는 36개의 NVIDIA Grace CPU와 72개의 NVIDIA Blackwell GPU를 포함하여 36개의 NVIDIA GB200 가속기 카드가 있으며 5세대 NVIDIA NVLink를 통해 슈퍼컴퓨터에 연결됩니다.

GB200 가속기 카드는 NVIDIA H100 Tensor Core GPU에 비해 ​​대규모 언어 모델 추론 워크로드에서 최대 30배 더 나은 성능을 제공합니다.

DGX SuperPOD에는 NVIDIA Quantum InfiniBand를 통해 연결된 8개 이상의 DGX GB200 시스템이 포함되어 있으며 수만 개의 GB200 가속기 카드로 확장할 수 있습니다.

현재 NVIDIA가 고객에게 제공하는 기본 구성에는 NVLink를 통해 8개의 DGX GB200 시스템에 연결된 576개의 Blackwell GPU가 포함됩니다.

NVIDIA의 창립자이자 CEO인 Jensen Huang은 다음과 같이 말했습니다.

NVIDIA DGX 인공 지능 슈퍼컴퓨터는 인공 지능 산업 혁명의 공장입니다. 새로운 DGX SuperPOD는 NVIDIA 가속 컴퓨팅, 네트워킹 및 소프트웨어의 최신 기술을 결합하여 모든 회사, 산업 및 국가가 자체 인공 지능을 개선하고 생성할 수 있도록 지원합니다.

위 내용은 NVIDIA는 1000조 매개변수 AI 모델을 활용하여 Blackwell 기반 DGX SuperPOD 슈퍼컴퓨터를 출시했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!