엔비디아, L40S GPU 출시, AI 추론 성능이 A100을 약 1.2배 상회

8월 10일 IT House 뉴스에 따르면 NVIDIA는 최근 새로운 NVIDIA L40S GPU와 GPU가 장착된 OVX 서버 시스템을 출시했습니다. 이 기술에 대한 문서는 여기에서 확인할 수 있습니다

▲ 사진출처: 엔비디아 공식 홈페이지

최신 OVX 서버와 결합된 이 L40S GPU는 AI 대형 모델 훈련 및 추론, 3D 디자인, 시각화, 비디오 처리, 산업 디지털화 및 기타 목적에 사용될 수 있다고 보고되었습니다. "서로 보완" L40S 시스템은 "생성 AI, 그래픽 및 비디오 처리 기능을 향상시키고 컴퓨팅 성능에 대한 증가하는 수요를 충족시킬 수 있습니다."

IT House의 조사에 따르면 L40S GPU는 48GB GDDR6 ECC 비디오 메모리를 갖춘 NVIDIA의 이전 L40 GPU의 업그레이드 버전이라는 것을 알게 되었습니다. GPU는 Ada Lovelace 아키텍처를 기반으로 하며 4세대 Tensor Core와 FP8 변환 엔진을 탑재하여 컴퓨팅 속도가 이전 세대보다 5배 향상되었습니다. 하지만 NVLink는 아직 지원되지 않습니다

NVIDIA에 따르면 L40S는 A100보다 1.2배 더 나은 생성 AI 추론 성능과 1.7배 더 나은 트레이닝 성능을 제공합니다. NVIDIA는 "수십억 개의 매개변수와 다양한 데이터 패턴을 포함하는 복잡한 AI 작업"의 경우 L40S의 성능이 더욱 중요하다고 믿습니다

NVIDIA는 올 가을 NVIDIA L40S GPU를 출시할 것이라고 발표했습니다. 각 NVIDIA OVX 서버 시스템은 최대 8개의 L40S 가속기 카드를 지원할 수 있지만 NVIDIA는 아직 이 GPU의 가격을 발표하지 않았습니다

NVIDIA는 ASUS, Dell, Gigabyte, HPE, Lenovo, QCT 및 Supermicro가 곧 L40S GPU가 장착된 OVX 서버 시스템을 출시할 것이라고 발표했습니다

위 내용은 엔비디아, L40S GPU 출시, AI 추론 성능이 A100을 약 1.2배 상회의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!