> 기술 주변기기 > 일체 포함 > Azure AI 인프라가 대폭 업그레이드되었습니다! 인공지능 역량 더욱 확장

Azure AI 인프라가 대폭 업그레이드되었습니다! 인공지능 역량 더욱 확장

王林
풀어 주다: 2023-11-23 15:01:29
앞으로
1135명이 탐색했습니다.

Azure AI 基础设施强势升级!进一步扩展人工智能能力

Microsoft Azure AI 인프라는 개발자에게 Azure 플랫폼에서 차세대 AI 기반 애플리케이션을 구축하는 데 필요한 시스템, 도구 및 리소스를 제공하는 Microsoft 확장 제품 및 서비스의 핵심 요소입니다.

하드웨어 및 AI 인프라에 대한 Microsoft의 초기 투자는 고객이 AI 효율성과 혁신을 비즈니스 가치로 전환하는 데 도움이 됩니다. AI를 활용하면 사용자는 더욱 풍부한 사용자 경험을 창출하고 혁신을 주도하며 비즈니스 생산성을 향상할 수 있습니다

Microsoft Azure AI 인프라는 글로벌 확장성을 지원할 수 있으며 Microsoft는 앞으로도 지속적으로 투자하고 확장할 것입니다. 이제 Microsoft는 NVIDIA H100 Tensor Core 그래픽 처리 장치(GPU)와 지연 시간이 짧은 네트워크를 탑재하여 기업을 AI 애플리케이션의 새로운 시대로 이끄는 ND H100 v5 가상 머신 시리즈를 출시했습니다.

AI 처리 및 규모 수준은 전례가 없습니다

ND H100 v5 가상 머신 시리즈 출시

Microsoft는 이제 미국 동부 및 미국 중남부 Azure 지역에서 사용할 수 있는 새로운

Azure ND H100 v5 가상 머신(VM) 시리즈를 발표했습니다. 이 시리즈는 최신 NVIDIA H100 Tensor Core GPU 및 NVIDIA Quantum-2 InfiniBand 네트워킹을 갖추고 있습니다. 슈퍼컴퓨팅 성능과 규모에 대한 폭넓은 경험을 바탕으로 Microsoft는 점점 더 복잡해지는 고급 AI 워크로드를 처리할 수 있도록 ND H100 v5 시리즈 가상 머신을 설계했습니다. AI에 대한 Microsoft의 심층적이고 지속적인 투자의 일환으로 Microsoft는 AI에 최적화된 4K GPU 클러스터를 활용하고 있으며 내년에 이를 수십만 개의 새로운 GPU로 확장할 예정입니다. ND H100 v5 VM 가상 머신 시리즈에는 다음과 같은 기능이 있습니다. - 고성능: ND H100 v5 VM 가상 머신 시리즈는 강력한 컴퓨팅 성능과 처리 속도를 갖추고 있으며 복잡한 컴퓨팅 작업을 빠르게 처리할 수 있습니다. - 유연성: 이 가상 머신 시리즈는 유연한 구성 옵션을 지원하며 실제 필요에 따라 조정 및 사용자 정의가 가능합니다. - 신뢰성: ND H100 v5 VM 가상 머신 시리즈는 안정적인 하드웨어 및 소프트웨어 구성 요소를 사용하여 시스템 안정성과 신뢰성을 보장합니다. - 보안: 이 일련의 가상 머신은 안전한 격리 환경을 제공하고 사용자 데이터와 애플리케이션을 효과적으로 보호할 수 있습니다. - 사용 편의성: ND H100 v5 VM 가상 머신 시리즈는 간단하고 사용하기 쉬운 인터페이스와 도구를 제공하여 사용자가 가상 ​​머신을 쉽게 관리하고 작동할 수 있도록 합니다

    AI 슈퍼 컴퓨팅 GPU:
  • 8개의 NVIDIA H100 Tensor Core GPU가 장착되어 있습니다. 이 시리즈는 이전 세대 가상 머신에 비해 AI 모델 속도를 크게 높여 기업에 비교할 수 없는 컴퓨팅 성능을 제공합니다.
  • 차세대 컴퓨터 처리 장치(CPU):
  • CPU 성능은 AI 훈련 및 추론에 매우 중요합니다. Microsoft는 가상 머신이 최고의 처리 속도에 도달할 수 있도록 4세대 Intel Xeon Scalable 프로세서를 선택했습니다.
  • 낮은 대기 시간 네트워크:
  • NVIDIA Quantum-2 ConnectX-7 InfiniBand를 사용하여 각 GPU는 400Gb/s를 가지며 각 VM은 3.2Tb/s 교차 노드 대역폭을 갖추고 있어 세계 최고의 슈퍼컴퓨터인 GPU 간의 원활한 성능을 보장합니다.
  • 최적화된 호스트-GPU 성능:
  • PCIe Gen5를 통해 GPU당 64GB/s의 대역폭을 제공하는 Azure는 CPU와 GPU 간에 상당한 성능 이점을 제공합니다.
  • 대규모 메모리 및 메모리 대역폭:
  • DDR5 메모리는 이 가상 머신 시리즈의 핵심으로, 더 높은 데이터 전송 속도와 효율성을 제공하므로 대규모 데이터 세트가 포함된 워크로드를 처리하는 데 이상적입니다.
  • 이 가상 머신 시리즈는 새로운 8비트 FP8 부동 소수점 데이터 유형을 사용하여 이전 세대 FP16보다 최대 6배 빠르게 행렬 곱셈 작업을 수행함으로써 성능 이점이 입증되었습니다. ND H100 v5 VM은 대규모 언어 모델(예: BLOOM 175B 엔드투엔드 모델)이 추론 속도를 최대 2배까지 향상시켜 AI 애플리케이션을 더욱 최적화할 수 있는 잠재력을 검증하는 데 도움이 됩니다.

Azure AI 인프라를 기반으로 하는 인공 지능은 제조에서 소매, 금융 서비스, 의료 등에 이르기까지 다양한 산업을 발전시킬 수 있는 잠재력을 가지고 있습니다.

위 내용은 Azure AI 인프라가 대폭 업그레이드되었습니다! 인공지능 역량 더욱 확장의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:sohu.com
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿