Microsoft가 어제 발표한 대로 Azure OpenAI 서비스의 가용성이 확장될 예정입니다.

Microsoft는 어제 Azure OpenAI 서비스의 가용성 확장을 발표했습니다. 이번 확장을 통해 호주 동부, 캐나다 동부, 미국 동부 2, 일본 동부 및 영국 남부의 고객은 인기 있는 OpenAI 모델인 GPT-4 및 GPT-35-Turbo에 액세스할 수 있습니다. 이번 확장 이전에는 Azure OpenAI 서비스는 미국 동부, 프랑스 중부, 미국 중남부 및 서유럽에서 사용할 수 있었습니다. 최근 실적 발표에서 Microsoft는 Azure OpenAI 서비스가 현재 11,000명 이상의 고객에게 서비스를 제공하고 있으며 하루 평균 100명의 신규 고객을 유치하고 있다고 발표했습니다.

Microsoft는 최신 NVIDIA H100 Tensor Core GPU 및 NVIDIA Quantum-2 InfiniBand 네트워킹을 갖춘 Azure ND H100 v5 가상 머신(VM) 시리즈의 공식 출시도 발표했습니다. 이 새로운 VM 시리즈는 AI 워크로드용으로 설계되었으며 현재 미국 동부 및 미국 중남부 Azure 지역에서 사용할 수 있습니다. VM이 공식적으로 출시되더라도 고객은 새 VM에 액세스하려는 관심을 등록해야 합니다.

ND H100 v5 VM에는 다음 기능이 포함됩니다.

• 8개의 NVIDIA H100 Tensor Core GPU가 장착된 이 VM은 이전 세대보다 더 빠른 AI 모델 성능을 약속합니다.
• 4세대 Intel Xeon Scalable 프로세서는 이러한 가상 머신의 기반으로 최적의 처리 속도를 보장합니다.
• NVIDIA Quantum-2 ConnectX-7 InfiniBand GPU당 400Gb/s 및 가상 머신당 3.2Tb/s의 교차 노드 대역폭은 세계 최고의 슈퍼컴퓨터의 기능과 일치하는 GPU 전반에 걸쳐 원활한 성능을 보장합니다.
• GPU당 64GB/s의 대역폭을 제공하는 PCIe Gen5를 통해 Azure는 CPU와 GPU 간에 상당한 성능 이점을 제공합니다.
• DDR5 메모리는 이러한 가상 머신의 핵심으로 더 높은 데이터 전송 속도와 효율성을 제공하므로 더 큰 데이터 세트가 있는 워크로드에 이상적입니다.
• 새로운 8비트 FP16 부동 소수점 데이터 유형을 사용하면 이전 세대의 FP8에 비해 행렬 곱셈 연산이 6배 빨라집니다.
• BLOOM 175B 엔드투엔드 모델 추론과 같은 대규모 언어 모델에서 2배의 속도 향상을 달성하여 AI 애플리케이션을 더욱 최적화할 수 있는 잠재력을 입증했습니다.

위 내용은 Microsoft가 어제 발표한 대로 Azure OpenAI 서비스의 가용성이 확장될 예정입니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!