Ketersediaan perkhidmatan Azure OpenAI akan diperluaskan seperti yang diumumkan Microsoft semalam

Microsoft semalam mengumumkan ketersediaan diperluaskan perkhidmatan Azure OpenAI. Dengan pengembangan ini, pelanggan di Australia East, Canada East, US East 2, Japan East dan UK South akan dapat mengakses model OpenAI popular GPT-4 dan GPT-35-Turbo. Sebelum pengembangan ini, perkhidmatan Azure OpenAI tersedia di AS Timur, Perancis Tengah, AS Selatan Tengah dan Eropah Barat. Semasa panggilan pendapatan baru-baru ini, Microsoft mengumumkan bahawa perkhidmatan Azure OpenAI kini melayani lebih daripada 11,000 pelanggan, menarik purata 100 pelanggan baharu setiap hari.

Microsoft turut mengumumkan keluaran rasmi siri mesin maya (VM) Azure ND H100 v5, yang menampilkan GPU Tensor Core NVIDIA H100 terkini dan rangkaian NVIDIA Quantum-2 InfiniBand. Siri VM baharu ini direka bentuk untuk beban kerja AI dan kini tersedia di wilayah Azure Timur AS dan Selatan Tengah AS. Walaupun VM dikeluarkan secara rasmi, pelanggan mesti mendaftarkan minat mereka untuk mengakses VM baharu.

VM ND H100 v5 termasuk ciri berikut:

• Dilengkapi dengan lapan GPU Teras Tensor NVIDIA H100, VM ini menjanjikan prestasi model AI yang lebih pantas berbanding generasi sebelumnya.
• Pemproses Intel Xeon Scalable generasi ke-4 ialah asas mesin maya ini, memastikan kelajuan pemprosesan yang optimum.
• NVIDIA Quantum-2 ConnectX-7 InfiniBand 400Gb/s setiap GPU dan 3.2 Tb/s lebar jalur nod silang bagi setiap mesin maya memastikan prestasi lancar merentas GPU, sepadan dengan keupayaan superkomputer terkemuka dunia.
• Dengan PCIe Gen5 menyediakan lebar jalur 64GB/s bagi setiap GPU, Azure mendayakan kelebihan prestasi yang ketara antara CPU dan GPU.
• Memori DDR5 adalah nadi mesin maya ini, memberikan kelajuan dan kecekapan pemindahan data yang lebih tinggi, menjadikannya sesuai untuk beban kerja dengan set data yang lebih besar.
• Operasi pendaraban matriks dipercepatkan dengan faktor enam apabila menggunakan jenis data titik terapung 8-bit FP16 baharu berbanding FP8 pada generasi sebelumnya.
• Mencapai kelajuan 2x ganda dalam model bahasa besar seperti inferens model hujung ke hujung BLOOM 175B, menunjukkan potensi mereka untuk mengoptimumkan lagi aplikasi AI.

Atas ialah kandungan terperinci Ketersediaan perkhidmatan Azure OpenAI akan diperluaskan seperti yang diumumkan Microsoft semalam. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!