CPU AMD Ryzen AI dan GPU Radeon RX 7000 kini menyokong penggunaan chatbot LLM dan AI secara asli

Menurut berita dari laman web ini pada 7 Mac, AMD hari ini mengumumkan bahawa pengguna boleh menjalankan model bahasa besar (LLM) berasaskan GPT secara tempatan untuk membina chatbot AI eksklusif.

AMD berkata pengguna boleh menjalankan chatbot LLM dan AI secara asli pada peranti termasuk APU siri Ryzen 7000 dan Ryzen 8000 yang dikuasakan oleh NPU XDNA baharu AMD, serta peranti GPU siri Radeon RX 7000 dengan teras pecutan AI terbina dalam.

AMD memperincikan langkah larian dalam pengumuman, seperti menjalankan Mistral dengan 7 bilion parameter, cari dan muat turun "TheBloke/OpenHermes-2.5-Mistral-7B-GGUF" jika menjalankan LLAMA v2 dengan 7 bilion parameter , cari dan muat turun "TheBloke/Llama-2-7B-Chat-GGUF".

AMD bukan syarikat pertama yang melakukan perkara ini, NVIDIA juga baru-baru ini melancarkan "Sembang dengan RTX", yang disokong oleh GeForce RTX 40 dan RTX 30 siri GPU bot Sembang kecerdasan buatan. Ia dipercepatkan dengan set ciri TensorRT-LLM untuk menyampaikan hasil AI yang dijana dengan pantas berdasarkan set data setempat.

Alamat asal pengumuman dilampirkan pada laman web ini. Pengguna yang berminat boleh melawat dan membacanya. 🎜

Atas ialah kandungan terperinci CPU AMD Ryzen AI dan GPU Radeon RX 7000 kini menyokong penggunaan chatbot LLM dan AI secara asli. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!