OpenAI menawarkan pilihan penalaan halus dan penyesuaian baharu

Penalaan halus memainkan peranan penting dalam membina alatan AI yang berharga. Proses memperhalusi model pra-latihan menggunakan set data yang lebih disasarkan ini membolehkan pengguna meningkatkan pemahaman model tentang konotasi profesional, membolehkan pengguna menambah pengetahuan sedia ada pada model untuk tugasan tertentu.

Walaupun proses ini mungkin mengambil masa, ia selalunya tiga kali lebih menjimatkan kos daripada melatih model dari awal. Nilai ini ditunjukkan dalam pengumuman OpenAI baru-baru ini tentang pengembangan program model tersuainya dan pelbagai ciri baharu untuk API penalaan halusnya.

Ciri baharu API penalaan halus layan diri

OpenAI mula-mula mengumumkan pelancaran API penalaan halus layan diri untuk GPT-3 pada Ogos 2023, dan menerima sambutan yang bersemangat daripada komuniti AI. OpenAI melaporkan bahawa beribu-ribu kumpulan telah memanfaatkan API untuk melatih puluhan ribu model, seperti menggunakan bahasa pengaturcaraan khusus untuk menjana kod, meringkaskan teks ke dalam format tertentu atau mencipta kandungan yang diperibadikan berdasarkan tingkah laku pengguna.

Sejak dilancarkan pada Ogos 2023, platform pemadanan pekerjaan dan pengambilan Indeed telah mencapai kejayaan yang ketara. Untuk memadankan pencari kerja dengan peluang pekerjaan yang berkaitan, Indeed menghantar pengesyoran yang diperibadikan kepada pengguna. Dengan memperhalusi GPT 3.5 Turbo untuk menghasilkan penjelasan yang lebih tepat tentang proses dan dapat mengurangkan bilangan token dalam makluman sebanyak 80%. Ini telah meningkatkan bilangan mesej yang dihantar syarikat kepada pencari kerja setiap bulan daripada kurang daripada 1 juta kepada kira-kira 20 juta.

Ciri API penalaan halus baharu membina kejayaan ini dan diharapkan dapat meningkatkan kefungsian untuk pengguna akan datang:

Penciptaan pusat pemeriksaan berasaskan zaman: Menjana pusat pemeriksaan model lengkap yang diperhalusi secara automatik pada setiap zaman latihan, Ini mengurangkan keperluan untuk latihan semula seterusnya, terutamanya dalam kes overfitting.

Taman Permainan Perbandingan: UI taman permainan selari baharu untuk membandingkan kualiti dan prestasi model, membenarkan penilaian manual keluaran berbilang model atau syot kilat penalaan halus untuk satu gesaan.

Penyepaduan pihak ketiga: Menyokong penyepaduan dengan platform pihak ketiga (bermula dengan Kebenaran dan Penyimpangan), membolehkan pembangun berkongsi data penalaan halus terperinci ke seluruh timbunan.

Metrik pengesahan komprehensif: Keupayaan untuk mengira metrik seperti kehilangan dan ketepatan untuk keseluruhan set data pengesahan untuk lebih memahami kualiti model.

Konfigurasi hiperparameter: Keupayaan untuk mengkonfigurasi hiperparameter yang tersedia daripada papan pemuka (bukan hanya melalui API atau SDK).

Memperbaiki penambahbaikan papan pemuka: termasuk keupayaan untuk mengkonfigurasi hiperparameter, melihat metrik latihan yang lebih terperinci dan menjalankan semula kerja daripada konfigurasi sebelumnya.

Membina kejayaan masa lalu, OpenAI percaya ciri baharu ini akan memberikan pembangun kawalan yang lebih terperinci ke atas usaha penalaan halus mereka.

Membantu penalaan halus dan model latihan tersuai

OpenAI juga telah menambah baik pelan model tersuai berdasarkan pelancaran pada DevDay pada November 2023. Salah satu perubahan utama ialah kemunculan penalaan halus berbantu, satu cara untuk memanfaatkan teknik berharga di luar penalaan halus API, seperti menambah hiperparameter tambahan dan pelbagai kaedah Penalaan Halus Berkesan Parameter (PEFT) pada skala yang lebih besar.

SK Telekom adalah contoh merealisasikan potensi penuh perkhidmatan ini. Pengendali telekom itu mempunyai lebih daripada 30 juta pengguna di Korea Selatan, jadi mereka ingin menyesuaikan model kecerdasan buatan yang boleh bertindak sebagai pakar perkhidmatan pelanggan telekom.

Dengan memperhalusi GPT-4 dengan kerjasama OpenAI untuk menumpukan pada perbualan berkaitan Telekom Korea, kualiti ringkasan perbualan SK Telecom bertambah baik sebanyak 35% dan ketepatan pengecaman niat meningkat sebanyak 33%. Apabila membandingkan model baru mereka yang diperhalusi dengan GPT-4 umum, skor kepuasan mereka juga meningkat daripada 3.6 kepada 4.5 daripada 5.

OpenAI juga memperkenalkan keupayaan untuk membina model tersuai untuk syarikat yang memerlukan penalaan mendalam model pengetahuan khusus domain. Perkongsian dengan syarikat AI sah Harvey menunjukkan nilai ciri ini. Kerja undang-undang memerlukan banyak dokumen intensif membaca, dan Harvey mahu menggunakan LLM (Model Bahasa Besar) untuk mensintesis maklumat daripada dokumen ini dan menyerahkannya kepada peguam untuk semakan. Walau bagaimanapun, banyak undang-undang adalah kompleks dan bergantung kepada konteks, dan Harvey berharap dapat bekerjasama dengan OpenAI untuk membina model terlatih tersuai yang boleh menggabungkan pengetahuan baharu dan kaedah penaakulan ke dalam model asas.

Harvey bekerjasama dengan OpenAI dan menambah bersamaan 10 bilion token data untuk melatih model undang-undang kes ini. Dengan menambahkan kedalaman kontekstual yang diperlukan untuk membuat pertimbangan undang-undang termaklum, model yang terhasil meningkatkan jawapan fakta sebanyak 83%.

Alat AI tidak pernah menjadi penyelesaian "penyembuh-semua". Kebolehubahsuaian adalah teras kepada kegunaan teknologi ini, dan kerja OpenAI dalam penalaan halus dan menyesuaikan model latihan akan membantu mengembangkan organisasi yang telah memperolehi daripada alat tersebut.

Atas ialah kandungan terperinci OpenAI menawarkan pilihan penalaan halus dan penyesuaian baharu. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!