Penalaan halus kod 0 bagi model besar adalah popular, hanya 5 langkah diperlukan dan kosnya serendah 150 yuan

Perhalusi model besar dengan kod 0 dan kosnya kurang daripada $20(lebih kurang RMB 144)?

Prosesnya juga sangat mudah, hanya 5 langkah.

Model generatif sumber terbuka panas seperti LLaMA, GPT, StableLM, dll semuanya boleh dikendalikan.

Gambar

Ini ialah Monster API, platform API popular terkini.

Sesetengah orang berpendapat bahawa kerja baharu dalam medan sumber terbuka ini boleh menulis semula peraturan permainan pembangunan AI dan mempercepatkan kelajuan aplikasi AI.

Gambar

Ada yang bertanya teruja, adakah GPT-3/GPT-4 akan disambungkan kelak?

Gambar

Jadi, bagaimana sebenarnya ia dilaksanakan?

Lima langkah dan kod sifar

Pemahaman mudah, Monster API adalah untuk memudahkan langkah penalaan halus sebanyak mungkin, supaya pembangun tidak lagi perlu melakukan satu siri tetapan secara manual, sambil turut menyediakan sumber GPU yang murah dan pengoptimuman memori .

Proses khusus adalah seperti berikut:

Langkah pertama ialah memilih model untuk penalaan halus.

Sebagai contoh, LLaMA-7B, GPT-J-6B, StableLM-7B, dll. Monster API menyediakan sekurang-kurangnya 10 model besar asas.

Gambar

Langkah kedua, pilih atau buat tugasan penalaan halus. Contohnya, penalaan halus arahan, klasifikasi teks, dsb., atau tugas tersuai.

Gambar

Langkah , pilih set data HuggingFace.

API Monster boleh menyepadukan set data HuggingFace dengan lancar, dengan pelbagai pilihan; ia juga boleh mengesyorkan set data berdasarkan jenis tugas.

Dan format boleh ditetapkan secara automatik tanpa operasi manual.

Gambar

Langkah , tetapkan hiperparameter.

Gambar

Langkah 5, semak dan serahkan.

Selepas menyediakan semua langkah di atas, pastikan tiada ralat sebelum menghantar.

API Raksasa bermakna tugas boleh dipantau melalui log pada WandB.

menulis dalam blognya bahawa menggunakan DataBricks Dolly 15k LLaMA-7B yang diperhalusi untuk menyiapkan 3 epouch berharga kurang daripada 20 dolar AS (bersamaan dengan kira-kira 144 yuan dalam RMB).

Laman web rasmi menunjukkan bahawa 2,500 mata akan diberikan sebagai hadiah selepas mendaftar sebagai pengguna. Keahlian dibahagikan kepada tiga peringkat, dan yuran masing-masing adalah AS$9/AS$29/AS$39 sebulan.

Pictures

API Monster bukan sahaja menyediakan fungsi penalaan halus, tetapi juga menyediakan pelbagai antara muka API AI generatif, dan kosnya 80% lebih rendah daripada penyelesaian lain.

Gambar

Syarikat di belakangnya telah menerima AS$1.1 juta dalam bentuk pembiayaan

Berita menunjukkan bahawa syarikat di sebalik Monster API telah menerima 1.1 juta dolar AS dalam pembiayaan pra-benih.

Permulaan AI ini meletakkan dirinya sebagai "Airbnb dalam medan GPU", secara fleksibel menjadualkan sumber GPU yang tersebar di seluruh dunia supaya pembangun boleh menggunakannya pada harga yang lebih rendah.

Gambar

Pengasasnya ialah dua beradik Gaurav Vij dan Saurabh Vij.

Antaranya, Gaurav Vij juga mengasaskan syarikat CV. Justru kerana syarikat CV perlu menghadapi modal pengkomputeran awan yang besar, mereka telah diilhamkan untuk membina platform sedemikian.

Saurabh Vij sebelum ini seorang ahli fizik zarah di CERN dan juga mempelajari pengkomputeran teragih.

Saudara-saudara berkata bahawa selepas beberapa pusingan lelaran teknologi, mereka mengoptimumkan prestasi GPU gred pengguna pada tugas pembelajaran mesin, mengurangkan kos menjalankan model Whisper AI sebanyak 90% berbanding platform AWS, jadi mereka fikir mengapa tidak Gunakan kaedah ini untuk membantu puluhan ribu pembangun.

Pada masa yang sama, mereka mendedahkan bahawa salah seorang pelanggan syarikat telah menjimatkan $300,000 dengan menggunakan sumber pengkomputeran GPU yang diedarkan mereka.

Pautan rujukan:
[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/
[2]https://www.enterpriseai.news/2023/06/ 09/raksasa-api-melancarkan-airbnb-of-gpus-dengan-1-1m-pra-benih/

Atas ialah kandungan terperinci Penalaan halus kod 0 bagi model besar adalah popular, hanya 5 langkah diperlukan dan kosnya serendah 150 yuan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!