Dengan ModelScope-Agent, orang baru juga boleh mencipta ejen eksklusif, dengan disertakan tutorial peringkat pengasuh

ModelScope-Agent menyediakan rangka kerja Ejen universal dan boleh disesuaikan untuk memudahkan pengguna mencipta ejen mereka sendiri. Rangka kerja ini berdasarkan model bahasa besar sumber terbuka (LLM) sebagai teras dan menyediakan perpustakaan sistem mesra pengguna dengan ciri berikut:

• Rangka kerja yang boleh disesuaikan dan berciri penuh: Menyediakan enjin yang boleh disesuaikan Reka bentuk meliputi fungsi seperti pengumpulan data, pengambilan alat, pendaftaran alat, pengurusan storan, latihan model tersuai dan aplikasi praktikal, dan boleh digunakan untuk melaksanakan aplikasi dengan pantas dalam senario sebenar.
• LLM sumber terbuka sebagai komponen teras: menyokong latihan model pada berbilang LLM sumber terbuka dalam komuniti ModelScope, dan telah menyediakan set data arahan alat bahasa Cina dan Inggeris yang menyokong MSAgent-Bench, yang digunakan untuk meningkatkan model besar sumber terbuka sebagai Keupayaan perancangan dan penjadualan hab Ejen.
• API yang pelbagai dan komprehensif, menyokong pengambilan semula API: Mencapai penyepaduan yang lancar dengan API model dan API fungsi biasa dengan cara bersatu, dan menyediakan penyelesaian perolehan API sumber terbuka secara lalai.

• Pautan kertas: https://arxiv.org/abs/2309.00986
• Pautan kod: https://github.com/modelscope🜎Modelscope🜎alamat model : https://modelscope.cn/studios/damo/ModelScopeGPT/summary
Paparan keupayaan

Yang berikut akan mula-mula menunjukkan beberapa keupayaan ModelScopeGPT (Magic GPT) yang dilaksanakan berdasarkan ModelScope

Kandungan yang perlu ditulis semula ialah: 1. Dalam panggilan alat satu langkah, Ejen perlu memilih alat yang sesuai dan menjana permintaan, dan kemudian mengembalikan keputusan kepada pengguna berdasarkan hasil pelaksanaan

2. Dalam panggilan alat berbilang langkah Dalam proses ini, Ejen perlu merancang, menjadualkan, melaksanakan dan membalas berbilang alatan

3 untuk melombong parameter yang perlu dihantar kepada alat daripada perbualan sejarah.

Platform Soal Jawab pengetahuan komuniti berdasarkan alat cari semula

Pengenalan kepada rangka kerja

rangka kerja Model

Apakah reka bentuk model-Sco

ModelScope-Agent ialah rangka kerja Ejen umum yang boleh disesuaikan untuk pembangunan aplikasi praktikal (LLM) sebagai teras dan termasuk modul seperti kawalan memori dan penggunaan alat. LLM sumber terbuka terutamanya bertanggungjawab untuk perancangan tugas, penjadualan dan penjanaan balasan, terutamanya modul kawalan memori termasuk pengambilan pengetahuan dan pengurusan segera (kata cepat) termasuk perpustakaan alat, pengambilan alat dan penyesuaian alat; Seni bina sistem ModelScope-Agent adalah seperti berikut:

Bagaimana rangka kerja ModelScope-Agent dilaksanakan

Prinsip kerja ModelScope-Agent kemudiannya menjadi kecil. mereka satu persatu Item selesai. Contohnya, apabila pengguna meminta "Tulis cerpen, baca dengan suara wanita dan tambahkan video pada masa yang sama," ModelScope-Agent akan memaparkan keseluruhan proses perancangan tugasan itu akan mendapatkan semula alat sintesis pertuturan yang berkaitan terlebih dahulu carian alat, dan kemudian LLM sumber terbuka akan melaksanakan perancangan dan penjadualan, mula-mula menjana cerita, kemudian memanggil model penjanaan pertuturan yang sepadan, menjana ucapan dan membacanya dalam suara wanita, memaparkannya kepada pengguna, dan akhirnya memanggilnya. model penjanaan video untuk menjana video berdasarkan kandungan cerita yang dihasilkan; keseluruhan proses tidak memerlukan konfigurasi pengguna. Permintaan semasa mungkin memerlukan Alat yang dipanggil meningkatkan kemudahan penggunaan.

Rangka kerja latihan model besar sumber terbuka: Kaedah latihan serba baharu, data dan model sumber terbuka

Sebagai tambahan kepada rangka kerja ModelScope-Agent, pasukan penyelidik juga mencadangkan kaedah latihan penalaan halus arahan alat baharu: Weighted LM, yang meningkatkan keupayaan untuk memanggil arahan alat model besar sumber terbuka dengan kehilangan wajaran pada beberapa token yang dipanggil oleh alat arahan.

Pasukan penyelidik juga mengeluarkan set data Cina dan Inggeris berkualiti tinggi yang dipanggil MSAgent-Bench, yang mengandungi 600,000 sampel dengan keupayaan untuk memanggil beberapa pusingan arahan alat berbilang langkah. Berdasarkan set data ini, pasukan penyelidik menggunakan kaedah latihan baharu untuk mengoptimumkan model Qwen-7B dan memperoleh model bernama MSAgent-Qwen-7B. Set data dan model yang berkaitan telah dikeluarkan secara terbuka pada platform sumber terbuka

• MSAgent-Bench: https://modelscope.cn/datasets/damo/MSAgent-Bench/summary
-Qwen-7B: https://modelscope.cn/models/damo/MSAgent-Qwen-7B/summary

Kandungan ditulis semula: Senarai alat bersepaduSewa Model ItScope-Current

disambungkan secara lalai kepada banyak model AI seperti pemprosesan bahasa semula jadi, pertuturan, penglihatan dan pelbagai mod, dan juga telah menyepadukan penyelesaian sumber terbuka seperti perolehan pengetahuan dan perolehan API secara lalai.

Amalan ModelScope-Agent

ModelScope-Agent github juga menyediakan halaman demo amalan peringkat pengasuh, membenarkan orang baru membina ejen mereka sendiri.

Sila muat turun buku nota tunjuk cara: https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb

1 Mula-mula tarik kod ModelScope-Agent dan pasang kebergantungan yang berkaitan

2. Fail konfigurasi perlu dikonfigurasikan, termasuk token ModelScope dan membina enjin cari semula alat API

3. Pembinaan ejen dan penggunaan, kebergantungan Model besar, senarai alat, pengambilan alat dan modul memori yang telah dibina sebelum ini

Daftar amalan alat baharu

1 Selepas menarik kod ModelScope-Agent, masukkan modelscopey/agent_agent tahap kod Tambah fail baharu bernama custom_tool.py. Konfigurasikan API yang diperlukan dalam fail ini: perihalan, nama dan parameter. Pada masa yang sama, dua pilihan kaedah panggilan ditambah: local_call (panggilan tempatan) dan remote_call (panggilan jauh)

Kandungan yang perlu ditulis semula ialah: 2. Persekitaran konfigurasi dan penggunaan model besar rujuk 2 dalam bab sebelumnya , 3

3 Bina alat yang baru didaftarkan ke dalam senarai dan tambahkannya pada proses pembinaan Ejen

4 uji alat Sama ada API yang sepadan boleh berjaya dipanggil

🎜🎜🎜

5. Ejen akan secara automatik memanggil API yang sepadan dan mengembalikan hasil pelaksanaan kepada model utama, dan model utama akan membalas balasan

One More Thing

di atas boleh merujuk kepada pemaju tutorial untuk membina ejen sendiri dengan mudah, ModelScope-Agent bergantung pada komuniti Moda Pada masa hadapan, ia juga akan menyesuaikan diri dengan lebih banyak model besar sumber terbuka baharu dan melancarkan lebih banyak aplikasi yang dibangunkan berdasarkan ModelScope-Agent, seperti ejen perkhidmatan pelanggan. ejen pembantu peribadi, ejen cerita, Ejen Gerakan, Ejen pelbagai (multi-modal Agent) dan sebagainya.

Atas ialah kandungan terperinci Dengan ModelScope-Agent, orang baru juga boleh mencipta ejen eksklusif, dengan disertakan tutorial peringkat pengasuh. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!