AWS Orchestrator Multi-Agen: Panduan dengan Contoh

Penyelaras Multi-Agen AWS: Membina Rangka Kerja Fleksibel untuk Aplikasi AI Kompleks

Teknologi AI generatif baru muncul setiap minggu, dan Penyelaras Multi-Agen AWS adalah rangka kerja baru-baru ini untuk menguruskan pelbagai agen AI. Sama ada anda sedang membina sistem sokongan pelanggan atau aplikasi multi-agen yang berdedikasi, patut dipertimbangkan rangka kerja ini.

Tutorial ini akan menerangkan keunikan penyelaras AWS multiagent, menyediakan bimbingan langkah demi langkah untuk menubuhkan alam sekitar, dan membangunkan projek demonstrasi untuk benar-benar mengalami kerangka kerja.

Apakah penyelaras multi-agen AWS?

Penyelaras Multiagent AWS adalah rangka kerja yang fleksibel dan kuat yang direka untuk menguruskan agen AI dan memudahkan perbualan berbilang pusingan yang kompleks. Komponen prebuiltnya dengan cepat dibangunkan dan digunakan supaya anda boleh memberi tumpuan kepada aplikasi anda sendiri tanpa membina semula mereka dari awal.

penyelaras multi-agen AWS menyediakan ciri-ciri berikut:

• Routing Pintar: Secara dinamik mengenal pasti ejen terbaik untuk setiap pertanyaan.
• Sambutan streaming dan bukan streaming: Menyokong dua format tindak balas ejen.
• Pengurusan Konteks: Menguruskan koheren dan sejarah dalam pelbagai perbualan.
• Skalabiliti: Buat ejen baru atau ubah suai ejen sedia ada.
• Penyebaran Umum: Boleh berjalan di AWS Lambda, persekitaran di premis, dan platform awan.

Rangka kerja ini menyokong Python dan TypeScript.

Gambaran keseluruhan prinsip kerja penyelaras multi-agen. (Sumber)

Imej di atas menunjukkan bahawa pengelas menganggap ejen yang ada, arahan pengguna, dan sejarah perbualan sebelumnya untuk memilih ejen yang paling sesuai untuk input pengguna. Ejen kemudian memproses permintaan tersebut. Aliran kerja mudah dan berkesan.

Sediakan penyelaras multi-agen AWS

dengan cepat menubuhkan persekitaran, anda boleh mengikuti arahan dalam dokumentasi.

Pertama, buat folder baru dan persekitaran python baru untuk memasang perpustakaan yang diperlukan.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Selepas mengaktifkan persekitaran maya baru, pasang perpustakaan

<code>pip install multi-agent-orchestrator</code>

Seterusnya, anda perlu mengkonfigurasi akaun AWS anda. Jika anda tidak mempunyai akaun AWS, daftar untuk akaun percuma untuk menggunakan peringkat percuma. Selepas mendaftar, muat turun AWS CLI.

AWS CLI juga memerlukan konfigurasi. Untuk arahan terperinci, ikuti langkah -langkah dalam menubuhkan AWS CLI, tetapi anda boleh mengambil pendekatan yang lebih mudah menggunakan perintah AWS mengkonfigurasi dan menyediakan id utama AWS akses dan kunci akses rahsia. Anda boleh mendapatkan kunci ini selepas membuat pengguna baru di papan pemuka.

Kunci akses yang disediakan semasa membuat pengguna baru.

Apabila anda sudah bersedia untuk mengakses kunci, jalankan AWS Konfigurasi dan berikan kunci, pilih nama rantau yang paling dekat dengan anda (senarai penuh disediakan di sini), dan tetapkan format output lalai ke JSON.

Jika CLI anda dikonfigurasi dengan betul, menjalankan perintah AWS sts get-call-identiti harus memaparkan ID akaun AWS, ID pengguna, dan ARN.

Sekarang kita mempunyai AWS CLI siap, kita perlu mengkonfigurasi AWS Bedrock untuk mengakses LLM yang diperlukan. Amazon Bedrock adalah perkhidmatan yang membolehkan anda menguji dan menggunakan model asas (seperti Llama 3.2 atau Claude 3.5 sonnet) melalui API. Penyelaras multi-agen menggunakan perkhidmatan ini untuk memanggil dua model secara lalai:

1. Claude 3.5 sonnet sebagai pengelas
2. Claude 3 haiku sebagai ejen

Sudah tentu, model -model ini boleh diubah, tetapi mari kita teruskan dengan pemilihan lalai.

Untuk mengakses kedua -dua model, pergi ke Amazon Bedrock & GT; Pilih kedua -dua model (dan yang lain yang anda suka) dan isi sebarang maklumat yang diperlukan. Bahagian ini adalah seperti berikut:

Selepas menyelesaikan permintaan, model akan tersedia dalam masa 1-2 minit. Selepas memberikan akses kepada model yang diminta, anda harus melihat "akses diberikan" di hadapannya.

NOTA: Anda mungkin perlu menetapkan dasar kepada pengguna yang dicipta. Jika anda mempunyai masalah di bahagian seterusnya artikel (menguji tetapan anda), anda boleh mengujinya. Jika ya, periksa halaman ini. Segala -galanya, anda perlu memberikan pengguna akses kepada Amazon BedrockfulLaccess.

Uji tetapan anda

Untuk memeriksa bahawa semua langkah sebelumnya telah ditetapkan dengan betul, gunakan kod berikut:

Jika anda boleh meminta dan menerima jawapan, semuanya berfungsi dengan baik.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Projek Demo Menggunakan Penyelaras Multi-Agen AWS

Repositori Penyelaras Multiagent AWS menyediakan beberapa projek sampel dan python. Kami kini akan menulis aplikasi Python yang mudah yang mengandungi dua ejen: Ejen Pemaju Python dan Ejen Pakar ML.

kami juga akan menggunakan ChainLit (pakej Python Sumber Terbuka) untuk melaksanakan UI yang mudah untuk aplikasi tersebut. Pertama, pasang perpustakaan yang diperlukan:

kami menggunakan kod berikut sebagai aplikasi demo kami, tetapi mari kita jelaskan terlebih dahulu:

1. pertama kali mengimport perpustakaan yang diperlukan.
2. Kami menggunakan "anthropic.claude-3-HAIKU-20240307-V1: 0" sebagai model pengelas kami. Apabila input pengguna baru tiba, pengelas ini akan memilih ejen untuk digunakan.
3. Kami lulus pengelas yang dicipta kepada Multiagentorchestrator dan menentukan beberapa konfigurasi.
4. Kelas bedrockllmagent digunakan untuk membuat ejen kami. Berikan nama dan keterangan untuk setiap ejen. Bagi ejen, anda boleh memilih mana -mana model yang boleh diakses, dan anda juga boleh menjalankannya secara tempatan menggunakan Ollama. Menetapkan streaming = benar dan mengambil ChainLitagentCallbacks () kerana panggilan balik akan menyebabkan ejen mengembalikan respons streaming dan bukannya respons penuh. Akhirnya, kami menambah setiap ejen kepada penyelaras.
5. Tetapkan user_session dan tentukan bahagian utama yang mengendalikan mesej pengguna dan ejen.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Sudah tiba masanya untuk menjalankan aplikasi. Untuk melakukan ini, jalan pertama chainlit run app.py -w .. Anda kini boleh menguji aplikasi anda dalam tab baru yang dibuka di penyemak imbas anda.

Seperti yang ditunjukkan dalam tangkapan skrin, kami kini menyediakan UI untuk menguji permohonan kami dan berbual dengan ejen.

Sila ambil perhatian bahawa sejak prompt pertama "Apa yang dimaksudkan dengan Perancis?" Ini adalah penting untuk terus berbual relevan dan mengelakkan perbelanjaan yang tidak perlu apabila menggunakan model ini. Walau bagaimanapun, ejen pakar pembelajaran mesin kami memainkan peranan untuk memberi jawapan apabila diminta dengan soalan yang berkaitan, terima kasih kepada penghalaan pintar penyelaras multiagen.

Kesimpulan

Dalam catatan blog ini, kami memperkenalkan rangka kerja penyelaras AWS Multiagent terkini, menyerlahkan beberapa ciri uniknya, menggariskan langkah -langkah untuk menubuhkan persekitaran, meneroka model asas yang disediakan oleh Amazon Bedrock, dan melaksanakan projek demonstrasi.

Pada masa penulisan, rangka kerja ini tidak mempunyai dokumentasi yang komprehensif dan terperinci. Untuk memanfaatkan ciri -ciri lain, seperti memori dan penggunaan alat, anda mesti membaca asas kod dan melihat projek sampel yang disediakan.

Adalah bijak untuk mengawasi rangka kerja AI generatif untuk bersaing dengan medan pantas ini. Penyelaras Multiagent AWS adalah pilihan yang menjanjikan yang dibina atas infrastruktur perkhidmatan AWS, dan pembangunannya patut diberi perhatian.

Atas ialah kandungan terperinci AWS Orchestrator Multi-Agen: Panduan dengan Contoh. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!