GPT4ALL: Penyelesaian model bahasa besar sumber terbuka yang muktamad

Terdapat ekosistem model bahasa sumber terbuka yang semakin berkembang yang menyediakan individu dengan sumber komprehensif untuk mencipta aplikasi bahasa untuk tujuan penyelidikan dan komersial.

Artikel ini mendalami GPT4ALL, yang melangkaui kes penggunaan tertentu dengan menyediakan blok binaan menyeluruh yang membolehkan sesiapa sahaja membangunkan chatbots seperti ChatGPT.

Apakah projek GPT4ALL?

GPT4ALL boleh menyediakan semua sokongan yang diperlukan apabila menggunakan model bahasa besar sumber terbuka terkini.. Ia boleh mengakses model dan set data sumber terbuka, melatih dan menjalankannya menggunakan kod yang disediakan, berinteraksi dengan mereka menggunakan antara muka web atau aplikasi desktop, menyambung ke hujung belakang Langchain untuk pengkomputeran teragih dan menggunakan API Python untuk penyepaduan mudah.

Pembangun baru-baru ini melancarkan bot sembang GPT4All-J berlesen Apache-2, yang dilatih pada korpus interaksi pembantu yang besar dan dipilih susun, termasuk soalan perkataan, perbualan berbilang pusingan, kod, puisi, lagu dan cerita. Untuk menjadikannya lebih mudah diakses, mereka juga mengeluarkan pengikatan Python dan UI sembang, membolehkan hampir semua orang menjalankan model pada CPU.

Anda boleh mencubanya sendiri dengan memasang klien sembang tempatan pada desktop anda.

• Mac/OSX (https://gpt4all.io/installers/gpt4all-installer-darwin.dmg)
• Windows (https://gpt4all.io/installers/gpt4all -installer-win64.exe)
• Ubuntu (https://gpt4all.io/installers/gpt4all-installer-linux.run)

Selepas itu, jalankan program GPT4ALL dan muat turun sendiri Model terpilih. Anda juga boleh memuat turun model secara manual di sini (https://github.com/nomic-ai/gpt4all-chat#manual-download-of-models) dan memasangnya di lokasi yang ditunjukkan oleh dialog muat turun model dalam GUI.

Menggunakan GPT4ALL mempunyai pengalaman yang lebih baik pada komputer riba, mendapat respons yang cepat dan tepat. Malah orang bukan teknikal boleh menggunakan GPT4ALL dengan mudah kerana ia sangat mesra pengguna.

Pelanggan Python GPT4ALL

GPT4ALL mempunyai Python, TypeScript, antara muka Sembang Web dan hujung belakang Langchain.

Dalam bahagian ini, kita akan melihat API Python untuk mengakses model menggunakan nomic-ai/pygpt4all.

1. Gunakan PIP untuk memasang pustaka Python GPT4ALL.

<code>pip install pygpt4all</code>

2. Muat turun model GPT4All daripada http://gpt4all.io/models/ggml-gpt4all-l13b-snoozy.bin, juga tersedia di sini (https://github.com/ nomic-ai/gpt4all-chat#manual-download-of-models) untuk menyemak imbas model lain.
3. Buat fungsi panggil balik teks, muatkan model dan berikan pembayang kepada fungsi mode.generate() untuk menjana teks. Lihat dokumentasi perpustakaan (https://nomic-ai.github.io/pygpt4all/) untuk mengetahui lebih lanjut.

<code>from pygpt4all.models.gpt4all import GPT4Alldef new_text_callback(text):print(text, end="")model = GPT4All("./models/ggml-gpt4all-l13b-snoozy.bin")model.generate("Once upon a time, ", n_predict=55, new_text_callback=new_text_callback)</code>

Selain itu, penukar boleh digunakan untuk memuat turun dan menjalankan inferens. Hanya berikan nama model dan versi. Contoh dalam artikel ini ialah mengakses model v1.3-groovy terkini dan dipertingkatkan.

<code>from transformers import AutoModelForCausalLMmodel = AutoModelForCausalLM.from_pretrained("nomic-ai/gpt4all-j", revisinotallow="v1.3-groovy")</code>

Bermula

Dalam repositori nomic-ai/gpt4all, anda boleh mendapatkan kod sumber, berat model, set data dan dokumentasi untuk latihan dan inferens. Anda boleh mencuba beberapa model dahulu dan kemudian menyepadukannya menggunakan klien Python atau LangChain.

GPT4ALL membekalkan kami pusat pemeriksaan model GPT4All terkuantiti CPU. Untuk mengaksesnya kita mesti:

• Muat turun fail gpt4all-lora-quantized.bin daripada Direct Link atau [Torrent-Magnet].
• Klon pustaka sumber ini dan alihkan fail tong yang dimuat turun ke folder sembang.
• Jalankan arahan yang sesuai untuk mengakses model:
• M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1

• Linux :cd chat;./gpt4all-lora-quantized-linux-x86

• Windows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe

• Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel

Anda juga boleh pergi ke Memeluk Face Spaces dan mencuba Gpt4all's Demo.

Gambar daripada Gpt4all

资源：

• 技术报告：GPT4All-J: Chatbot Gaya Penolong Berlesen Apache-2（https://static.nomic.ai/gpt4all/2023_GPT4All-Jport_Technical.pdf 🎜>
GitHub：nomic-ai/gpt4all（https://github.com/nomic-ai/gpt4all）
• Python API：nomic-ai/pygpt4all（https://github.com/ nomic-ai/pygpt4all）
• 模型：nomic-ai/gpt4all-j（https://huggingface.co/nomic-ai/gpt4all-j）
• 数据集：nomic-ai /gpt4all-j-prompt-generations（https://huggingface.co/datasets/nomic-ai/gpt4all-j-prompt-generations）
• Memeluk Muka演示：Gpt4all（https://huggingface.co /spaces/Monster/GPT4ALL）
• ChatUI：nomic-ai/gpt4all-chat: gpt4all-j chat（https://github.com/nomic-ai/gpt4all-chat）
• GPT4ALL后端：GPT4ALL - ????LangChain 0.0.154（https://python.langchain.com/en/latest/modules/models/llms/integrations/gpt4all.html）

Atas ialah kandungan terperinci GPT4ALL: Penyelesaian model bahasa besar sumber terbuka yang muktamad. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!