APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan

Kapsyen kumpulan berbilang GPU dengan JoyCaption. JoyCaption menggunakan Meta-Llama-3.1–8B dan google/siglip-so400m-patch14–384 serta rangkaian neural kapsyen imej yang ditala halus.

Pautan : https://www.patreon.com/posts/110613301

Pautan untuk editor kapsyen kelompok : https://www.patreon.com/posts/108992085

Mengekodkan berbilang gpu dalam Python dan Torch serta bitsandbytes sememangnya satu cabaran.

APP kami menggunakan kapsyen imej JoyCaption model yang ditala halus.

APP kami menyokong pemuatan model 4bit bitsandbytes walaupun dalam mod berbilang GPU (9.5 GB VRAM)

Diuji pada 8x RTX A6000 (awan) dan RTX 3090 TI + RTX 3060 (PC saya)

1-klik untuk memasang pada Windows, RunPod dan Massed Compute

Kualiti kapsyen yang sangat baik, mengedarkan imej secara automatik ke dalam setiap GPU, banyak ciri. Anda boleh menyambung semula kapsyen dengan langkau pilihan imej kapsyen.

Untuk butiran penuh tangkapan skrin daftar keluar

Atas ialah kandungan terperinci APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!