AI Runner ist ein von mir geschriebenes Programm, mit dem Sie LLMs und Stable Diffusion-Kunstmodelle lokal und offline auf Ihrer eigenen Hardware ausführen können. Ich habe dies für Grafikkarten der unteren Preisklasse optimiert (getestet auf 2080s RTX und 3060 RTX). Es befindet sich seit etwa zwei Jahren in der Entwicklung, ist kostenlos, reines Python und wird unter GPL3 veröffentlicht.
Die neueste Version, 3.0, befindet sich seit vielen Monaten in der Entwicklung. Es handelt sich um eine vollständige Überarbeitung der Anwendung, die fast fertig ist und die erste Nicht-Alpha-Version sein wird.
AI Runner wurde mit den Bibliotheken Pyside6 und Huggingface erstellt. Um mehr Sicherheit und Datenschutz zu gewährleisten, habe ich mehrere Bibliotheken veröffentlicht, die Festplatten-, Netzwerk- und Protokollierungsvorgänge in einer Sandbox ausführen, von denen jede keine Abhängigkeiten von Drittanbietern aufweist.
Frühere Versionen wurden mit Pyinstaller erstellt und auf itch.io veröffentlicht, aber in Zukunft werde ich Flatpak oder Snap unter Linux anstreben (ich habe die Windows-Unterstützung vorerst eingestellt).
Wenn Ihnen meine Arbeit gefällt, können Sie mich auf Patreon unterstützen – ich mache das kostenlos und jede Unterstützung ist sehr willkommen.
Das obige ist der detaillierte Inhalt vonAI Runner v.ev18. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!