AI Runner 是我编写的一个程序,它允许您在自己的硬件上本地离线运行 LLM 和稳定扩散艺术模型。我针对低端显卡对此进行了优化(在 2080s RTX 和 3060 RTX 上测试)。它已经开发了大约两年,是免费的,纯 python 并在 GPL3 下发布。
最新版本 3.0 已经开发了好几个月。它是应用程序的完整重构,即将准备就绪,并将成为第一个非 Alpha 版本。
AI Runner 是使用 Pyside6 和 Huggingface 库创建的。为了提供更高的安全性和隐私性,我发布了几个沙盒光盘、网络和日志操作的库,每个库都没有第三方依赖项。
以前的版本是使用 pyinstaller 编写的,并在 itch.io 上发布,但今后我的目标是 Linux 上的 Flatpak 或 Snap(我现在已经放弃了 Windows 支持)。
如果您喜欢我的工作,可以在 Patreon 上支持我 - 我这样做是免费的,非常感谢任何支持。
以上是AI Runner v.ev18的详细内容。更多信息请关注PHP中文网其他相关文章!