Für diejenigen, die mit dem Lamafile-Projekt nicht vertraut sind: Das Mozilla Ocho-Team arbeitet daran, die Komplexität bei der Installation von LLMs zu beseitigen, indem es llama.cpp und Cosmopolitan Libc kombiniert, die beide die Programmiersprache C/C++ verwenden. Llamafile nutzt die Inferenz des von llama.cpp bereitgestellten LLaMA-Modells von Meta und kombiniert sie mit der Build-Once-Run-Anywhere-Transformation von C von Cosmopolitan Libc. Cosmopolitan Libc macht außerdem einen Interpreter oder eine virtuelle Maschine überflüssig, um C auf Linux-, Mac- und Windows-Maschinen auszuführen.
Die neueste Ergänzung zum Lamafile-Projekt, Whisperfile, wurde im Hugging Face-Profil von Mozilla ausführlich beschrieben. Auf ihrer Seite heißt es: „Whisperfile ist eine leistungsstarke Implementierung von OpenAIs Whisper, die von Mozilla Ocho als Teil des Lamafile-Projekts erstellt wurde und auf der von Georgi Gerganov et al. geschriebenen Software whisper.cpp basiert.“ Für das Projekt hat das Team alle erforderlichen Gewichte für das Modell in „Whisperfiles“ gepackt, die die in Cosmopolitan Libc enthaltenen Funktionen beibehalten, sodass das Modell auf den meisten Systemen ausgeführt werden kann.
Die Dokumentation „Erste Schritte mit Whisperfile“ zu den GitHub-Profildetails des Teams ein einfacher Installationsprozess, der aus nur drei Schritten besteht. Sobald ein Benutzer das Modell herunterlädt, die Software erstellt und das Programm ausführt, kann er aus drei verschiedenen Modellen auswählen, um mit der Audiotranskription zu beginnen. Die Modelle reichen von winzig bis groß, wobei Geschwindigkeit gegen Genauigkeit im Transkriptionsprozess getauscht wird. Darüber hinaus kann Whisperfile mithilfe des mehrsprachigen Modells und der Flagge „--translate“ verschiedene Sprachen ins Englische übersetzen.
Informationen zu Lamafile, Whisperfile und weitere Details zum Installationsprozess finden Sie in den folgenden Ressourcen.
Das obige ist der detaillierte Inhalt vonWhisperfile vom Mozilla Ocho-Team liefert lokales und einfaches ASR. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!