Führen Sie KI lokal in den Browsern Ihrer Benutzer aus

Wir alle wissen, wie großartig KI ist, aber es gibt immer noch zwei große Probleme: Datenschutz und Kosten.

Alle Anwendungen, die derzeit KI verwenden, sind mit Cloud-APIs verbunden. Diese APIs protokollieren Eingabeaufforderungen und Kontexte und verwenden diese Daten in einigen Fällen zum Trainieren von Modellen. Das bedeutet, dass alle sensiblen Daten, die Sie dort angeben, möglicherweise offengelegt werden.

Die meisten Webanwendungen integrieren KI-Funktionen nach dem folgenden Schema:

Das Problem hierbei ist, dass die Anwendungsserver die Benutzerdaten an die AI API senden müssen, bei der es sich um eine Drittanbieter-API handelt, und wir nicht wirklich wissen können, was mit den Benutzerdaten passieren wird.

Aber warum verarbeiten wir KI nicht einfach auf dem Benutzergerät statt in der Cloud? Ich habe es einige Wochen lang getestet und hatte erstaunliche Ergebnisse. Ich habe 3 Hauptvorteile gefunden:

1. Die Benutzerdaten werden niemals an Dritte gesendet. Es verbleibt immer auf dem Benutzergerät.
2. Für den App-Entwickler ist es kostenlos, Sie müssen nicht für die Benutzerinferenz bezahlen, da diese direkt auf dem Benutzergerät erfolgt.
3. Die Skalierbarkeit ist unbegrenzt, da jeder einzelne neue Benutzer seine eigene Rechenleistung mitbringt.

Lassen Sie uns einen kurzen Blick darauf werfen, wie sich das vorherige Schema ändert, wenn wir die KI-Berechnung an die Benutzer auslagern:

Es ist ein sehr einfaches Konzept. Der Benutzer verwendet die we-Anwendung wie immer, aber wenn es eine Aufgabe gibt, die die Durchführung von KI-Berechnungen erfordert, senden wir diese an den Benutzer, anstatt eine API eines Drittanbieters zu verwenden, und sein Gerät führt diese Berechnung auf die sicherste Weise durch. vor Ort.

Das ist nicht nur ein Traum, es ist bereits voll funktionsfähig, und ich habe eine Plattform namens Offload erstellt, damit jeder diese Architektur einfach nutzen kann, indem er nur ein paar Codezeilen ändert . Das SDK kümmert sich hinter den Kulissen um alles, vom Herunterladen eines Modells, das auf das Benutzergerät passt, bis hin zur Unterstützung bei der Verwaltung der Eingabeaufforderungen und der lokalen Auswertung der Eingabeaufforderungsantworten, bis hin zum Zurücksenden der Bewertungsergebnisse an Sie, ohne dass die Benutzerdaten offengelegt werden. Alles funktioniert transparent mit einem einzigen Funktionsaufruf.

Ich bin auf der Suche nach Webentwicklern, die davon profitieren können, auch wenn es nur für Hobbyprojekte ist. Wenn Ihnen dieser Ansatz gefällt, pingen Sie mich bitte an! Ich würde Ihnen gerne dabei helfen, es in Ihrer Anwendung einzurichten, und Sie werden sehen, dass die Migration tatsächlich innerhalb von Minuten ganz einfach ist.

Integrieren Sie Offload in Ihre Anwendung

Das obige ist der detaillierte Inhalt vonFühren Sie KI lokal in den Browsern Ihrer Benutzer aus. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!