KI-Software, die das Gesicht verändert, wird öffentlich online verkauft. Wo liegen die rechtlichen Grenzen?

In letzter Zeit haben Betrugsfälle, die durch gesichtsverändernde KI-Technologie verursacht wurden, die Aufmerksamkeit der Menschen auf sich gezogen. Mit der Entwicklung großer KI-Modelle wird der Anwendungsbereich der „Gesichtsveränderungs“-Technologie immer größer. Der technologische Durchbruch hat auch die Gesichtsausdrücke und Handlungsdetails der Charaktere nach der Gesichtsveränderung realistischer gemacht , es kann zu ernsthaften Schäden führen. Die Untersuchung des Reporters ergab: „Es ist sehr einfach, Software zur Gesichtsveränderung von KI im Internet zu erhalten.“ Wo liegt die rechtliche Grenze für die Verwendung von Software zur Gesichtsveränderung von KI? Wie gelingt eine gute Vorabaufsicht?

01

Bezahlte KI-Software zur Gesichtsveränderung taucht im Internet auf

Paketpreise reichen von 499 Yuan bis 2888 Yuan

Basierend auf Durchbrüchen bei großen Modellen und Algorithmen wird die KI-Gesichtsveränderung derzeit in einem breiteren Spektrum eingesetzt, was zu mehr Bedenken führt. Im Internet gibt es zahlreiche Tutorials, die den Einsatz und die Auswirkungen gesichtsverändernder Software demonstrieren. Anders als eine große Anzahl kostenloser Software, die normale Leute „ausprobieren“ können, stellte der Reporter fest, dass es im Internet viele hochpreisige, kostenpflichtige KI-Software gibt, die das Gesicht verändert.

Was ist der Unterschied zwischen dieser kostenpflichtigen Software und kostenloser Software?

Der Reporter suchte nach „KI-Software zur Gesichtsveränderung“ und kontaktierte einen Entwickler. Er stellte dem Reporter ein Demonstrationsvideo zur Verwendung seiner Software zur Implementierung der Gesichtsveränderung zur Verfügung – die linke Seite der Dual-Window-Seite ist das Originalvideo vor dem Gesicht -Veränderung, und die rechte Seite ist Dies ist ein Video nach dem Gesichtsaustausch. Mit bloßem Auge Der „digitale Mensch“ weist nach dem Gesichtsaustausch fast keine Mängel in seiner Mundform, seinem Gesichtsausdruck und seinen winzigen Bewegungen auf.

△Amateur-Gesichtsveränderungseffekt vom Verkäufer gezeigt (S ist das Originalvideo, D ist nach dem Ersatz)

Auf seiner Verkaufswebsite demonstrierte der Softwareentwickler außerdem, wie man die Augen und Münder zweier bekannter Schauspielerinnen zusammenfügt, um ein Video eines neuen „digitalen Menschen“ zu erstellen.

△ Teilweiser Ersatz der Gesichtszüge, wie vom Verkäufer gezeigt

Diese kostenpflichtige Software bietet verschiedene Versionen von Anfänger (LV1) über Fortgeschrittene (LV4) bis hin zum Komplettset (LV5). Das Einstiegspaket kostet 499 Yuan und bietet Softwareschnittstelle, Videoführung, Face-Swapping-Modell usw. Wenn Sie 2888 Yuan ausgeben, können Sie einen vollständigen Satz Video-Face-Swapping-Modelle der Stufe (LV5) erhalten.

△Im Internet ist eine Vielzahl bahnbrechender Softwareprodukte unterschiedlichen Niveaus verfügbar

02

„Sie können jedes gewünschte Gesicht ändern“

Das große KI-Modell kann mehrere Funktionen integrieren, um einen „digitalen Menschen“ zu schaffen

Wenn Sie die Website öffnen, erscheint unten kein Text, der darauf hinweist, dass die Website registriert wurde.

Der Verkäufer ist außerdem sehr vorsichtig und verwendet während des gesamten Prozesses nur Text zur Kommunikation. Er sagte, dass die Vollversion (LV5) im Vergleich zu den Junior-Paketen (LV1) bis Super-Paketen (LV5) mehr Iterationen und stärkere Fähigkeiten aufweist. Es kann auch verstanden werden, dass der Effekt der Gesichtsveränderung realistischer ist.

kann nicht nur Video-Gesichtsveränderungen erreichen, sondern unterstützt auch Live-Gesichtsveränderungen. Der Reporter fragte weiter: Kann ich mein Gesicht entsprechend meinen Bedürfnissen ändern? Der Softwareentwickler sagte: „Sie können jedes beliebige Gesicht ändern und die Materialien für das Training verwenden.“

△Screenshot von Softwareentwicklern, die mit Reportern chatten

Ein Techniker, der sich mit der KI-Entwicklung beschäftigt, sagte:

Das bedeutet, dass es möglicherweise mehr Risiken gibt, die schwer zu kontrollieren sind.

„KI-Gesichtsveränderungstechnologie wie Deepfake ist Open Source. In letzter Zeit sind große KI-Modelle populär geworden und ihr Algorithmus wurde aktualisiert. Sie kann Vincent-Bilder, Vincent-Texte, Vincent-Audio, Vincent-Videos und Gesichtsveränderung integrieren Durch die Kombination der Funktionen

können Sie einen völlig neuen „digitalen Menschen“ oder „KI-Menschen“ erschaffen, und die Kosten und der Schwierigkeitsgrad der Überwachung werden um mehrere Größenordnungen höher sein.“

△Benutzer-Feedback wird vom Verkäufer angezeigt

03

Experte: Effektives Logo-Überwachungssystem

Seien Sie in der Lage, die verschwommenen Grenzen, die durch KI-Gesichtsveränderungen entstehen, im Voraus zu klären

Zhao Zhanhan, Anwalt bei der Anwaltskanzlei Beijing Jiawei und IT-Rechtsexperte, sagte, dass das Strafrecht aus der Sicht der Zeit nach dem Angriff Bestimmungen zum Verbrechen des Betrugs enthält; , Name, Ruf usw. Bürgerrechte. Mit anderen Worten: Liegt ein ähnlicher Fall der Verwendung von Porträts anderer Personen für Betrug vor, können die Täter rechtlich gefesselt und anschließend bestraft werden. Angesichts der rasanten Entwicklung der Technologie der künstlichen Intelligenz sollte jedoch auch im Voraus untersucht werden, wie eine wirksame Prävention erreicht werden kann.

Die „Internet Information Services Deep Synthesis Management Regulations“ verlangen beispielsweise, dass

wenn der Deep Synthesis-Dienst Verwirrung oder Missverständnisse in der Öffentlichkeit hervorrufen könnte, der Deep Synthesis-Dienstanbieter prominente Informationen an einem angemessenen Ort und in einem angemessenen Bereich anzeigen muss generierter oder bearbeiteter Informationsinhalt.

Die „Maßnahmen für das Management generativer künstlicher Intelligenzdienste (Entwurf zur Kommentierung)“ erfordern, dass vor der Nutzung generativer künstlicher Intelligenzprodukte zur Bereitstellung von Diensten für die Öffentlichkeit

eine Sicherheitsbewertung an die nationale Cybersicherheits- und Informatisierungsabteilung gemäß übermittelt werden sollte relevante Vorschriften; die berechtigten Interessen anderer müssen respektiert werden; Produktanbieter sollten für die Rechtmäßigkeit von Pre-Training-Daten und optimierten Trainingsdatenquellen für Produkte der generativen künstlichen Intelligenz verantwortlich sein.

Pan Helin, Co-Direktor des Digital Economy and Financial Innovation Research Center der Zhejiang University International Business School, glaubt, dass vorerst

Wenn die Kennzeichnungsanforderungen effektiv umgesetzt und ein wirksames Regulierungssystem geschaffen werden kann, KI geklärt werden kann Die verschwimmenden Grenzen, die durch den Gesichtsaustausch entstehen, sind weitgehend im Voraus zu erkennen.

Pan Helin: Das derzeitige Kennzeichnungsüberwachungssystem für KI-Gesichtsveränderungen ist noch nicht geschaffen. Nicht gekennzeichnete Inhalte müssen mit technischen Mitteln identifiziert werden, und Es müssen spezifische Strafen für Einzelpersonen oder Organisationen vorgesehen werden, die keine Maßnahmen und Standards vornehmen und Systeme.

Zhao Zhan glaubt, dass

Langfristig müssen Überwachungs- und Bestrafungsmaßnahmen kontinuierlich mit der technologischen Entwicklung „iteriert“ werden, um einen dreidimensionalen und effektiven Governance-Plan zu erstellen.

Quelle: Offizieller WeChat-Account von Voice of China

Nachdruck aus: People’s Daily Client

Das obige ist der detaillierte Inhalt vonKI-Software, die das Gesicht verändert, wird öffentlich online verkauft. Wo liegen die rechtlichen Grenzen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!