„KI-Gesichtsverändernde'-Software wird öffentlich online verkauft und kostet zwischen ein paar Hundert und tausend Yuan! Wo liegen die rechtlichen Grenzen?

Dieser Artikel stammt aus [CCTV News];

In letzter Zeit haben Betrugsfälle durch „KI-Gesichtsveränderung“ für Aufsehen gesorgt. Mit der Entwicklung großer KI-Modelle wird der Anwendungsbereich der „Face-Swapping-Technologie“ immer größer. Technologische Durchbrüche haben auch die Gesichtsausdrücke und Aktionsdetails der Charaktere nach dem Face-Swapping realistischer gemacht. es kann zu ernsthaften Schäden führen.

Der Reporter des Hauptbahnhofs stellte nach einer Untersuchung fest, dass es sehr einfach ist, die Software „KI-Gesichtsveränderung“ online zu erhalten. Wo liegen die rechtlichen Grenzen für die Nutzung solcher Software? Wie gelingt eine gute Vorabaufsicht?

„AI face-changing“ erscheint online

kostenpflichtigeSoftware

Paketpreise reichen von 499 Yuan bis 2888 Yuan

Im Internet gibt es viele Tutorials, die die Verwendung und Wirkung von Software zur Gesichtsveränderung demonstrieren.

Viele dieser „KI-Software zur Gesichtsveränderung“ erfordern eine hohe Bezahlung.

Der Reporter nahm aufgrund der Suchergebnisse Kontakt zu einem Entwickler auf und dieser stellte dem Reporter ein Demonstrationsvideo zur Verwendung seiner Software zur Implementierung des Face-Swaps zur Verfügung – die linke Seite der Dual-Window-Seite ist das Originalvideo vor dem Face-Swap und das Auf der rechten Seite ist das Video nach dem Gesichtsaustausch zu sehen. Mit bloßem Auge sind die Mundform, der Ausdruck und die winzigen Bewegungen des „digitalen Menschen“ nach dem Gesichtsaustausch nahezu makellos.

Auf seiner Verkaufswebsite demonstrierte der Softwareentwickler außerdem, wie man die Augen und Münder zweier bekannter Schauspielerinnen „zusammenfügt“, um ein Video eines neuen „digitalen Menschen“ zu erstellen.

Diese kostenpflichtige Software bietet verschiedene Versionen, von LV1 (Junior) über LV4 (Super) bis LV5 (voller Funktionsumfang). Das Einstiegspaket kostet 499 Yuan und bietet Softwareschnittstelle, Videoführung, Face-Swapping-Modelle usw. Wenn Sie 2.888 Yuan ausgeben, können Sie einen vollständigen Satz (LV5) Video-Face-Swapping-Modelle erhalten.

„Sie können jedes gewünschte Gesicht ändern“

Das große KI-Modell kann mehrere Funktionen integrieren, um einen „digitalen Menschen“ zu schaffen. Der Reporter stellte fest, dass sich unten auf der Website kein Text befand, der darauf hindeutete, dass er registriert wurde. Der Verkäufer ist außerdem sehr vorsichtig und kommuniziert während des gesamten Prozesses nur per Text. Er sagte, dass die Vollversion (LV5) im Vergleich zu den Junior-Paketen (LV1) bis Super-Paketen (LV5) mehr Iterationen und stärkere Fähigkeiten aufweist. Es kann auch verstanden werden, dass der Effekt der Gesichtsveränderung realistischer ist. Es kann nicht nur Video-Gesichtsveränderungen erreichen, sondern unterstützt auch Live-Gesichtsveränderungen.

Als der Reporter weiter fragte, ob er sein Gesicht entsprechend seinen eigenen Bedürfnissen ändern könne, sagte der Softwareentwickler: „Sie können einfach die Materialien verwenden und auf dem Gesicht trainieren, das Sie ändern möchten.“

Laut einem Techniker, der sich mit der Entwicklung künstlicher Intelligenz befasst, bedeutet dies, dass möglicherweise mehr Risiken bestehen, die schwer zu bewältigen sind. „Integration von Vincent-Bildern, Vincent-Texten, Vincent-Audio, Vincent-Videos und Gesichtsveränderung. Wenn diese Funktionen kombiniert werden, kann ein völlig neuer „digitaler Mensch“ oder „KI-Mensch“ geschaffen werden. Der Aufwand und die Schwierigkeit der Überwachung sind um ein Vielfaches höher höher.“ Größenordnung.“

Experte

: ​​Effektives Logo-Überwachungssystem

Seien Sie in der Lage, die durch „KI-Gesichtsveränderung“ verursachten verschwommenen Grenzen im Voraus zu klären

‍ Zhao Zhanhan, Anwalt bei der Anwaltskanzlei Beijing Jiawei und IT-Rechtsexperte, sagte, dass das Strafrecht aus der Sicht der Zeit nach dem Angriff Bestimmungen zum Verbrechen des Betrugs enthält, die eindeutig festlegen, dass Bürger entsprechende Bürgerrechte genießen; B. Porträtrechte, Namensrechte und Reputationsrechte. Mit anderen Worten: Kommt es zu einem Fall der Nutzung des Bildes einer anderen Person zur Begehung von Betrug, unterliegen die Kriminellen rechtlichen Sanktionen und Beschränkungen. Angesichts der rasanten Entwicklung der Technologie der künstlichen Intelligenz sollten wir jedoch auch im Vorfeld prüfen, wie wir eine wirksame Prävention erreichen können.

Zum Beispiel schreiben die „Regulations on the Management of Deep Synthesis of Internet Information Services“ vor, dass, wenn der Deep Synthesis-Dienst öffentliche Verwirrung oder Missverständnisse hervorrufen könnte, der Deep Synthesis-Dienstanbieter den angemessenen Standort und Bereich der generierten Dienste deutlich kennzeichnen muss oder bearbeitete Informationsinhalte. Die „Maßnahmen für das Management generativer künstlicher Intelligenzdienste (Entwurf zur Kommentierung)“ erfordern, dass vor der Nutzung generativer künstlicher Intelligenzprodukte zur Bereitstellung von Diensten für die Öffentlichkeit eine Sicherheitsbewertung gemäß den einschlägigen Vorschriften an die nationale Cyberspace-Abteilung gemeldet werden muss; Die berechtigten Interessen anderer müssen respektiert werden. Autoren sollten für die Rechtmäßigkeit von Pre-Training-Daten und optimierten Trainingsdatenquellen für generative künstliche Intelligenzprodukte usw. verantwortlich sein.

Pan Helin, Co-Direktor des Forschungszentrums für digitale Wirtschaft und Finanzinnovation der International Joint Business School der Zhejiang-Universität, ist davon überzeugt, dass „KI „kann weitgehend im Vorhinein geklärt werden. Die verschwimmenden Grenzen, die durch „Gesichtsveränderung“ entstehen.

Pan Helin: Das aktuelle Kennzeichnungsüberwachungssystem für „KI-Gesichtsveränderung“ ist noch nicht geschaffen. Nicht gekennzeichnete Inhalte müssen mit technischen Mitteln identifiziert werden, und es müssen spezifische Strafen gegen Personen oder Organisationen verhängt werden, die keine Standards und Systeme kennzeichnen.

Zhao Zhanhan, Anwalt bei der Anwaltskanzlei Beijing Jiawei und IT-Rechtsexperte, glaubt, dass Langfristig müssen Überwachungs- und Bestrafungsmaßnahmen kontinuierlich mit der technologischen Entwicklung „iteriert“ werden, um eine dreidimensionale und effektive Governance zu schaffen planen.

Das obige ist der detaillierte Inhalt von„KI-Gesichtsverändernde'-Software wird öffentlich online verkauft und kostet zwischen ein paar Hundert und tausend Yuan! Wo liegen die rechtlichen Grenzen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!