Heim Technologie-Peripheriegeräte KI „KI-Gesichtsveränderung' betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

„KI-Gesichtsveränderung' betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

May 29, 2023 pm 04:07 PM
ai换脸 技术反制 ai滥用

„KI-Gesichtsveränderung betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

Produziert von Sohu Technology

Autor|Zheng Songyi

Herausgeber|Yang Jin

In den letzten Tagen kam es häufig zu KI-Betrugsvorfällen, die das Gesicht veränderten, und die Bestätigung von „Musks Vorhersage“ erfolgte früher als erwartet. Vor zwei Monaten unterzeichneten Musk und Tausende andere einen gemeinsamen Brief, in dem sie eine sechsmonatige Aussetzung der Ausbildung leistungsstärkerer KI-Systeme forderten. Der Grund dafür war, dass sie befürchteten, dass leistungsstärkere KI-Systeme potenzielle Risiken für die Gesellschaft und die Menschen darstellen würden Ich hätte nie gedacht, dass Risiken in das menschliche Leben eingedrungen sind.

Am 22. Mai landete das Thema „KI-Betrug bricht im ganzen Land aus“ auf der heißen Suchliste. Nachdem der Eigentümer eines Technologieunternehmens in Fujian innerhalb von 10 Minuten von einem Betrüger um 4,3 Millionen Yuan betrogen wurde, der sich mithilfe von KI-Technologie zur Gesichtsveränderung als Freund ausgab, wurde ein anderer Mann aus Anhui in nur 9 Sekunden um 1,32 Millionen Yuan betrogen Ein Betrüger, der KI-Technologie zur Gesichtsveränderung einsetzt, nannten Internetnutzer „unmöglich, sich davor zu schützen“.

Xia Bohan, eine Anwältin bei der Anwaltskanzlei Beijing Huarang, sagte gegenüber Sohu Technology: „Dieses Verhalten stellt ein Betrugsverbrechen dar, das je nach Ausmaß des Betrugs mit einer lebenslangen Haftstrafe geahndet werden kann. Für Anbieter von Deep-Synthese-Diensten, so die „Verwaltungsvorschriften für den Internet-Informationsdienst Deep Synthesis“ sollten vollständige Verwaltungsregeln und Plattformkonventionen formulieren und offenlegen, Verwaltungsaufgaben in Übereinstimmung mit dem Gesetz wahrnehmen und technische oder manuelle Methoden anwenden, um die Eingabedaten und Syntheseergebnisse von Benutzern des Deep Synthesis-Dienstes zu überprüfen.

Es wird berichtet, dass einige E-Commerce-Moderatoren zusätzlich zum Betrug mit KI-Gesichtsveränderungsvideos KI-Technologie zur Gesichtsveränderung nutzen, um sich als Prominente wie „Jackie Chan“ und „Yang Mi“ zu verkleiden, um Waren live auszuliefern und so den Verkehr anzuziehen und spart Live-Übertragungskosten. Zuständiges Personal der Douyin-Plattform sagte gegenüber Sohu Technology: „Die Plattform erlaubt keine Live-Übertragungen mit Gesichtstausch. Wenn dies festgestellt wird, wird die Übertragung direkt gestoppt und den rechtsverletzenden Händlern werden Guthabenpunkte abgezogen. Konten, deren Gesichter immer noch geändert werden.“ Live-Übertragungen nach der Entsorgung werden eingeschränkt.“ Seine Live-Übertragungserlaubnis.“

Die durch die Technologie verursachten Risikoprobleme müssen letztendlich mit technischen Mitteln behoben werden, da KI-Gesichtsveränderungstechnologien zunehmend missbraucht werden und auch neue Modelle zur Identifizierung von KI-Gesichtsveränderungstechnologien angewendet werden.

Wie wird „KI-Gesichtsveränderung“ umgesetzt?

Die ursprüngliche Absicht der Forschung und Entwicklung der KI-Technologie zur Gesichtsveränderung besteht darin, sie in der Film- und Fernsehunterhaltung, der Spieleentwicklung und anderen Bereichen einzusetzen, um den Benutzern ein realistischeres Seherlebnis zu bieten.

Es versteht sich, dass die Implementierungsprinzipien der KI-Technologie zur Gesichtsveränderung hauptsächlich Gesichtserkennung, Gesichtsausrichtung, Merkmalsextraktion, Merkmalsfusion und Bildrekonstruktion umfassen.

Unter anderem wird die Gesichtserkennungstechnologie verwendet, um die Gesichtsposition und Gesichtsmerkmale im Eingabebild zu erkennen. Die Gesichtsausrichtungstechnologie verwendet Techniken wie affine Änderungen, um die Gesichtsmerkmalspunkte verschiedener Gesichter gleich zu machen Beispielsweise extrahiert das Faltungs-Neuronale Netzwerk (CNN) die Gesichtsform, Textur, Farbe und andere Merkmale. Die Technologie zur Merkmalsfusion verwendet eine lineare Interpolations- oder nichtlineare Interpolationstransformationsmethode, um die Gesichtsmerkmale zweier verschiedener Gesichter zu verschmelzen und schließlich neue Gesichtsmerkmale zu erzeugen Bildtechnologie werden neue Gesichtsmerkmale wieder in den Bildraum abgebildet, um ein neues Bild mit einem gesichtsverändernden Effekt zu erzeugen.

Sohu Technology hat eine derzeit beliebte „Tencent Cloud AI Face Fusion“-Anwendung als Testsoftware ausgewählt, um zu sehen, wie weit die „AI Face-Change“-Technologie bei der Umgestaltung von Porträts reichen kann.

Sohu Technology wählte zufällig das Bild eines Mannes als Vorlage aus und verwendete das Bild von Daniel Wu als ausgewähltes Gesichtsbild. Die Testergebnisse zeigten, dass das KI-verarbeitete Porträt eines Mannes die Merkmale von Daniel Wu zwischen den Augenbrauen und den Augen zeigte, aber auch in anderen Teilen Das Gesicht und die Frisur haben sich nicht verändert.

„KI-Gesichtsveränderung betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

Nach Angaben der Polizei von Baotou kontaktierte ihn am 20. April plötzlich ein Freund von Herrn Guo, dem gesetzlichen Vertreter eines Technologieunternehmens in Fuzhou, über ein WeChat-Video. Nachdem die beiden sich kurz unterhalten hatten, erzählte der Freund Herrn Guo, dass sein Freund Ich habe an anderen Orten geboten und musste die Kaution in Höhe von 4,3 Millionen Yuan einzahlen. Sie muss von einem öffentlichen Konto auf ein öffentliches Konto überwiesen werden, daher möchte ich mir das Konto von Herrn Guos Firma ausleihen, um die Zahlung zu leisten. Der Freund fragte Herrn Guo nach seiner Bankkartennummer und behauptete, dass das Geld auf das Konto von Herrn Guo überwiesen worden sei. Außerdem schickte er über WeChat einen Screenshot der Banküberweisungsquittung an Herrn Guo. Basierend auf dem Vertrauen des Video-Chats überprüfte Herr Guo nicht, ob das Geld angekommen war, und überwies 4,3 Millionen Yuan in zwei Raten an die andere Partei. Nachdem das Geld überwiesen worden war, schickte Herr Guo seinem Freund auf WeChat eine Nachricht, dass die Angelegenheit geklärt sei. Was er jedoch nicht erwartet hatte, war, dass sich die Nachricht, dass sein Freund zurückgekommen war, als Fragezeichen herausstellte.

Herr Guo rief seinen Freund an und die andere Partei sagte, dass es so etwas nicht gebe. Erst dann wurde ihm klar, dass er auf eine „High-End“-Betrugsmasche gestoßen war einen Freund und betrog ihn.

IT-Techniker von Sohu Technology analysierten, dass es Hacker gibt, die sich auf die Entwicklung von KI-Tools zur Gesichtsveränderung in Echtzeit spezialisiert haben, die der aktuellen Echtzeit-Verschönerung in Mobiltelefonen ähneln. Kriminelle können Schlupflöcher nutzen, um die WeChat-Konten der Freunde des Opfers zu stehlen, Fotos oder Videos der Freunde des Opfers über soziale Plattformen zu erhalten, ihre eigenen Gesichtszüge mit Kameras zu erfassen und dann Echtzeit-KI-Tools zur Gesichtsveränderung zu verwenden, um die Freunde des Opfers zusammenzubringen ' Gesichtszüge mit ihren eigenen , Vorgeben, ein Freund des Opfers zu sein, um ein Gespräch zu führen, um den Zweck des Betrugs zu erreichen.

Was ist der technologische Fortschritt zur Bekämpfung von KI-Missbrauch?

Der Teufel ist einen Fuß hoch und das Tao ist einen Fuß hoch. Im Jahr 2020 veröffentlichten Microsoft Research Asia und die Peking-Universität gemeinsam den Artikel „Face X-ray for More General Face Forgery Detection“, ein neues Modell zur Identifizierung von KI-Technologie zur Gesichtsveränderung, das zwei Hauptattribute aufweist: Es kann Auf unbekannte Face-Swapping-Algorithmen verallgemeinern, kann es erklärbare Face-Swapping-Grenzen liefern.

Guo Baining, einer der Hauptautoren des Papiers und Executive Vice President von Microsoft Research Asia, sagte: „Beim Bilderfassungsprozess hat jedes Bild seine eigenen einzigartigen Eigenschaften. Sie können von der Aufnahmehardware oder der Verarbeitungssoftware stammen. Wie.“ Solange sie nicht integriert sind, hinterlassen die erzeugten Bilder während des Fusionsprozesses Hinweise. Diese Hinweise sind für das menschliche Auge unsichtbar, können aber durch tiefes Lernen erfasst werden.“

Der Artikel demonstriert die Technologie zur Bildrauschenanalyse und Fehlerpegelanalyse. Es ist ersichtlich, dass reale Bilder konsistente Rauschmuster aufweisen, während der Gesichtsaustausch offensichtlich anders sein wird (die Bilder in Gruppe a sind echte Gesichter, die Bilder in Gruppe b sind synthetische Bilder). und in der Mitte Die rechte Spalte ist das Rauschanalysebild und die rechte Spalte ist das Fehlerpegelanalysebild.

„KI-Gesichtsveränderung betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?

Es ist ersichtlich, dass die effektive Identifizierung von „KI-Gesichtsveränderungen“ eine technische Grundlage hat und kein unlösbares Problem darstellt. Von Tencent Cloud vertretene inländische Technologieunternehmen nutzen die „Anti-Deepfake (ATDF)“-Technologie, um „Gesichtsveränderungs-Screening“-Anwendungen zu entwickeln, mit dem Ziel, mithilfe von KI-Technologie dem Missbrauch von KI-Technologien wie Gesichtsveränderung entgegenzuwirken.

Berichten zufolge ist Anti-Deepfake in zwei Kategorien unterteilt: passive Erkennung und aktive Verteidigung. Die passive Erkennungstechnologie konzentriert sich auf die Sammlung von Beweismitteln nach dem Ereignis, d Videos; die andere quasi-aktive Verteidigungstechnologie konzentriert sich auf die präventive Verteidigung, das heißt das Hinzufügen versteckter Informationen wie Wasserzeichen, Anti-Lärm usw., bevor die Gesichtsdaten freigegeben und verbreitet werden, um die Quelle aktiv zu verfolgen oder zu verhindern böswillige Benutzer davon abhalten, Gesichtsvideos mit Rauschzusatz zu Fälschungszwecken zu verwenden und so den Zweck des Schutzes menschlicher Gesichter und einer aktiven Verteidigung zu erreichen.

Artikel 6 der „Verwaltungsvorschriften zur Tiefensynthese von Internet-Informationsdiensten“, die gemeinsam von der Cyberspace Administration of China, dem Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit herausgegeben wurden, legt eindeutig fest: „Keine Organisation oder Einzelperson darf Deep nutzen.“ Synthesedienste zum Erstellen, Kopieren, Veröffentlichen oder Verbreiten von Informationen, die durch Gesetze und Verwaltungsvorschriften verboten sind. Die von Deep Synthesis-Diensten bereitgestellten Informationen dürfen nicht für Aktivitäten verwendet werden, die durch Gesetze und Verwaltungsvorschriften verboten sind, wie etwa die Gefährdung der nationalen Sicherheit und Interessen oder die Schädigung des Images des Landes , Verletzung sozialer und öffentlicher Interessen, Störung der wirtschaftlichen und sozialen Ordnung, Verletzung der legitimen Rechte und Interessen anderer usw. "

Xia Bohan betonte: „Zusätzlich zum KI-Gesichtsveränderungsvideobetrug erfordern viele Mobiltelefonanwendungen derzeit eine Gesichtserkennungs-Authentifizierung, um sich als echte Rechteinhaber auszugeben.“ , um Lecks zu verhindern, und es wird empfohlen, andere Authentifizierungsmethoden einzurichten. Andererseits müssen Softwareanbieter auch die Technologie weiterentwickeln, um die Sicherheit zu verbessern und zu verhindern, dass Kriminelle die Situation ausnutzen

Das obige ist der detaillierte Inhalt von„KI-Gesichtsveränderung' betrügt Millionen in neun Sekunden? Wie kann Technologie eingesetzt werden, um KI-Missbrauch zu bekämpfen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
2 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
Repo: Wie man Teamkollegen wiederbelebt
4 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Abenteuer: Wie man riesige Samen bekommt
4 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Was ist das Modellkontextprotokoll (MCP)? Was ist das Modellkontextprotokoll (MCP)? Mar 03, 2025 pm 07:09 PM

Das Modellkontextprotokoll (MCP): ein universeller Anschluss für KI und Daten Wir alle vertraut mit der Rolle von AI bei der täglichen Codierung. Replit, Github Copilot, Black Box AI und Cursor IDE sind nur einige Beispiele dafür, wie KI unsere Workflows optimiert. Aber stell dir vor

Aufbau eines lokalen Vision Agents mit Omniparser V2 und Omnitool Aufbau eines lokalen Vision Agents mit Omniparser V2 und Omnitool Mar 03, 2025 pm 07:08 PM

Microsoft's Omniparser V2 und Omnitool: Revolutionierung der GUI -Automatisierung mit KI Stellen Sie sich AI vor, das nicht nur versteht, sondern auch mit Ihrer Windows 11 -Oberfläche wie ein erfahrener Profi interagiert. Microsofts Omniparser V2 und Omnitool machen dies zu einer Re

Ich habe versucht, die Vibe -Codierung mit Cursor AI und es ist erstaunlich! Ich habe versucht, die Vibe -Codierung mit Cursor AI und es ist erstaunlich! Mar 20, 2025 pm 03:34 PM

Die Vibe -Codierung verändert die Welt der Softwareentwicklung, indem wir Anwendungen mit natürlicher Sprache anstelle von endlosen Codezeilen erstellen können. Inspiriert von Visionären wie Andrej Karpathy, lässt dieser innovative Ansatz Dev

Replit Agent: Ein Leitfaden mit praktischen Beispielen Replit Agent: Ein Leitfaden mit praktischen Beispielen Mar 04, 2025 am 10:52 AM

Revolutionierung der App -Entwicklung: Ein tiefes Eintauchen in den Replit Agent Müde, mit komplexen Entwicklungsumgebungen und dunklen Konfigurationsdateien zu ringen? Replit Agent zielt darauf ab, den Prozess der Umwandlung von Ideen in funktionale Apps zu vereinfachen. Diese AI-P

Runway Act-One Guide: Ich habe mich gefilmt, um es zu testen Runway Act-One Guide: Ich habe mich gefilmt, um es zu testen Mar 03, 2025 am 09:42 AM

Dieser Blog-Beitrag teilt mit meiner Erfahrung mit dem neuen Animation-Tool von Runway ML von ML und dem Deckung sowohl der Weboberfläche als auch der Python-API. Während der Versprechen waren meine Ergebnisse weniger beeindruckend als erwartet. Möchten Sie generative KI erkunden? Lernen Sie, LLMs in p zu verwenden

Wie benutze ich Yolo V12 zur Objekterkennung? Wie benutze ich Yolo V12 zur Objekterkennung? Mar 22, 2025 am 11:07 AM

Yolo (Sie schauen nur einmal) war ein führender Echtzeit-Objekterkennungsrahmen, wobei jede Iteration die vorherigen Versionen verbessert. Die neueste Version Yolo V12 führt Fortschritte vor, die die Genauigkeit erheblich verbessern

Top 5 Genai Starts vom Februar 2025: GPT-4,5, GROK-3 & MEHR! Top 5 Genai Starts vom Februar 2025: GPT-4,5, GROK-3 & MEHR! Mar 22, 2025 am 10:58 AM

Februar 2025 war ein weiterer bahnbrechender Monat für die Generative KI, die uns einige der am meisten erwarteten Modell-Upgrades und bahnbrechenden neuen Funktionen gebracht hat. Von Xais Grok 3 und Anthropics Claude 3.7 -Sonett, um g zu eröffnen

Elon Musk & Sam Altman kämpfen über 500 Milliarden US -Dollar Stargate -Projekt Elon Musk & Sam Altman kämpfen über 500 Milliarden US -Dollar Stargate -Projekt Mar 08, 2025 am 11:15 AM

Das 500 -Milliarden -Dollar -Stargate AI -Projekt, das von Tech -Giganten wie Openai, Softbank, Oracle und Nvidia unterstützt und von der US -Regierung unterstützt wird, zielt darauf ab, die amerikanische KI -Führung zu festigen. Dieses ehrgeizige Unternehmen verspricht eine Zukunft, die von AI Advanceme geprägt ist

See all articles