Durch KI erzeugte synthetische Bilder sind weit verbreitet und es ist schwierig, zwischen wahr und falsch zu unterscheiden. Experten fordern eine zwingende politische Überwachung

Am 3. April tauchten im Internet einige Fotos der Festnahme des ehemaligen US-Präsidenten Trump durch die New Yorker Polizei auf, die die Aufmerksamkeit vieler Menschen auf sich zogen. Allerdings handelt es sich bei diesen Fotos nicht um echte, sondern um synthetische Bilder, die durch die Technologie der künstlichen Intelligenz (KI) erzeugt wurden.

Experten warnen, dass diese zusammengesetzten Bilder eine neue Realität zeigen: Bei Großereignissen könnten die sozialen Medien mit falschen Bildern und Videos überschwemmt werden, was die Fakten noch weiter verwirren und die Öffentlichkeit in die Irre führen würde, sodass ein dringender Bedarf besteht, entsprechende Informationen bereitzustellen Technologien und formulieren relevante Richtlinien zur Überwachung ähnlicher Technologien.

Nach dem Verständnis von IT House wurden diese „Trump Arrest“-Fotos von Elliot Higgins, dem Gründer der „Ringcat“-Website, einem Open-Source-Ermittlungsmedium in den Niederlanden, mit dem KI-Zeichentool Midjourney erstellt.

Higgins sagte, er wolle Nachrichten über Trumps mögliche Verhaftung visualisieren, also nutzte er Midjourney, ein Text-zu-Bild-Modell, um realistisch aussehende Fotos zu erstellen und teilte sie auf Twitter. Der Tweet wurde innerhalb von zwei Tagen fast 5 Millionen Mal aufgerufen und erhielt mehr als 79.000 Likes.

Während die Technologie zum Erstellen und Generieren gefälschter Bilder nicht neu ist, geben die Geschwindigkeit der Fortschritte auf diesem Gebiet und der Missbrauch der Technologie durch Menschen Anlass zur Sorge, sagen Experten für künstliche Intelligenz. Munir Ibrahim vom Analyseunternehmen für digitale Inhalte Truepic sagte: „Synthetische Inhalte entwickeln sich rasant und die Kluft zwischen echten und gefälschten Inhalten wird immer schwieriger zu unterscheiden.“

Das Fortune-Magazin wies darauf hin, dass verschiedene Tools zur KI-Bildgenerierung jetzt in Reichweite sind und schnell eine große Anzahl lebensechter Bilder erzeugen können, nachdem Benutzer einfache Anweisungen gegeben haben. Beispielsweise kann Midjourney, ein Text-zu-Bild-Modell, jetzt Bilder generieren, die den Stil von Fotos nachahmen, die von Nachrichtenorganisationen aufgenommen wurden, sodass diese KI-generierten Bilder das Potenzial haben, die Gewässer einer überfüllten Nachrichtenumgebung zu trüben.

Higgins ist davon überzeugt, dass es bei synthetischen Bildern immer schwieriger wird, zwischen wahr und falsch zu unterscheiden. Der beste Weg, falsche visuelle Informationen zu bekämpfen, besteht darin, das öffentliche Bewusstsein zu schärfen und die Aufklärung in diesem Bereich zu stärken. Social-Media-Unternehmen können sich auf die Entwicklung der Fähigkeit zur Unterscheidung konzentrieren wahr und falsch. Neue Technologie für KI-generierte Bilder und die Integration dieser Technologie in eine eigene Plattform.

Die Verbreitung falscher „Trump verhaftet“-Bilder im Internet verdeutlicht auch den aktuellen Mangel an Unternehmensstandards oder staatlichen Vorschriften, um den Einsatz von KI zur Erstellung und Verbreitung von Lügen zu bekämpfen. Experten sind sich einig, dass Trumps hohe Bekanntheit es Menschen leicht macht, gefälschte Fotos von ihm zu erkennen, gefälschte Fotos von gewöhnlichen Menschen sind jedoch nicht so leicht zu erkennen, und die Technologie zur Erstellung gefälschter Fotos wird immer besser. Daher ist eine Gesetzgebung erforderlich, um den Einsatz der Deep-Synthese-Technologie zu regulieren.

Das obige ist der detaillierte Inhalt vonDurch KI erzeugte synthetische Bilder sind weit verbreitet und es ist schwierig, zwischen wahr und falsch zu unterscheiden. Experten fordern eine zwingende politische Überwachung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!