Google führt das SynthID-Tool ein, um KI-generierten Bildern eine Wasserzeichenfunktion hinzuzufügen

Mit der rasanten Entwicklung der generativen künstlichen Intelligenz machen sich die Menschen zunehmend Sorgen über die potenziellen Risiken, die durch KI-generierte Inhalte entstehen. Beispielsweise können Menschen absichtlich oder unabsichtlich durch KI generierte Desinformationen verbreiten. Gerade im Bereich der Bildgenerierung ist es besonders wichtig geworden, KI-generierte Bilder von echten Bildern zu unterscheiden

Es gibt einige Studien, die versuchen, KI-generierte Inhalte durch das Hinzufügen von Wasserzeichen zu unterscheiden. Der herausragende Aufsatz „Watermarking for Large Language Models“ von ICML 2023 schlägt eine Methode zum Hinzufügen von Wasserzeichen zur Ausgabe des Modells vor, um die Herausforderung der Textgenerierung zu bewältigen

Google DeepMind kündigte die Einführung eines neuen Tools, SynthID, zum Generieren von Bildern an Wasserzeichen zur Identifizierung von KI-generierten Bildern. Derzeit ist die Beta-Version von SynthID online. Sundar Pichai, CEO von Google, und CEO von Google DeepMind haben beide die Einführung des SynthID-Tools retweetet

Derzeit kann SynthID Bildern, die mit dem Vincent-Grafikmodell Imagen von Google generiert wurden, Wasserzeichen hinzufügen, und es ist optisch nahezu unmöglich, ein Wasserzeichen zu erkennen. Wie in der Abbildung unten gezeigt, gibt es keinen Unterschied im Aussehen, ob das Bild mit oder ohne Wasserzeichen ist:

SynthID kann auswerten, ob das Bild von Imagen generiert wurde, indem es das digitale Wasserzeichen im Bild scannt

SynthID hat keinen Einfluss auf die Bildqualität und selbst nach Modifikationen wie dem Hinzufügen von Filtern, dem Ändern von Farben und dem Speichern mit verschiedenen verlustbehafteten Komprimierungsschemata wie JPEG kann das Wasserzeichen immer noch erkannt werden.

Zwei Deep-Learning-Modelle werden verwendet SynthID für Wasserzeichen bzw. Erkennung. Die beiden Modelle wurden gemeinsam an mehreren Bildsätzen trainiert und für eine Reihe von Zielen optimiert

Derzeit können einige Benutzer das SynthID-Tool (Beta) für Imagen auf der Vertex AI-Plattform von Google verwenden.

Das ist erwähnenswert SynthID garantiert nicht, dass Wasserzeichen vollständig resistent gegen extreme Bildverarbeitung sind, bietet jedoch einen vielversprechenden technischen Ansatz, um Menschen einen verantwortungsvollen Umgang mit durch künstliche Intelligenz generierten Inhalten zu ermöglichen. Das Forschungsteam sagte, dass ähnliche Tools in Zukunft möglicherweise für andere Modalitäten wie Audio, Video und Text eingeführt werden

Das obige ist der detaillierte Inhalt vonGoogle führt das SynthID-Tool ein, um KI-generierten Bildern eine Wasserzeichenfunktion hinzuzufügen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!