Google veröffentlicht KI-generierte Bildwasserzeichen

New York
CNN
—

Um die Verbreitung von Fehlinformationen zu verhindern, hat Google am Dienstag ein dauerhaftes, unsichtbares Wasserzeichen auf Bildern eingeführt, das sie als computergeneriert identifiziert.

Die SynthID genannte Technologie bettet das Wasserzeichen direkt in Bilder ein, die von Imagen, einem der neuesten Text-zu-Bild-Generatoren von Google, generiert wurden. Das von der KI generierte Etikett bleibt unabhängig von Modifikationen wie hinzugefügten Filtern oder geänderten Farben bestehen.

SynthID kann auch eingehende Bilder scannen und die Wahrscheinlichkeit ermitteln, dass sie möglicherweise von Imagen erfasst wurden, indem es mit drei Sicherheitsstufen nach dem Wasserzeichen sucht: erkannt, nicht erkannt und möglicherweise erkannt.

„Obwohl diese Technologie nicht perfekt ist, zeigen unsere internen Tests, dass sie bei vielen gängigen Bildmanipulationen zuverlässig ist“, schreibt Google in einem Artikel. Blogeintrag Dienstag.

Für einige Kunden von Vertex AI, Googles generativer KI-Plattform für Entwickler, steht jetzt eine Beta-Version von SynthID zur Verfügung. Das Unternehmen sagt, dass SynthID, das von Googles DeepMind-Einheit in Zusammenarbeit mit Google Cloud entwickelt wurde, sich weiterentwickeln und möglicherweise auf andere Google-Produkte oder Dritte ausgeweitet wird.

Deepfakes und veränderte Bilder

Da gefälschte und veränderte Fotos und Videos immer realistischer werden, suchen Technologieunternehmen nach einer zuverlässigen Möglichkeit, manipulierte Inhalte zu identifizieren und zu melden. In den letzten Monaten verbreitete sich ein von der KI generiertes Bild von Papst Franziskus in einer Daunenjacke viral, und von der KI generierte Bilder des ehemaligen Präsidenten Donald Trump während seiner Verhaftung vor seiner Anklage gingen viral.

Vera Jourova, Vizepräsidentin der Europäischen Kommission, forderte die Unterzeichner des EU-Verhaltenskodex zur Desinformation – eine Liste, zu der Google, Meta, Microsoft und TikTok gehören – auf, „die Technologie einzuführen, um solche Inhalte eindeutig zu identifizieren und zu kategorisieren.“ für Benutzer“. “ im Juni.

Und mit der Ankündigung von SynthID schließt sich Google einer wachsenden Zahl von Start-ups und großen Technologieunternehmen an, die nach Lösungen suchen. Einige dieser Unternehmen tragen Namen wie Truepic und Reality Defender, die auf die potenziellen Risiken dieser Bemühungen hinweisen: den Schutz unseres Sinns dafür, was real ist und was nicht.

Die Content Source and Authenticity Alliance (C2PA), ein von Adobe unterstütztes Konsortium, hat Pionierarbeit bei der digitalen Wasserzeichengestaltung geleistet, während Google weitgehend einen eigenen Ansatz verfolgt hat.

Im Mai kündigte Google ein Tool namens an über dieses FotoDamit können Nutzer sehen, wann die Bilder auf ihrer Website ursprünglich von Google indiziert wurden, wo die Bilder möglicherweise zuerst erscheinen und wo sie online zu finden sind.

Das Technologieunternehmen kündigte außerdem an, dass jedes von Google mit KI generierte Bild in der Originaldatei ein Tag tragen wird, um „Kontext anzugeben“, wenn das Bild auf einer Website oder einer anderen Plattform gefunden wird.

Da sich die KI-Technologie jedoch schneller weiterentwickelt, als der Mensch mithalten kann, ist unklar, ob diese technischen Lösungen das Problem vollständig lösen können. OpenAI, das Unternehmen hinter Dall-E und ChatGPT, gab Anfang des Jahres zu, dass seine eigenen Bemühungen, KI-generierte Eingaben anstelle von Bildern zu erkennen, „unvollständig“ seien, und warnte, dass sie „mit Vorsicht zu genießen“ seien. „.