Sowohl Google als auch OpenAI wollen ihre KI-Inhalte künftig mit dem Wasserzeichen SynthID und dem Metadaten-Standard Content Credentials markieren. Das zwei große KI-Anbieter nun auf das gleiche System setzen, könnte ein Fortschritt zu einem branchenweiten Standard bedeuten.

Schon seit mehreren Jahren sucht die Branche nach Möglichkeiten, die Herkunft eines Medieninhalts eindeutig zu markieren. Denn insbesondere seit KI für alle verfügbar ist, wird es immer schwieriger zu erkennen, ob ein Text, Foto-, Video- oder Audiofile von einem Menschen oder einer Maschine erstellt wurde.

Bisher keine einheitlichen Standards

Seit 2019 versuchen diverse Firmen daher, einen einheitlichen Standard für einen Herkunftsnachweis zu erschaffen. Jedem Medieninhalt sollen Metadaten mit Informationen darüber anhängen, wer ihn wann, wo und mit welchen Werkzeugen erstellt hat. Mit dabei sind Kamerahersteller wie Sony, Medienhäuser wie die BBC, Agenturen wie Reuters und Techgiganten wie Google, Meta oder Adobe, die sich in der Coalition for Content Provenance and Authenticity (C2PA) zusammen getan haben. Doch in der Vergangenheit gab es immer wieder Alleingänge und technische Probleme. Dennoch ist „Content Credentials“ von C2PA der aktuell anerkannteste Standard, den Firmen wie OpenAI auch seit einer Weile bereits für diverse KI-Produkte nutzen.

Doch Metadaten lassen sich leicht verändern oder entfernen. Social-Media-Plattformen wie YouTube löschen sie sogar standardmäßig beim Upload auf die Plattform. Was hilft, ist die Koppelung der Daten mit einem Wasserzeichen.

Wie Wasserzeichen helfen können

Firmen wie Digimarcs, die auch am Content-Credentials-Standard beteiligt sind, haben schon 2023 Metadaten und Wasserzeichen gekoppelt. Die Idee dahinter ist: Während erstere leicht entfernt werden können, sind Wasserzeichen in das Medium „eingebrannt“. Je nach Mediengattung kommen hier verschiedene Technologien zum Einsatz; bei Bildern gibt es zum Beispiel die Möglichkeit, eine Art Bildrauschen aus Pixeln einzubauen. Diese sind dann in einem bestimmten Muster verändert. Das menschliche Auge kann diese Veränderung nicht sehen, aber Maschinen können sie auslesen. Wenn ein Bild nun ein Wasserzeichen, aber keine Metadaten hat, können die originalen Metadaten unter Umständen dank der eindeutigen Wasserzeichen-Kennung wieder hergestellt werden. Und selbst wenn nicht, erkennt der Nutzer zumindest, dass das Bild gegebenenfalls verdächtig ist.

Mit SynthID will Google einen neuen Standard für Wasserzeichen setzen – und OpenAI hat ebenso wie Kakao und ElevenLabs angekündigt, sich dem anzuschließen. Bei OpenAI ist die Technologie vorerst nur für Bilder verfügbar, die mit ChatGPT, Codex oder der OpenAI API erstellt wurden. Bei Google ist die Markierung mit SynthID bereits bei vielen seiner KI-Dienste Standard, immer mehr Anwendungen fügen auch C2PA Content Credentials Metadaten hinzu.

Ab August 2026 schreibt der EU AI Act vor, dass KI-Inhalte von allen Anbietern, die KI-Produkte in Europa anbieten, klar markiert sein müssen. Andernfalls gibt es Strafen von bis zu 15 Millionen Euro oder 3 Prozent vom Jahresumsatz.

Gleiche Herkunftsnachweise für alles

Auch die neusten Google Pixel Handys sollen, ebenso wie Samsungs jüngste Galaxy-Klasse, jede Bild- und bald auch Videoaufnahme mit einem Herkunftsnachweis nach Content Credentials Standard markieren, wie auch einige Fotokameras das schon länger machen. So sollen nicht nur unechte, sondern auch echte Bilder eindeutig erkennbar werden. Auch Instagram kündigte an, Kameraaufnahmen auf seiner Plattform bald mit Metadaten zu versehen. Und der Fotoagentur Getty werden Content Credentials nun Pflicht. Die Idee: Alles, was keine Metadaten oder Wasserzeichen hat, soll in der Zukunft verdächtig sein.

Doch dafür, wie Nutzer diese KI-Kennung auslesen können, gibt es noch keine einheitliche Lösung. Stattdessen müssen Nutzer einen Inhalt aufwendig bei verschiedenen Tools hochladen, weil viele Anbieter nur die Herkunftsnachweise der eigenen KI auslesen.

Google hat am Dienstag angekündigt, dass man das SynthID-Wasserzeichen nun zumindest nicht nur in der Gemini App prüfen kann, sondern für Fotos auch in Search und bald auch in Chrome. Weitere Medienarten sollen folgen. Voraussetzung ist, dass man ein Google-Konto hat. Sein bisheriges, anmeldungsfreies Verifizierungsportal schaltet Google dafür jedoch ab – und zwingt Nutzer so dazu, sich bei seinen Diensten zu registrieren. Dafür werden bei Google nun nicht nur das Vorhandensein eines Wasserzeichens, sondern auch die Metadaten von Content Credentials ausgegeben – dafür mussten die Nutzer bisher noch eine separate Webseite aufrufen. In der Gemini App geht das seit dieser Woche, in Search und Chrome soll diese Funktion zeitnah kommen.

OpenAI hingegen will bald eine separate Verifizierungsseite an den Start bringen, die anfangs nur OpenAI-Content und später auch KI-Inhalte von anderen Anbietern erkennen können soll.

Weitere Anbieter wie die Verify-Seite der Content Authenticity Initiative und die Chrome-Erweiterung von Digimarc sind Möglichkeiten, vorhandene Nachweise auszulesen – und gegen eine Gebühr auch den eigenen Content mit Wasserzeichen und Metadaten zu versehen. Wer ein Foto oder Video veröffentlichen will, kann so selbst dafür sorgen, dass seine Herkunft für alle klar erkennbar ist.

(rie)