Die EU-Kommission hat am Mittwoch den endgültigen Verhaltenskodex zur Kennzeichnung und Identifizierung von KI-generierten Inhalten vorgelegt. Das umfassende Regelwerk, das von sechs unabhängigen Experten unter Beteiligung von über 180 Interessenvertretern aus Wirtschaft, Wissenschaft und Zivilgesellschaft erarbeitet wurde, soll den Akteuren der KI-Branche als praktischer Leitfaden dienen.

Die Handreichung konkretisiert die Transparenzvorgaben der KI-Verordnung, die ab dem 2. August greifen. Ab dann verlangt die EU eine klare Kennzeichnung in entscheidenden Bereichen: Deepfakes sowie KI-generierte oder manipulierte Texte, die im öffentlichen Interesse verbreitet werden, müssen klar als solche ausgewiesen werden. Auch Interaktionen mit dialogorientierten Systemen wie Chatbots sollen für Nutzer sofort als maschinell erkennbar sein, um Täuschungen und großflächige Manipulationen im digitalen Raum zu verhindern.

Der Kodex selbst basiert auf Freiwilligkeit, bietet den Unterzeichnern aber einen entscheidenden rechtlichen Vorteil. Sobald die Kommission und das zuständige Brüsseler KI-Büro das Papier als angemessen anerkannt haben, können teilnehmende Unternehmen durch die Umsetzung der vorgeschlagenen Maßnahmen offiziell nachweisen, dass sie die gesetzlichen Pflichten des AI Acts erfüllen.

Technische Kennzeichnung als Standard

Inhaltlich gliedert sich das Papier in zwei Kernbereiche, die jeweils unterschiedliche Akteure der Wertschöpfungskette in die Pflicht nehmen. Der erste Abschnitt richtet sich an Entwickler und Anbieter generativer KI-Systeme. Sie müssen technisch sicherstellen, dass künstlich erzeugte oder veränderte Audio-Dateien, Bilder, Videos sowie Texte in einem maschinenlesbaren Format markiert werden und dadurch zuverlässig als künstlich erkennbar sind.

Da nach derzeitigem Stand der Technik kein einzelnes Verfahren ausreicht, um die gesetzlichen Kriterien der Wirksamkeit, Interoperabilität, Robustheit und Verlässlichkeit vollständig zu erfüllen, schreibt der Kodex für die meisten Online-Inhalte einen mehrschichtigen Ansatz vor.

Die Anbieter verpflichten sich zur Kombination von mindestens zwei maschinenlesbaren Ebenen: Zum einen müssen digitale Metadaten manipulationssicher mit einer digitalen Signatur und einem Zeitstempel versehen werden. Ferner ist die Einbettung unsichtbarer Wasserzeichen vorgesehen, die sich nur schwer vom Inhalt trennen lassen. Für frei fließende Texte, die länger als 200 Zeichen sind und keine konventionellen Metadaten transportieren können, wird die Anwendung von Wasserzeichen ebenfalls verlangt. Hier dürfen Anbieter aber aufgrund geringerer Zuverlässigkeit den Zugriff auf Erkennungswerkzeuge vorerst auf verifizierte Experten beschränken.

Erkennungswerkzeuge und Label-Programm

Zusätzlich sind optionale Protokollierungslösungen oder Fingerprints denkbar, solange der Datenschutz dabei gewahrt wird. Der Kodex verbietet den Anbietern zudem, Werkzeuge zu vertreiben oder zu bewerben, die der Umgehung dieser Schutzmechanismen dienen. Gleichzeitig sieht das Papier vor, dass die entwickelten Erkennungswerkzeuge für Aufsichtsbehörden, Medien, Faktenprüfer und Forscher dauerhaft und uneingeschränkt kostenfrei zugänglich sein müssen.

Der zweite Abschnitt nimmt die Anwender und Betreiber in die Pflicht, die KI-Systeme in der Praxis einsetzen. Sie müssen Deepfakes und nicht redaktionell geprüfte, im öffentlichen Interesse publizierte KI-Texte unzweideutig für das menschliche Auge oder Ohr kennzeichnen.

Um eine einheitliche und barrierefreie Erkennbarkeit zu gewährleisten, hat das europäische KI-Büro ein standardisiertes, visuelles EU-Label entwickelt. Dieses Symbol trägt je nach Modifikationsgrad die Aufschrift „AI + GENERATED“ für vollständig künstliche Inhalte oder „AI + MODIFIED“ für nachträglich manipulierte Werke.

Sichtbarkeit für Nutzer im Fokus

Das Kennzeichen muss ab der ersten Begegnung des Nutzers mit dem Inhalt durchgehend gut sichtbar platziert werden. Die Icons können etwa in der oberen rechten Ecke von Videos oder nahe der Überschrift eines Textes angebracht werden. Bei Videos muss das Label zudem in regelmäßigen Abständen wiederholt werden, um auch nachträgliche Ausschnitte oder Screenshots abzusichern. Ist eine visuelle Darstellung nicht möglich, wie etwa bei reinen Audio-Deepfakes, greift die Pflicht zu akustischen Warnhinweisen zu Beginn des Beitrags sowie zu regelmäßigen Ton-Erinnerungen bei längeren Sequenzen.

Für kreative, künstlerische oder satirische Werke gelten flexiblere Regeln: Hier darf die Kennzeichnung den Kunstgenuss nicht unangemessen beeinträchtigen und kann etwa im Abspann oder in den Begleitnotizen untergebracht werden. Eine Ausnahme gilt für klassische Mediendienste: Sie können künftig auf ihre bewährten, eigenen redaktionellen Kontrollprozesse verweisen, um die journalistische Sorgfaltspflicht zu wahren.

Die neuen Transparenzregeln fungieren als Ergänzung zu den umfassenden Vorschriften des AI Act für universell einsetzbare KI-Modelle und Hochrisiko-Systeme. Sie flankieren die bereits veröffentlichten Leitlinien der Kommission, die die rechtlichen Vorgaben weiter präzisieren und verbleibende Lücken schließen.

Eine eigens eingerichtete Taskforce soll den Kodex kontinuierlich an den technologischen Fortschritt anpassen und eine interaktive, zweite Ebene für das EU-Label entwickeln, die Nutzern künftig per Klick detaillierte Herkunftsdaten und Informationen über die genaue Art der KI-Manipulation liefert.

(wpl)