KI-Verordnung
Deepfake-Kennzeichnung
Kurz erklärt
Art. 50 Abs. 4 UAbs. 1 der EU-KI-Verordnung verpflichtet Betreiber, Deepfakes offenzulegen — also Bild-, Ton- oder Videoinhalte, die echten Personen, Gegenständen oder Ereignissen ähneln und fälschlicherweise als echt erscheinen würden. Für offenkundig künstlerische, satirische oder fiktionale Werke genügt ein Hinweis, der die Darbietung nicht beeinträchtigt.
Ein Deepfake im Sinne der Verordnung ist mehr als ein bearbeitetes Foto und weniger als jede KI-Ausgabe.
Die Definition
Art. 3 Nr. 60 KI-VO: durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden.
Zwei Merkmale müssen zusammenkommen: die Ähnlichkeit mit etwas Wirklichem und die Eignung, als echt durchzugehen. Ein offensichtlich generiertes Fantasiebild ist kein Deepfake. Ein fotorealistisches Video einer real existierenden Person, die etwas sagt, was sie nie gesagt hat, ist einer.
Wen es trifft
Den Betreiber — also die Stelle, die den Inhalt einsetzt und veröffentlicht, nicht den Hersteller des Werkzeugs. Wer ein Avatar-Video mit einem synthetischen Sprecher auf die Startseite stellt, schuldet die Offenlegung selbst.
Die Kunst-Ausnahme
Bei offenkundig künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, ohne die Darbietung oder den Genuss des Werks zu beeinträchtigen. Ein Abspann-Hinweis genügt dort, ein Overlay über dem ganzen Bild wäre unverhältnismäßig.
Die Ausnahme entbindet nicht von der maschinenlesbaren Markierung, die den Anbieter nach Abs. 2 trifft.
Was das technisch heißt
Sichtbar für Menschen — ein Label am Medium selbst, nicht in einer Fußnote drei Klicks entfernt. Zusätzlich schuldet der Anbieter die maschinenlesbare Provenienz über C2PA oder IPTC.
Abgrenzung zu Art. 5
Nicht einvernehmlich erstellte intime Bildaufnahmen und Darstellungen sexuellen Kindesmissbrauchs sind keine Kennzeichnungsfrage, sondern ab dem 2. Dezember 2026 nach Art. 5 verboten.
Rechtsquelle: Art. 3 Nr. 60, Art. 50 Abs. 4 UAbs. 1 und Abs. 5 Verordnung (EU) 2024/1689.
Auf Ihrer Website prüfen: Erkannte Deepfake- und Medien-Pipelines nach Art. 50