Deepfake-Kennzeichnungspflicht 2026: Art. 50(4) KI-VO

Wenn Ihr Produkt Gesichter, Stimmen oder Videos mit KI erzeugt oder verändert, betrifft Sie die Deepfake-Kennzeichnungspflicht aus Artikel 50(4) der KI-Verordnung. Dieser Beitrag erklärt, was rechtlich als Deepfake gilt, wen die Offenlegungspflicht trifft, wie und wann Sie kennzeichnen müssen und wo die engen Ausnahmen liegen. Am Ende wissen Sie, wie sich diese Betreiberpflicht von der maschinenlesbaren Kennzeichnung der Anbieter unterscheidet.

Kurz vorweg: Das ist keine Rechtsberatung. Ob eine Pflicht in Ihrem konkreten Fall greift, entscheiden die KI-Verordnung und die offizielle Auslegung, nicht dieser Artikel. Für verbindliche Einordnungen ziehen Sie bitte juristische Beratung hinzu.

Ab wann die Deepfake-Kennzeichnungspflicht gilt

Die Transparenzpflichten aus Artikel 50 der KI-Verordnung gelten ab dem 2. August 2026. Das ist der Stichtag, an dem auch die Deepfake-Kennzeichnungspflicht wirksam wird.

Für die maschinenlesbare Anbieter-Kennzeichnung (dazu unten mehr) kann für bestimmte Systeme, die vor diesem Datum bereits auf dem Markt waren, eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 greifen. Diese Erleichterung betrifft die technische Markierung durch Anbieter, nicht die sichtbare Offenlegung durch Betreiber. Planen Sie die sichtbare Deepfake-Offenlegung daher zum 2. August 2026 ein.

Wichtig für internationale Teams: Die Verordnung wirkt auch über die EU hinaus. Sie erfasst Anbieter und Betreiber außerhalb der EU, sobald ein System auf dem EU-Markt bereitgestellt wird oder sein Output in der EU verwendet wird. Ein US- oder UK-Sitz schützt also nicht vor der Pflicht, wenn Ihre Nutzer in der EU sind.

Was als Deepfake gilt

Die KI-Verordnung definiert einen Deepfake als durch KI erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden.

Entscheidend sind drei Merkmale:

KI-Erzeugung oder -Manipulation: Der Inhalt wurde durch ein KI-System generiert oder verändert.
Realitätsähnlichkeit: Er ähnelt realen Personen, Objekten, Orten oder Ereignissen.
Täuschungseignung: Er würde einer betrachtenden Person fälschlich als authentisch erscheinen.

Darunter fallen etwa ein synthetisch erzeugtes Gesicht, das echt wirkt, eine geklonte Stimme einer realen Person, ein Video, in dem jemand Dinge sagt, die er nie gesagt hat, oder ein retuschierter Nachrichtenclip. Klar erkennbare Fantasieinhalte, abstrakte Grafiken oder offensichtliche Cartoons erfüllen die Realitäts- und Täuschungsmerkmale in der Regel nicht.

Artikel 50(4) erfasst neben Deepfakes einen zweiten Fall: KI-erzeugte oder -manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Auch hier muss offengelegt werden, dass der Text künstlich erzeugt oder verändert wurde. Für die meisten Produktteams steht aber der Bild-, Audio- und Video-Fall im Vordergrund.

Wen die Offenlegungspflicht trifft: den Betreiber

Die Deepfake-Kennzeichnungspflicht nach Artikel 50(4) richtet sich an den Betreiber (auf Englisch: deployer). Betreiber ist, wer ein KI-System unter eigener Verantwortung im Rahmen einer beruflichen Tätigkeit einsetzt. Wenn Ihr Team ein Modell nutzt, um in Ihrem Produkt Gesichter zu tauschen, Stimmen zu klonen oder Werbevideos zu synthetisieren, sind Sie in dieser Rolle Betreiber und tragen die Offenlegungspflicht gegenüber den Nutzern.

Davon zu unterscheiden ist der Anbieter (provider): Das ist, wer das KI-System entwickelt und unter eigenem Namen bereitstellt. Anbieter treffen andere Pflichten, insbesondere die maschinenlesbare Markierung nach Artikel 50(2).

Zwei praktische Klarstellungen:

Der bloße Aufruf einer fremden Modell-API (etwa von OpenAI oder Anthropic) nimmt Ihnen die Pflichten nicht ab, die an das von Ihnen bereitgestellte oder betriebene KI-System geknüpft sind. Sie bleiben für die Offenlegung in Ihrem Produkt verantwortlich.
Ein Modell zu verändern oder feinzujustieren macht Sie nicht automatisch zu dessen Anbieter. Eine wesentliche Änderung kann jedoch eine eigene Bewertung als Anbieter eines KI-Modells mit allgemeinem Verwendungszweck auslösen. Das ist ein Grenzfall für juristische Beratung; Orientierung geben die Leitlinien der EU-Kommission zu GPAI-Anbietern.

Weil Pflichten an das jeweilige System im Produkt anknüpfen, sollten Sie pro Produkt bewerten, nicht pro Unternehmen. Zwei Features im selben Haus können ganz unterschiedliche Pflichten auslösen.

Zwei verschiedene Pflichten: maschinenlesbar vs. sichtbar

Ein häufiges Missverständnis: Viele Teams glauben, mit einer technischen Markierung sei alles erledigt. Tatsächlich stehen zwei getrennte Pflichten nebeneinander.

Art. 50(2): maschinenlesbare Kennzeichnung (Anbieterseite)

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen den Output in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert markieren. Das ist Metadatenebene: HTML-Attribute, JSON-LD, Header-Informationen oder ähnliche technische Signale, die Maschinen auslesen können.

Wichtig einzuordnen: Diese maschinenlesbare Markierung ist beratende Metadatenebene, keine signierte Herkunftsnachweis-Provenienz. Sie ist keine C2PA-Zertifizierung und sollte für sich genommen nicht als ausreichend behandelt werden. Es existiert ergänzend ein freiwilliger EU-Verhaltenskodex zur Transparenz KI-erzeugter Inhalte.

Art. 50(4): sichtbare Deepfake-Offenlegung (Betreiberseite)

Betreiber müssen offenlegen, dass ein Inhalt künstlich erzeugt oder manipuliert wurde. Diese Offenlegung richtet sich an Menschen: Sie muss für die betrachtende oder zuhörende Person klar, erkennbar und verständlich sein.

Kurz gesagt: Die maschinenlesbare Markierung (50(2), Anbieter) und die menschlich sichtbare Deepfake-Offenlegung (50(4), Betreiber) sind zwei verschiedene Pflichten mit unterschiedlichen Adressaten. Die eine ersetzt die andere nicht. Wer selbst entwickelt und selbst einsetzt, kann beide Rollen zugleich innehaben und beide Pflichten erfüllen müssen. Die maßgeblichen Details finden Sie im AI Act Service Desk der EU-Kommission zu Artikel 50.

Wie und wo offengelegt wird: Label, Platzierung, Zeitpunkt

Die Verordnung schreibt kein bestimmtes Wording vor, verlangt aber eine klare und erkennbare Offenlegung. In der Praxis haben sich diese Prinzipien bewährt:

1. Verständliches Label: Eine kurze, eindeutige Kennzeichnung wie „KI-generiert", „Mit KI erstellt" oder „KI-manipuliert". Vermeiden Sie verklausulierte Fußnoten, die niemand liest. 2. Sichtbare Platzierung: Das Label gehört dorthin, wo die Person den Inhalt wahrnimmt, nicht in ein verstecktes Impressum. Bei Bildern ein Overlay oder eine unmittelbar zugeordnete Bildunterschrift; bei Video ein sichtbarer Hinweis im Clip; bei Audio ein hörbarer oder im Player klar angezeigter Hinweis. 3. Richtiger Zeitpunkt: Die Offenlegung muss spätestens bei der ersten Interaktion oder Wahrnehmung erfolgen. Die Person soll erkennen können, dass der Inhalt synthetisch ist, bevor oder während sie ihn konsumiert, nicht erst danach. 4. Barrierefrei und robust: Berücksichtigen Sie Screenreader, kontrastarme Darstellungen und Fälle, in denen der Inhalt geteilt oder weiterverbreitet wird. Ein Label, das beim Download verschwindet, erfüllt seinen Zweck kaum.

Behandeln Sie die Offenlegung als Teil der Nutzeroberfläche, nicht als nachträgliche Rechtszeile. Je klarer sie ist, desto eher trägt sie die Transparenzpflicht.

Die engen Ausnahmen: redaktionelle Kontrolle, Kunst und Satire

Artikel 50(4) sieht schmale Ausnahmen vor. Sie sind eng auszulegen und heben die Offenlegung nicht generell auf.

Redaktionelle Kontrolle bei Texten: Für KI-erzeugte oder -manipulierte Texte zu Angelegenheiten von öffentlichem Interesse entfällt die Offenlegung, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterlag und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Kunst und Satire: Ist ein Deepfake erkennbar Teil eines künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, reduziert sich die Pflicht darauf, das Vorhandensein erzeugter oder manipulierter Inhalte in angemessener Weise offenzulegen, ohne die Darbietung oder den Genuss des Werks zu beeinträchtigen.

Auch im Kunst- und Satirefall verschwindet die Transparenzpflicht also nicht vollständig; sie wird lediglich behutsamer umgesetzt. Ob Ihr konkreter Fall unter eine Ausnahme fällt, ist eine Auslegungsfrage für juristische Beratung. Verlassen Sie sich nicht vorschnell auf eine Ausnahme, nur weil sie bequem wäre.

Ein produktbezogenes Beispiel

Stellen Sie sich eine Marketing-App vor, die aus einem hochgeladenen Foto ein realistisches Produktvideo mit einem synthetischen Moderator erzeugt. Der Moderator sieht aus wie ein echter Mensch und spricht mit geklonter Stimme.

Rolle: Ihr Team setzt das System im eigenen Produkt ein und ist damit Betreiber. Die Offenlegungspflicht nach Artikel 50(4) liegt bei Ihnen.
Deepfake-Prüfung: KI-erzeugt, realitätsähnlich, täuschungsgeeignet. Das Ergebnis ist ein Deepfake.
Sichtbare Offenlegung (50(4)): Blenden Sie im exportierten Video einen klaren Hinweis „KI-generiert" ein, den auch nach dem Teilen sichtbar bleibt. Weisen Sie im Player und in der Beschreibung darauf hin.
Maschinenlesbare Markierung (50(2)): Sofern Sie zugleich als Anbieter des generierenden Systems gelten, ergänzen Sie maschinenlesbare Metadaten im Export. Verlassen Sie sich nicht allein darauf, dass die genutzte Modell-API bereits markiert.
Ausnahme? Reine Werbung ist typischerweise weder redaktionell kontrollierter Journalismus noch ein künstlerisch-satirisches Werk. Die volle sichtbare Offenlegung ist hier der sichere Weg.
Pro Produkt bewerten: Ein zweites Feature derselben App, das nur abstrakte Hintergrundmuster erzeugt, wäre kein Deepfake und würde diese Pflicht nicht auslösen.

Dieses Beispiel dient der Veranschaulichung und ersetzt keine Prüfung Ihres konkreten Falls.

Checkliste für Ihr Team

[ ] Erzeugt oder verändert das Feature realitätsähnliche Bild-, Audio- oder Videoinhalte?
[ ] Sind Sie beim betreffenden System Betreiber, Anbieter oder beides?
[ ] Gibt es eine sichtbare, verständliche Offenlegung an der richtigen Stelle und zum richtigen Zeitpunkt?
[ ] Bleibt das Label auch nach Export, Download oder Teilen erhalten?
[ ] Ist zusätzlich eine maschinenlesbare Markierung nötig, weil Sie als Anbieter gelten?
[ ] Kommt überhaupt eine der engen Ausnahmen ernsthaft in Betracht, und ist das juristisch geprüft?
[ ] Haben Sie pro Produkt und nicht pauschal pro Unternehmen bewertet?

Eine hilfreiche fachliche Vertiefung bietet der Erklärtext zu Artikel 50.

Nächster Schritt

Die Deepfake-Kennzeichnungspflicht ist gut umsetzbar, wenn Sie früh klären, in welcher Rolle Sie stehen und welche der beiden Transparenzpflichten Ihr Feature auslöst. Wenn Sie sich einen strukturierten Überblick pro Produkt verschaffen möchten, hilft der kostenlose Readiness-Check von DiscloseKit dabei, die relevanten Artikel-50-Fragen geordnet durchzugehen und Ihre offenen Punkte zu dokumentieren. Er unterstützt Ihre interne Prüfung und ersetzt keine juristische Beratung.