Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Acts. Was Unternehmen, Medien und Agenturen über sichtbare Labels und maschinenlesbare Markierungen wissen müssen.
Stand: 2. August 2026
Die neue Transparenzpflicht wird häufig verkürzt als allgemeine Pflicht dargestellt, „authentisch aussehende KI-Inhalte“ zu kennzeichnen. Rechtlich ist die Lage differenzierter: Der EU AI Act trennt zwischen einer technischen, maschinenlesbaren Markierung durch Anbieter generativer KI-Systeme und einer für Menschen sichtbaren Offenlegung durch Unternehmen und andere Betreiber, die bestimmte Inhalte veröffentlichen oder einsetzen. Nicht jeder KI-generierte Inhalt braucht deshalb zwingend ein sichtbares „KI-generiert“-Badge – aber deutlich mehr Inhalte müssen technisch markierbar und erkennbar sein.
Maßgeblich sind insbesondere Artikel 50 der Verordnung (EU) 2024/1689, die im Juli 2026 veröffentlichten Leitlinien der Europäischen Kommission, der freiwillige EU-Praxisleitfaden für KI-generierte Inhalte und die offiziellen EU-Kennzeichnungssymbole. Für Deutschland sind außerdem das neue KI-Marktüberwachungs- und Innovationsförderungsgesetz und die zentrale Rolle der Bundesnetzagentur relevant.
Executive Summary
Seit dem 2. August 2026 gelten die Transparenzpflichten des Artikels 50 grundsätzlich unmittelbar. Eine eng begrenzte Übergangsregelung betrifft nur Anbieter generativer KI-Systeme, die bereits vor diesem Datum auf den Markt gebracht wurden: Sie müssen die technische Markierung nach Artikel 50 Absatz 2 spätestens bis zum 2. Dezember 2026 nachrüsten. Die sichtbaren Betreiberpflichten für Deepfakes, bestimmte Texte von öffentlichem Interesse, Chatbots sowie Emotions- und biometrische Kategorisierungssysteme sind dadurch nicht allgemein auf Dezember verschoben worden.
Die wichtigste Unterscheidung lautet:
| Ebene | Adressat | Reichweite | Kernaussage |
|---|---|---|---|
| Technische Herkunftsmarkierung | Anbieter generativer KI-Systeme | Synthetische oder manipulierte Texte, Bilder, Audio- und Videoinhalte | Ausgaben müssen maschinenlesbar markiert und als KI-generiert oder KI-manipuliert erkennbar sein. |
| Sichtbare Inhaltskennzeichnung | Betreiber, etwa Unternehmen, Medien, Agenturen oder Behörden | Deepfakes sowie bestimmte nicht redaktionell geprüfte Texte von öffentlichem Interesse | Der künstliche Ursprung muss für die betroffene Person klar offengelegt werden. |
| Interaktionshinweis | Anbieter direkt interagierender KI | Chatbots, Sprachassistenten und vergleichbare Systeme | Nutzer müssen erkennen, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. |
| Betroffeneninformation | Betreiber | Emotionserkennung und biometrische Kategorisierung | Betroffene Personen müssen über den Betrieb des Systems informiert werden. |
Diese Aufteilung folgt unmittelbar aus Artikel 50 Absätze 1 bis 4. Alle Informationen müssen spätestens bei der ersten Interaktion oder Wahrnehmung klar, unterscheidbar und barrierefrei bereitgestellt werden.
Für Unternehmen ergeben sich daraus sechs operative Prioritäten:
- Klären, ob das Unternehmen Anbieter, Betreiber oder beides ist.
- Sämtliche generativen Systeme und KI-gestützten Publikationsprozesse inventarisieren.
- Deepfake-, Text-, Interaktions- und Standardbearbeitungsfälle getrennt klassifizieren.
- Sichtbare Labels und technische Provenienzmarkierungen als zwei verschiedene Kontrollen implementieren.
- Metadaten und Kennzeichen über DAM-, CMS-, Social-Media-, Export- und Agenturprozesse hinweg erhalten.
- Entscheidungen, Ausnahmen, Tests, redaktionelle Prüfungen und Verantwortlichkeiten revisionsfest dokumentieren.
Verstöße gegen Artikel 50 können mit Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, bei Unternehmen grundsätzlich nach dem höheren Wert. Für KMU und Start-ups gilt dagegen der niedrigere der beiden Höchstwerte. Daneben können Behörden Korrekturen, Einschränkungen, Rücknahme oder Rückruf verlangen.
Rechtsgrundlage, Geltungsbeginn und regulatorische Einordnung
Artikel 50 gehört zu Kapitel IV der KI-Verordnung und enthält „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“. Die Vorschrift ist nicht auf Hochrisiko-KI beschränkt. Ein Marketing-Bildgenerator, ein Kundenservice-Chatbot oder ein Voice-Cloning-Werkzeug kann deshalb Artikel 50 unterliegen, obwohl das System nicht als Hochrisiko-KI eingestuft wird.
Die zentralen Rechtsgrundlagen sind:
| Vorschrift | Inhalt |
|---|---|
| Artikel 3 Nr. 3 und 4 | Definitionen von Anbieter und Betreiber |
| Artikel 3 Nr. 60 | Definition des Deepfakes |
| Artikel 50 Abs. 1 | Hinweis bei direkter Interaktion mit KI |
| Artikel 50 Abs. 2 | Maschinenlesbare Kennzeichnung synthetischer Texte, Bilder, Audio- und Videoinhalte |
| Artikel 50 Abs. 3 | Information bei Emotionserkennung und biometrischer Kategorisierung |
| Artikel 50 Abs. 4 | Sichtbare Offenlegung bei Deepfakes und bestimmten Texten von öffentlichem Interesse |
| Artikel 50 Abs. 5 | Klarheit, Zeitpunkt und Barrierefreiheit |
| Artikel 99 Abs. 4 Buchst. g | Bußgeldrahmen für Artikel-50-Verstöße |
| Erwägungsgründe 133 bis 136 | Technische Methoden, Deepfakes, Wertschöpfungskette und Verhältnis zum Digital Services Act |
Der Deepfake-Begriff erfasst einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlich als echt oder wahrheitsgemäß erscheinen würde. Text gehört damit definitionsgemäß nicht zur Deepfake-Kategorie, wird aber über eine eigenständige Regelung für Veröffentlichungen von öffentlichem Interesse erfasst.
Erwägungsgrund 133 nennt ausdrücklich mögliche technische Mittel: Wasserzeichen, Metadatenkennzeichnungen, kryptografische Herkunfts- und Echtheitsnachweise, Protokollierung, Fingerprinting und Kombinationen dieser Verfahren. Der Verordnungsgeber schreibt damit kein einzelnes technisches Format vor, erwartet aber eine dem Stand der Technik entsprechende, belastbare Lösung.
Erwägungsgrund 134 erläutert die sichtbare Kennzeichnung von Deepfakes und berücksichtigt zugleich Kunst-, Satire-, Kreativ- und Fiktionsfreiheit. Erwägungsgrund 135 hebt die Zusammenarbeit entlang der Wertschöpfungskette hervor, insbesondere zwischen Erzeugern, Plattformen, Distributoren und Authentizitätsprüfern. Erwägungsgrund 136 stellt klar, dass die Vorgaben neben dem Digital Services Act gelten und dessen Regeln über Vermittlungsdienste nicht ersetzen.
Wichtige Fristkorrektur: Die im Juli 2026 im Amtsblatt veröffentlichte Verordnung (EU) 2026/1744 ergänzt eine viermonatige Übergangsfrist. Anbieter generativer KI-Systeme, die ihr System bereits vor dem 2. August 2026 in Verkehr gebracht haben, müssen die Anforderungen aus Artikel 50 Absatz 2 bis zum 2. Dezember 2026 erfüllen. Die Änderung betrifft ihrem Wortlaut nach genau diese technische Anbieterpflicht und nicht pauschal sämtliche Transparenzpflichten.
Die zeitliche Entwicklung lässt sich wie folgt zusammenfassen:
timeline
title Zeitachse der Artikel-50-Umsetzung
1. August 2024 : Inkrafttreten der EU-KI-Verordnung
2. August 2025 : Governance- und Sanktionskapitel grundsätzlich anwendbar
10. Juni 2026 : Finaler EU-Praxisleitfaden veröffentlicht
20. Juli 2026 : Finale Kommissionsleitlinien zu Artikel 50 veröffentlicht
2. August 2026 : Artikel 50 grundsätzlich anwendbar
Sichtbare Betreiberkennzeichnungen erforderlich
Neue generative Systeme müssen technisch markieren
2. Dezember 2026 : Ende der Übergangsfrist für vor dem 2. August 2026
in Verkehr gebrachte generative KI-SystemeDie KI-Verordnung hat zudem extraterritoriale Reichweite. Sie gilt für Anbieter außerhalb der EU, wenn sie Systeme in der Union anbieten, und für Anbieter oder Betreiber in Drittstaaten, wenn die erzeugte Ausgabe in der EU verwendet wird. Ein US-amerikanischer KI-Dienst oder eine außereuropäische Marketingagentur kann daher erfasst sein, wenn deren Inhalte für EU-Nutzer oder EU-Märkte bestimmt sind.
Anwendungsbereich und Schwelle für „authentisch aussehende“ Inhalte
Die Formulierung „authentisch aussehend“ ist kein einheitlicher Schwellenwert für alle Pflichten. Drei unterschiedliche Tests sind auseinanderzuhalten.
Technische Anbieterkennzeichnung: Artikel 50 Absatz 2 setzt grundsätzlich nicht voraus, dass ein Inhalt täuschend echt aussieht. Erfasst werden Systeme, die synthetische Texte, Bilder, Audio- oder Videoinhalte erzeugen. Auch ein offensichtlich stilisiertes KI-Bild kann daher technisch markiert werden müssen, selbst wenn für den veröffentlichenden Betreiber kein sichtbares Deepfake-Label erforderlich ist.
Sichtbare Deepfake-Kennzeichnung: Hier muss das Bild, Audio oder Video einem wirklichen Bezugspunkt ähneln und für eine Person fälschlich authentisch oder wahrheitsgemäß erscheinen können. Es gibt keinen gesetzlich festgelegten Prozentsatz, keinen „Photorealismus-Score“ und keine Mindestwahrscheinlichkeit. Entscheidend ist eine kontextbezogene Gesamtbeurteilung.
Öffentlichkeitsbezogene Textkennzeichnung: Text muss nicht „authentisch aussehen“. Sichtbar offengelegt werden muss vielmehr, dass ein KI-generierter oder KI-manipulierter Text zur Information der Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse veröffentlicht wird, sofern keine qualifizierte menschliche Überprüfung oder redaktionelle Kontrolle mit übernommener Verantwortung stattgefunden hat.
Die finalen Kommissionsleitlinien konkretisieren den Deepfake-Test nach einer kontextbezogenen Betrachtung. Relevant sind unter anderem Ähnlichkeit, Botschaft, Präsentationsumgebung, vorhersehbarer Verwendungskontext, Zielpublikum und dessen Erwartungen. Photorealismus ist ein wichtiges Indiz, aber weder notwendige noch hinreichende Voraussetzung. Bei Kindern und anderen besonders schutzbedürftigen Gruppen ist ein strengerer Maßstab sachgerecht. Die Leitlinien interpretieren „bestehend“ beziehungsweise „wirklich“ zudem funktional: Auch realistisch simulierte Personen, Ereignisse oder Objekte können erfasst sein, wenn sie als real existierend oder real möglich wahrgenommen werden. Diese Auslegung ist für Grenzfälle bedeutsam, geht aber über eine rein wörtliche Betrachtung des Artikel-3-Begriffs hinaus.
Einordnung nach Inhaltstyp
| Inhalt oder Vorgang | Technische Markierung durch Anbieter | Sichtbare Kennzeichnung durch Betreiber | Einordnung |
|---|---|---|---|
| Vollständig KI-generiertes, fotorealistisches Video einer realen Führungskraft | Ja | Ja | Typischer Deepfake |
| Geklonte Stimme eines realen Menschen | Ja | Ja | Audio-Deepfake |
| KI-generiertes Bild eines vermeintlich realen Ereignisses | Ja | Regelmäßig ja | Kann fälschlich dokumentarisch wirken |
| Abstrakte KI-Illustration | Ja | Nicht automatisch | Kein Deepfake, wenn künstlicher Charakter offensichtlich ist |
| KI-generiertes Werbebild eines realen Produkts | Ja | Kontextabhängig | Kennzeichnung wahrscheinlicher, wenn Eigenschaften oder Nutzungssituation irreführend simuliert werden |
| Reale Produktaufnahme mit lediglich generiertem dekorativem Hintergrund | Ja, sofern generatives System im Anwendungsbereich | Häufig nein | Deepfake-Test hängt von der Aussage des Gesamtbildes ab |
| KI-generierter Nachrichten- oder Politiktext ohne redaktionelle Prüfung | Ja | Ja | Veröffentlichung zu öffentlichem Interesse |
| KI-unterstützter Fachartikel mit substanzieller menschlicher Prüfung und redaktioneller Verantwortung | Anbieterkennzeichnung kann bestehen | Nach Art. 50 Abs. 4 regelmäßig nein | Textausnahme kann greifen |
| Rechtschreib-, Grammatik- oder einfache Formatkorrektur | Regelmäßig ausgenommen | Nein | Standardbearbeitung ohne wesentliche semantische Änderung |
| KI-generierter Quellcode | Nach den Kommissionsleitlinien grundsätzlich nicht als „Textinhalt“ im Sinne der Pflicht behandelt | Nein | Andere Rechts- und Dokumentationspflichten bleiben möglich |
| Chatbot-Antwort | Systemseitige Interaktionsinformation erforderlich; bei exportiertem synthetischem Inhalt kann zusätzlich Abs. 2 relevant sein | Kein Deepfake-Label allein wegen Chatbot-Antwort | Nutzer muss erkennen, dass er mit KI interagiert |
| Rein privater, nicht beruflicher Social-Media-Post einer natürlichen Person | Anbieterpflicht für das System bleibt möglich | Betreiberpflichten des privaten Nutzers grundsätzlich ausgenommen | Persönlich-nichtberufliche Nutzung ist ausgenommen |
Die Ausnahme für Standardbearbeitung erfasst Systeme, die vor allem unterstützend korrigieren oder die Eingaben beziehungsweise deren Semantik nicht wesentlich verändern. Eine Übersetzung, Zusammenfassung, inhaltliche Umschreibung oder umfassende Stiländerung kann dagegen über bloße Standardbearbeitung hinausgehen. Die genaue Einordnung hängt vom Umfang der semantischen Veränderung ab.
Open-Source-Systeme sind nicht pauschal befreit: Die allgemeine Open-Source-Ausnahme greift ausdrücklich nicht, wenn das System unter Artikel 50 fällt. Reine persönliche, nichtberufliche Verwendung durch natürliche Personen ist dagegen von Betreiberpflichten ausgenommen.
Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke entfällt die Offenlegung nicht vollständig. Sie darf lediglich so gestaltet werden, dass Darstellung und Genuss des Werkes nicht unnötig beeinträchtigt werden. Eine Kennzeichnung im Abspann, in den Programminformationen oder in einer gut erreichbaren zweiten Informationsebene kann deshalb angemessener sein als ein dauerhaft eingeblendetes Wasserzeichen. Die Ausnahme ist nach ihrem Wortlaut auf die Art der Offenlegung gerichtet, nicht auf eine vollständige Geheimhaltung des KI-Einsatzes.
Verpflichtete Rollen und Pflichten entlang der Wertschöpfungskette
Der AI Act definiert einen Anbieter als die Person oder Organisation, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt. Ein Betreiber ist demgegenüber die Organisation, die ein KI-System in eigener Verantwortung verwendet. Ein Unternehmen kann gleichzeitig beide Rollen einnehmen, etwa wenn es ein internes Generationssystem entwickelt und dessen Ausgaben selbst publiziert.
| Rolle | Typische Beispiele | Hauptpflicht nach Artikel 50 | Praktische Konsequenz |
|---|---|---|---|
| Anbieter eines interaktiven KI-Systems | Chatbot-SaaS, Sprachagent, virtueller Berater | System so gestalten, dass Nutzer über die KI-Interaktion informed werden | Hinweis in der Benutzeroberfläche, Sprachausgabe oder beim Gesprächsbeginn |
| Anbieter eines generativen KI-Systems | Bild-, Text-, Audio- oder Videogenerator; GPAI-basiertes Generationsprodukt | Maschinenlesbare, erkennbare Markierung der Ausgabe | Provenienzmetadaten, Wasserzeichen, kryptografische Signaturen und Detektionsmöglichkeit |
| Betreiber eines generativen Systems | Verlag, Werbekunde, Behörde, Influencer-Unternehmen, Unternehmenskommunikation | Sichtbare Offenlegung bei Deepfakes und bestimmten Texten | Label bei erster Wahrnehmung; Kennzeichen beim Export und Teilen erhalten |
| Agentur oder Produktionsdienstleister | Kreativagentur, Postproduktion, Voice-over-Studio | Kann selbst Betreiber sein, wenn sie über den konkreten KI-Einsatz entscheidet | Rollen und Kennzeichnungspflichten vertraglich festlegen |
| Auftraggebendes Unternehmen | Marke, Verlag, Plattformbetreiber | Betreiberrolle, wenn es KI-Nutzung und Veröffentlichung in eigener Verantwortung steuert | Keine vollständige Delegation der Compliance an die Agentur |
| Reiner Hosting- oder Übermittlungsdienst | CDN, Hosting-Provider, technischer Plattformintermediär | Nicht allein wegen der neutralen Übermittlung Betreiber | DSA-Pflichten und eigene KI-Funktionen separat prüfen |
| Importeur oder Händler | EU-Reseller eines Drittstaatenanbieters | Artikel 50 enthält keine eigenständige Inhaltskennzeichnung nur aufgrund dieser Rolle | Prüfen, ob durch Rebranding, Anpassung oder Eigenverwendung eine Anbieter- oder Betreiberrolle entsteht |
| Mitarbeiter oder Freelancer unter Unternehmenssteuerung | Marketingteam, Redakteur, Entwickler | Regelmäßig nicht eigenständiger Betreiber neben dem Unternehmen | Schulung, Freigaben und interne Verantwortlichkeit erforderlich |
Bei Agenturkonstellationen kommt es nicht allein darauf an, wer den Prompt eingibt. Entscheidend ist, wer den KI-Einsatz in eigener Verantwortung bestimmt und kontrolliert. Eine Agentur kann Betreiber sein, wenn der Kunde lediglich ein Arbeitsergebnis bestellt und die Agentur eigenständig über Generationswerkzeuge und Produktionsmethode entscheidet. Gibt der Kunde dagegen System, Methode, Inhalte und Publikationsentscheidung vor, wird typischerweise auch oder primär der Kunde Betreiber sein.
Ein Anbieter eines KI-Systems kann sich technisch auf Markierungen eines zugrunde liegenden Modells oder eines Drittanbieters stützen. Die rechtliche Verantwortung für die eigene Systemausgabe geht dadurch jedoch nicht automatisch auf den Modellanbieter über. Erforderlich sind zumindest Lieferantenprüfung, Integrationstests und Nachweise, dass die Markierung auch nach der eigenen Verarbeitungskette erhalten bleibt.
Reine Vermittlungsdienste werden nicht automatisch zu Betreibern, nur weil Nutzer Inhalte hochladen. Sobald eine Plattform jedoch selbst generative Funktionen bereitstellt, Inhalte automatisiert erzeugt oder manipuliert oder den KI-Einsatz unter eigener Verantwortung steuert, kann sie Anbieter oder Betreiber werden. Daneben bleiben die Pflichten des Digital Services Act unberührt.
Inhalt, Form und Platzierung der sichtbaren Kennzeichnung
Artikel 50 schreibt keinen einheitlichen deutschen Wortlaut, keine bestimmte Schriftgröße und kein verpflichtendes EU-Logo vor. Rechtlich erforderlich ist, dass die Information:
- klar und unterscheidbar ist,
- spätestens bei der ersten Interaktion oder Wahrnehmung erscheint,
- den künstlich erzeugten oder manipulierten Ursprung verständlich mitteilt und
- die anwendbaren Barrierefreiheitsanforderungen erfüllt.
Die EU stellt freiwillige Symbole für allgemeine KI-Beteiligung, vollständig KI-generiert und teilweise KI-verändert bereit. Die Symbole sind optional und schaffen allein noch keine Rechtskonformität. Tests der EU zeigten eine bessere Verständlichkeit, wenn das Symbol mit einem Klartextlabel kombiniert wird.
Nach den Umsetzungsempfehlungen zum EU-Code sollte das Label ohne verdeckende Overlays sichtbar sein, möglichst direkt mit dem Inhalt verbunden werden und auch nach Download oder Weitergabe erhalten bleiben. Für assistive Technologien sollten Alt-Texte oder ARIA-Labels eingesetzt werden; zeitlich begrenzte Hinweise müssen lange genug sichtbar sein, um wahrgenommen zu werden.
Geeignete sichtbare Kurzlabels:
| Situation | Empfohlener deutscher Kurztext |
|---|---|
| Vollständig generiertes Bild | KI-generiert |
| Teilweise verändertes Foto | Teilweise mit KI verändert |
| Stimmklon | Stimme mit KI erzeugt |
| Gemischtes Video | Dieses Video enthält KI-generierte Bild- oder Tonbestandteile |
| Ungeprüfter Text zu öffentlichem Interesse | Dieser Text wurde mit KI erzeugt und ohne menschliche redaktionelle Prüfung veröffentlicht |
| Chatbot | Sie kommunizieren mit einem KI-System |
| KI-Agent im Auftrag eines Unternehmens | Ich bin ein KI-Agent und handle im Auftrag von [Unternehmen] |
Begriffe wie „synthetische Medien“, „generative Pipeline“ oder „algorithmisch modifiziert“ sind für ein Fachpublikum verständlich, für Verbraucher aber häufig zu abstrakt. Für die erste Informationsebene sind „KI-generiert“ und „mit KI verändert“ regelmäßig klarer. Eine zweite Ebene kann System, Umfang der Veränderung, menschliche Prüfung, Verantwortlichen und Kontaktmöglichkeit erklären.
Maschinenlesbare Markierung und Metadaten
Die technische Anbieterpflicht verlangt keine bestimmte Taxonomie. Ein belastbares Design sollte jedoch mindestens folgende Funktionen abdecken:
| Funktion | Mögliche Umsetzung |
|---|---|
| Herkunftsnachweis | Digital signiertes C2PA-Manifest oder vergleichbares Provenienzformat |
| Erkennung nach normaler Verarbeitung | Unsichtbares, medienrobustes Wasserzeichen |
| Bindung an den konkreten Inhalt | Kryptografischer Hash oder Content Binding |
| Veränderungshistorie | Signierte Bearbeitungs- und Provenienzassertionen |
| Erkennung durch Dritte | Validator, Detektor, API oder dokumentierte Prüfbibliothek |
| Erhaltung in der Lieferkette | DAM-/CMS-Regeln, Exportprofile, Metadaten-Preservation und Sidecar-Fallback |
| Sichtbare Offenlegung | Badge, Textlabel, Caption, Audiohinweis oder Videoeinblendung |
Die Verordnung nennt ausdrücklich Kombinationen aus Wasserzeichen, Metadaten, Kryptografie, Logging und Fingerprinting. Ein mehrschichtiger Ansatz ist deshalb rechtlich und technisch überzeugender als die alleinige Verwendung leicht entfernbarer EXIF-Felder oder eines sichtbaren Logos.
Ein internes, nicht normatives Metadatenschema könnte beispielsweise so aussehen:
{
"aiDisclosure": {
"origin": "fully-generated",
"modality": "image",
"provider": "Beispiel AI GmbH",
"system": "MediaGen",
"systemVersion": "4.2",
"createdAt": "2026-08-02T09:30:00Z",
"contentHash": "sha256:…",
"provenanceFormat": "C2PA",
"humanReview": false,
"publicLabel": "KI-generiert"
}
}Dieses JSON ist kein gesetzlich vorgeschriebenes EU-Format. Für externe Interoperabilität sollte ein etabliertes Provenienzformat verwendet werden; das interne Schema dient der Compliance-Dokumentation, Suche und Beweissicherung.
Technische und organisatorische Umsetzung in Unternehmen
Eine belastbare Artikel-50-Umsetzung sollte nicht als isoliertes Labeling-Projekt behandelt werden. Erforderlich ist ein durchgängiger Kontrollprozess von der Systembeschaffung über Generierung und Bearbeitung bis zur Veröffentlichung und Weiterverwendung.
Umsetzungscheckliste
| Arbeitsstrom | Erforderliche Maßnahme | Erwartbarer Nachweis | Primär verantwortlich |
|---|---|---|---|
| Inventar | Generative, interaktive, emotionserkennende und biometrische Systeme erfassen | Systemregister, Owner, Anbieter, Modell und Einsatzfall | AI Governance / IT |
| Rollenanalyse | Anbieter-, Betreiber-, Agentur- und Plattformrollen bestimmen | Schriftliche Rollen- und Geltungsbereichsanalyse | Legal / Compliance |
| Inhaltsklassifizierung | Deepfake, öffentlicher Text, Kunstwerk, Standardbearbeitung und sonstigen Output unterscheiden | Entscheidungsbaum und dokumentierte Beispiele | Legal / Content |
| Anbieterprüfung | Prüfen, ob System technische Markierungen und Detektoren unterstützt | Lieferantenerklärung, technische Dokumentation, Testdateien | Procurement / Engineering |
| Technische Markierung | Provenienzmetadaten und robuste Wasserzeichen integrieren | Signierte Beispielassets, Validatorprotokolle | Engineering |
| Kennzeichnung im Frontend | Label bei erster Wahrnehmung oder Interaktion zeigen | Screenshots, UI-Tests, Accessibility-Test | Product / UX |
| Asset-Pipeline | Metadaten in DAM, CMS, Transcoding, Export und Download erhalten | End-to-End-Tests je Kanal | Media Engineering |
| Redaktionelle Kontrolle | Für Textausnahme konkrete menschliche Prüfung und Verantwortungsübernahme definieren | Freigabeprotokoll, verantwortliche Person, Versionierung | Redaktion / Communications |
| Agentursteuerung | Vertragliche Informations-, Markierungs- und Nachweispflichten einführen | Vertrag, Briefing, Liefercheckliste | Procurement / Legal |
| Robustheitstest | Cropping, Re-encoding, Screenshots, Kompression, Lautstärke- und Geschwindigkeitsänderung testen | False-Positive-/False-Negative-Bericht | QA / Security |
| Monitoring | Fehlende oder entfernte Labels erkennen und korrigieren | Kontrollen, Incident-Tickets, Stichprobenberichte | Compliance Operations |
| Schulung | Entwickler, Marketing, Vertrieb, Redaktion und Support trainieren | Lernunterlagen und Teilnahmeprotokolle | HR / Compliance |
| Audit | Regelmäßige Wirksamkeitsprüfung und Stichproben | Auditbericht, Maßnahmenplan, Management-Freigabe | Internal Audit |
Ein bloßes Vertragsversprechen des KI-Anbieters ist nicht ausreichend, wenn das eigene CMS beim Upload sämtliche Metadaten entfernt oder die Social-Media-Agentur das Asset erneut exportiert. Unternehmen sollten daher mindestens eine Golden-Asset-Teststrecke einrichten: Das markierte Testasset durchläuft Generator, Bearbeitung, DAM, CMS, Transcoder, Plattformupload, Download und Detektion. Die Markierung und das sichtbare Label werden an jedem Übergang überprüft.
Für öffentliche Texte sollte die menschliche Überprüfung nicht als abstrakte Checkbox ausgestaltet werden. Die Ausnahme setzt sowohl einen tatsächlichen Prüf- oder Redaktionsprozess als auch eine natürliche oder juristische Person voraus, die die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Sinnvolle Nachweise sind Versionen vor und nach der Prüfung, Name oder Funktion der verantwortlichen Person, Prüfdatum, Freigabestatus und dokumentierte Prüfkriterien.
Empfohlene Architektur
Ein praxisgerechter Kontrollfluss lautet:
Generationssystem → technische Herkunftsmarkierung → Qualitäts- und Deepfake-Klassifizierung → menschliche/redaktionelle Freigabe → sichtbares Label → DAM/CMS mit Metadatenerhalt → Veröffentlichungsplattform → nachgelagerte Detektions- und Stichprobenkontrolle
An Schnittstellen sollten Unternehmen nicht nur das Asset, sondern auch Herkunftsinformationen übertragen. Wo das Zielformat keine eingebetteten Provenienzdaten unterstützt, kommen signierte Sidecar-Dateien, Manifest-URLs oder ein Content-Registry-Verweis als Fallback infrage. C2PA unterstützt sowohl eingebettete als auch referenzierte Manifeste und bindet Provenienzaussagen über digitale Signaturen und Hashes an den Inhalt.
Werkzeuge, Standards und Anbieter
c2patool, C2PA-Python- und JavaScript-Bibliotheken| Lösung | Typ | Geeigneter Einsatz | Einschränkung |
|---|---|---|---|
| C2PA Technical Specification | Offener Provenienzstandard | Signierte Herkunfts-, Bearbeitungs- und Erzeugungsinformationen | Allein nicht robust gegen jede Entfernung oder Screenshot-Neuerfassung |
| Content Authenticity Initiative SDK / c2pa-rs | Open-Source-SDK | Erzeugen, Signieren, Einbetten und Validieren von C2PA-Manifesten | Das Rust-SDK weist selbst auf Beta- beziehungsweise 0.x-Reifestatus hin |
c2patool, C2PA-Python- und JavaScript-Bibliotheken | Open-Source-Werkzeuge | CI/CD-Tests, Batch-Signierung, Validatoren und Webintegration | Format- und Plattformunterstützung vor Produktion prüfen |
| Adobe Content Credentials | Kommerzielle C2PA-Integration | Enterprise-DAM, Kreativ- und Markenworkflows | Anbieterbindung, Lizenz- und Workflowkosten |
| Google SynthID | Anbietergebundenes Wasserzeichen | Unsichtbare Markierung von Google-generierten Bildern, Audio, Text und Video | Kein allgemeines, modellunabhängiges Signatur- oder Provenienzsystem |
| EU-Kennzeichnungssymbole | Offizielle sichtbare Kennzeichnung | Einheitliches Verbraucherlabel | Optional; ersetzt weder Metadaten noch Einzelfallprüfung |
| Interner Disclosure Service | Eigenentwicklung | Zentrale Labeltexte, Richtlinien, Ereignisprotokolle und API-Gateway | Erfordert eigene Wartung und Governance |
| Detector Gateway | Eigenentwicklung oder Multi-Vendor | Einheitliche Prüfung verschiedener Wasserzeichen und Provenienzformate | Detektoren liefern Wahrscheinlichkeiten und können fehlerhaft sein |
C2PA organisiert Provenienzinformationen in digital signierten Claims und Manifesten, die an das konkrete Asset gebunden werden. Das Verfahren ermöglicht die Verifikation von Signatur, Bearbeitungshistorie und Integrität, beweist aber nicht automatisch, dass der dargestellte Inhalt sachlich wahr ist.
Das offizielle c2pa-rs-Projekt kann Manifeste erzeugen, signieren, einbetten, parsen und validieren. Unternehmen sollten wegen des angegebenen Beta-Status jedoch Versionen pinnen, Regressionstests durchführen und die unterstützten Dateiformate verifizieren.
SynthID bettet nicht wahrnehmbare Wasserzeichen in von Google-Systemen generierte Bilder, Audio, Text und Video ein und soll typische Transformationen wie Kompression, Cropping oder Geschwindigkeitsänderungen überstehen. Es ist vor allem als zusätzliche robuste Markierungsschicht geeignet, nicht als herstellerneutraler Ersatz für Provenienzmetadaten.
Adobe Content Credentials basieren auf C2PA und können Angaben über Signaturaussteller, Erstellungsdatum, Bearbeitungsschritte und Urheber beziehungsweise Produzenten enthalten. Sie sind insbesondere für Unternehmen interessant, die bereits Adobe-basierte Asset- und Kreativworkflows betreiben.
Code of Practice oder eigener Ansatz
Der EU-Praxisleitfaden ist freiwillig, während Artikel 50 verbindlich ist. Unterzeichner können sich auf die im Code beschriebenen Maßnahmen stützen, um ihre Compliance darzulegen. Nichtunterzeichner müssen gegenüber den zuständigen Behörden nachweisen können, dass ihre alternativen Maßnahmen gleichwertig angemessen sind. Der Code ersetzt weder die Verordnung noch die Kommissionsleitlinien und bietet keine Immunität gegen Aufsicht oder Sanktionen.
Für größere Anbieter und Betreiber ist eine Gap-Analyse gegen den Code daher auch dann sinnvoll, wenn sie nicht unterzeichnen:
| Prüfbereich | Kernfrage |
|---|---|
| Markierungsabdeckung | Werden alle relevanten Ausgabeformate erfasst? |
| Detektierbarkeit | Können interne und externe Prüfer die Markierung erkennen? |
| Robustheit | Übersteht sie typische Transformationen und Plattformprozesse? |
| Interoperabilität | Funktioniert die Lösung mit marktüblichen Standards und Validatoren? |
| Barrierefreiheit | Ist das sichtbare Label für assistive Technologien zugänglich? |
| Weitergabe | Bleibt der Hinweis bei Download, Reposting und Agenturübergabe erhalten? |
| Dokumentation | Können Architekturentscheidung, Tests und Ausnahmen belegt werden? |
| Incident Response | Gibt es ein Verfahren für fehlende, falsche oder entfernte Labels? |
Sanktionen, Aufsicht, Zeitplan und Risikomatrix
Artikel-50-Verstöße fallen in die Bußgeldkategorie des Artikels 99 Absatz 4. Der Höchstbetrag beträgt bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Wert höher ist. Bei KMU einschließlich Start-ups gilt der jeweils niedrigere Höchstwert.
Die tatsächliche Bußgeldhöhe hängt unter anderem von Art, Schwere und Dauer des Verstoßes, Zahl der Betroffenen, Schadensumfang, Unternehmensgröße, wirtschaftlichem Vorteil, Kooperation mit den Behörden sowie den implementierten technischen und organisatorischen Maßnahmen ab. Eine gut dokumentierte, ernsthaft betriebene Compliance-Architektur ist deshalb nicht nur präventiv, sondern kann auch für die behördliche Bewertung relevant sein.
Neben Geldbußen können Marktüberwachungsbehörden verlangen, dass ein System unverzüglich konform gemacht, vom Markt genommen oder zurückgerufen wird. Die behördlich gesetzte Korrekturfrist darf grundsätzlich nicht länger als 15 Arbeitstage sein, soweit keine noch kürzere sektorale Frist gilt. Erfolgt keine ausreichende Reaktion, kann die Behörde Bereitstellung oder Inbetriebnahme beschränken oder untersagen.
Die Kommission nennt als zuständige Aufsichtsstellen nationale Marktüberwachungsbehörden, das AI Office für die seiner Aufsicht unterliegenden Systeme und den Europäischen Datenschutzbeauftragten bei EU-Organen. In Deutschland ist die Bundesnetzagentur im Wesentlichen zentrale Marktüberwachungsbehörde; zugleich gilt ein hybrider Ansatz mit bestehenden Fach-, Finanz- und Landesaufsichten. Für Medienbereiche und bestimmte Landesstellen können daher andere Behörden zuständig sein. Bei der Bundesnetzagentur wurde ein Koordinierungs- und Kompetenzzentrum für die KI-Verordnung eingerichtet.
Priorisierter Compliance-Zeitplan
| Zeitpunkt | Maßnahme | Status am 2. August 2026 |
|---|---|---|
| Sofort | Sichtbare Deepfake- und Textkennzeichnung aktivieren | Bereits fällig |
| Sofort | Chatbot- und KI-Agentenhinweise prüfen | Bereits fällig |
| Sofort | Neue generative Systeme nur mit Art.-50-konformer Markierung produktiv setzen | Bereits fällig |
| Innerhalb weniger Tage | Webseiten, Apps, Audio- und Video-Player auf erste Wahrnehmung und Barrierefreiheit testen | Dringend |
| Innerhalb weniger Wochen | Agentur-, Influencer-, Lieferanten- und Plattformverträge ergänzen | Hohe Priorität |
| Bis 2. Dezember 2026 | Vor dem 2. August 2026 angebotene Generationssysteme technisch nachrüsten | Gesetzliche Übergangsfrist nur für Art. 50 Abs. 2 |
| Fortlaufend | Robustheits-, Metadaten- und Detektortests | Dauerpflicht |
| Mindestens jährlich sowie bei wesentlichen Änderungen | Governance- und Wirksamkeitsaudit | Empfohlener Kontrollzyklus |
Risikomatrix für typische Unternehmensfälle
Die folgende Matrix ist eine risikobasierte Praxiseinschätzung, keine behördliche Einstufung.
| Szenario | Eintrittswahrscheinlichkeit eines Verstoßes | Potenzielle Auswirkung | Priorität | Hauptkontrolle |
|---|---|---|---|---|
| Fotorealistische KI-Werbung ohne sichtbares Label | Hoch | Hoch | Kritisch | Deepfake-Prüfung vor Kampagnenfreigabe |
| Geklonte Kundenservice- oder Werbestimme ohne Hinweis | Hoch | Hoch | Kritisch | Audiohinweis und Metadaten |
| Nachrichtenähnlicher KI-Text ohne redaktionelle Prüfung | Hoch | Hoch | Kritisch | Pflichtlabel oder dokumentierter Review |
| Generator ohne maschinenlesbare Ausgabemarkierung | Hoch | Sehr hoch | Kritisch | Anbieter-Gap-Analyse und technische Nachrüstung |
| CMS entfernt C2PA- oder sonstige Metadaten | Hoch | Hoch | Kritisch | End-to-End-Preservation-Test |
| Agentur und Auftraggeber gehen jeweils von Verantwortlichkeit des anderen aus | Mittel bis hoch | Hoch | Hoch | Vertragliche Rollen- und RACI-Regelung |
| Label nur in AGB oder Datenschutzinformation | Hoch | Mittel bis hoch | Hoch | Hinweis bei erster Interaktion oder Wahrnehmung |
| EU-Symbol ohne erklärenden Text und mit geringer Sichtbarkeit | Mittel | Mittel | Mittel bis hoch | Klartext, Kontrast und Accessibility-Test |
| Redaktioneller Review nur als unprotokollierte Behauptung | Mittel | Hoch | Hoch | Versionierte Freigabedokumentation |
| Offensichtlich abstrakte oder künstlerische Darstellung | Niedrig bis mittel | Niedrig bis mittel | Einzelfall | Angepasste Offenlegung ohne Beeinträchtigung des Werkes |
| Rein private, nichtberufliche Verwendung | Niedrig | Niedrig nach Art. 50 | Niedrig | Abgrenzung zur beruflichen oder kommerziellen Nutzung |
Besonders risikoreich sind Fälle, in denen Täuschung, Identitätsnachahmung, Werbung, Finanzinformationen, Gesundheit, Politik oder öffentliche Sicherheit betroffen sind. Neben Artikel 50 können hier Verbraucherrecht, Wettbewerbsrecht, Persönlichkeitsrecht, Datenschutz, Urheberrecht, Medienrecht und strafrechtliche Vorschriften parallel eingreifen.
Kommunikationsstrategie und Mustertexte
Eine wirksame Kommunikation sollte nicht nur rechtliche Mindestanforderungen erfüllen, sondern Vertrauen erhalten. Dafür eignet sich ein mehrstufiges Modell:
Erste Ebene: Ein kurzes, neutrales Label wie „KI-generiert“ oder „Teilweise mit KI verändert“.
Zweite Ebene: Eine anklickbare oder leicht erreichbare Erklärung, welche Bestandteile erzeugt oder verändert wurden.
Dritte Ebene: Angaben zu verantwortlichem Unternehmen, menschlicher Prüfung, eingesetztem System, Datum, Beschwerdeweg und gegebenenfalls maschinenlesbarer Provenienz.
Von Formulierungen wie „Fake“, „gefälscht“ oder „unecht“ sollte abgesehen werden, wenn lediglich ein rechtmäßiger generativer Produktionsprozess transparent gemacht wird. Solche Begriffe können irreführend oder reputationsschädlich sein. Besser ist eine sachliche Beschreibung des konkreten KI-Beitrags.
Mustertexte für Unternehmen
Vollständig KI-generiertes Bild
> KI-generiert. Dieses Bild wurde vollständig mit einem generativen KI-System erstellt. Es dokumentiert kein reales Ereignis.
Teilweise manipuliertes reales Bild
> Teilweise mit KI verändert. Das Ausgangsfoto ist real; einzelne Personen, Gegenstände oder Bildbereiche wurden mithilfe von KI hinzugefügt oder verändert.
KI-generiertes Video mit realer Person
> KI-generierter beziehungsweise manipulierter Inhalt. Bild oder Stimme der dargestellten Person wurden künstlich erzeugt oder verändert.
Voice Clone
> KI-generierte Stimme. Die Stimme in dieser Aufnahme wurde künstlich erzeugt und stammt nicht aus einer Originalaufnahme der dargestellten Person.
Text von öffentlichem Interesse ohne Review
> Transparenzhinweis: Dieser Text wurde mit einem KI-System erzeugt oder wesentlich verändert und ohne menschliche redaktionelle Prüfung veröffentlicht.
Text mit redaktioneller Prüfung
> Dieser Beitrag wurde mit KI-Unterstützung erstellt und anschließend von der Redaktion geprüft. Die redaktionelle Verantwortung trägt [Unternehmen/Redaktion].
Der letzte Text ist bei wirksamem Review und übernommener redaktioneller Verantwortung nicht zwingend aufgrund von Artikel 50 Absatz 4 erforderlich, kann aber als freiwillige Vertrauensinformation sinnvoll sein.
Chatbot
> Sie kommunizieren mit einem KI-gestützten Assistenzsystem. Antworten können fehlerhaft sein. Für verbindliche Auskünfte wenden Sie sich bitte an [Kontakt].
Telefonischer Sprachagent
> Willkommen bei [Unternehmen]. Sie sprechen mit einem KI-gestützten Sprachassistenten. Sie können jederzeit einen menschlichen Ansprechpartner anfordern.
KI-Agent, der im Namen eines Unternehmens handelt
> Ich bin ein KI-Agent von [Unternehmen] und handle in dessen Auftrag. Für diese Interaktion verantwortlich ist [Unternehmen/Kontakt].
Künstlerisches oder fiktionales Werk
> Dieses Werk enthält künstlich erzeugte oder KI-veränderte Bild-, Ton- oder Videosequenzen.
Für Unternehmen lautet die entscheidende Schlussfolgerung: Das sichtbare Label ist nur die Oberfläche der Compliance. Der regulatorisch belastbare Ansatz verbindet Rollenklärung, maschinenlesbare Provenienz, robuste Detektion, sichtbare und barrierefreie Offenlegung, redaktionelle Verantwortlichkeit sowie eine nachweisbare Kontrolle der gesamten Publikations- und Vertriebskette.
References
Click any inline citation to jump to its matching source entry.
- [1]Verordnung (EU) 2024/1689 – AI Act, deutsch und englisch
- [2]Verordnung (EU) 2026/1744 – Übergangsregel für bereits angebotene generative Systeme
- [3]Kommissionsleitlinien zu den Transparenzpflichten nach Artikel 50
- [4]EU Code of Practice on Transparency of AI-generated Content
- [5]Offizielle EU-Symbole für KI-generierte Inhalte
- [6]Bundesministerium für Digitales und Staatsmodernisierung: deutsches KI-Durchführungsgesetz
- [7]Bundesregierung: nationale Aufsicht und Rolle der Bundesnetzagentur
- [8]C2PA Technical Specification
Passende nächste Schritte
Vertiefen Sie das Thema mit den wichtigsten Service- und Projektseiten.
KI & Automatisierung
Wie wir KI-Systeme und Workflow-Automatisierung datenschutz- und compliance-konform umsetzen.
Online Marketing & SEO
Smarte Digitalstrategien und Content-Marketing in Köln.
Über uns
Lernen Sie unser Team kennen und erfahren Sie mehr über unsere Arbeitsweise.
