Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

1. Zweck und Kontext

Artikel 50 ist die einzige Bestimmung in Kapitel IV der KI-Verordnung, dem Kapitel über Transparenzpflichten. Es wird eine eigenständige, leichtere Regulierungsebene geschaffen, die gilt, unabhängig davon, ob ein KI-System mit hohem Risiko ist. In Erwägungsgrund 132 wird die Begründung erläutert: „Bestimmte KI-Systeme, die dazu bestimmt sind, mit natürlichen Personen zu interagieren oder Inhalte zu generieren, können ein spezifisches Risiko der Nachahmung oder Täuschung bergen, unabhängig davon, ob sie als hochriskant eingestuft werden oder nicht.“¹ Die Antwort ist zielgerichtet: keine Verbote oder Konformitätsbewertungen, sondern Offenlegung – den Menschen mitteilen, wann sie mit KI zu tun haben oder wann Inhalte künstlich erzeugt oder manipuliert wurden. Transparenz ist neben menschlicher Handlungskompetenz und Aufsicht einer der sieben unverbindlichen ethischen Grundsätze, auf die sich die Verordnung stützt (Leitlinien der AI HLEG von 2019); technische Robustheit und Sicherheit; Datenschutz und Daten-Governance; Vielfalt, Nichtdiskriminierung und Fairness; gesellschaftliches und ökologisches Wohlergehen; und Rechenschaftspflicht.²

Die Bestimmung adressiert vier verschiedene Situationen, und der Pflichtträger unterscheidet sich zwischen ihnen: Anbieter die in den Absätzen 1 und 2 genannten Aufgaben wahrnehmen; deployers tragen diejenigen in den Absätzen 3 und 4. Die Leitlinien der Kommission zu Artikel 50 (im Folgenden „Leitlinien“) – deren Inhalt die Kommission am 20. Juli 2026 mit der Mitteilung C(2026) 5054 final gebilligt hat und deren förmliche Annahme folgt, sobald alle Sprachfassungen verfügbar sind, ein Schritt, der Mitte September 2026 noch aussteht – bestätigen, dass diese Verpflichtungen für alle KI-Systeme gelten, die in den erfassten Situationen verwendet werden, nicht nur für Hochrisiko-KI oder KI mit allgemeinem Verwendungszweck, und dass sie auf einem einzigen Output kumulieren können: Wenn ein KI-System Bilder im Rahmen einer direkten Interaktion mit einer natürlichen Person erzeugt, muss sein Anbieter möglicherweise sowohl 50(1) als auch 50(2) einhalten, und wenn dieses System auch in der Lage ist, Bilder zu erzeugen, die Tiefenfälschungen darstellen, oder Texte zu Themen von öffentlichem Interesse zu veröffentlichen, wird 50(4) auf Seiten des Betreibers hinzugefügt.³ In den Leitlinien wird der gemeinsame Zweck der vier Aufgaben als „Verringerung der Risiken von Identitätsbetrug, Täuschung, Fehlinformation, Manipulation in großem Maßstab und Betrug“ beschrieben.^3/sup>

Die zugrunde liegende Sorge ist empirisch. In Erwägungsgrund 133 wird festgestellt, dass synthetische Inhalte „für den Menschen immer schwerer von vom Menschen erzeugten und authentischen Inhalten zu unterscheiden sind“, was zu „neuen Risiken von Fehlinformationen und Manipulation in großem Maßstab, Betrug, Identitätswechseln und Verbrauchertäuschung“ führt.⁴ Begutachtete Beweise untermauern diese Prämisse in beiden Teilen der Bestimmung. Für generierte Inhalte ergab eine systematische Überprüfung und Metaanalyse von 56 Studien (86.155 Teilnehmer) im Jahr 2024 eine menschliche Deepfake-Erkennungsgenauigkeit von 55,5%, nicht signifikant über dem Zufall (Diel et al., 2024), und andere Arbeiten zeigen, dass Menschen Deepfakes nicht erkennen und ihre eigene Fähigkeit dazu überschätzen (Köbis et al., 2021).⁵ Für die Interaktion fanden sechs Experimente mit 4.600 Teilnehmern heraus, dass Menschen KI-generierte Selbstdarstellungen in professionellen, gastfreundlichen und Dating-Kontexten nicht identifizieren konnten und dass die intuitiven Hinweise, auf die sie angewiesen sind, systematisch falsch sind und ausgenutzt werden können, um Maschinentext als menschliches Schreiben lesbar zu machen (Jakesch et al., 2022).⁶ Speziell zur Emotionserkennung wird in Erwägungsgrund 44 auf „ernsthafte Bedenken hinsichtlich der wissenschaftlichen Grundlage“ solcher Systeme verwiesen, wobei „begrenzte Zuverlässigkeit, fehlende Spezifität und begrenzte Verallgemeinerbarkeit“⁷ — dies hilft zu erklären, warum Artikel 50 Absatz 3 eine Meldepflicht auferlegt, anstatt sich auf die Ergebnisse des Systems zu stützen.

Die Verpflichtungen aus Artikel 50 gelten ab dem 2. August 2026 (Artikel 113). Sechs Tage vor diesem Datum, am 27. Juli 2026, trat die Änderungsverordnung (EU) 2026/1744 (digitale Omnibus-Verordnung über KI, ABl. L 2026/1744 vom 24. Juli 2026) in Kraft. der Inhalt der vier Zölle bleibt unberührt, aber Artikel 50 Absatz 7 wird neu gefasst und eine Übergangsregelung für den Kennzeichnungszoll nach Artikel 50 Absatz 2 hinzugefügt – siehe Abschnitte 3 und 7.⁸

2. Interpretation von Schlüsselbegriffen

Artikel 50 greift einen kleinen Satz definierter Begriffe in Artikel 3 auf; Die Grenzen jeder Definition bestimmen die Reichweite der Aufgaben.

• KI-System (Artikel 3 Absatz 1): „ein maschinengestütztes System, das für den Betrieb mit unterschiedlichen Autonomiegraden ausgelegt ist und das nach der Bereitstellung Anpassungsfähigkeit aufweisen kann und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie Outputs wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden, die physische oder virtuelle Umgebungen beeinflussen können.“⁹ Die Begriffsbestimmung ist das Zugangstor zur gesamten Verordnung; deterministische Software, die keine Ausgänge „ableitet“, fällt außerhalb davon.

• Anbieter gegen Betreiber (Artikel 3 Absätze 3 und 4): Ein Anbieter ist eine natürliche oder juristische Person, Behörde, Einrichtung oder andere Stelle, die „ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt und in Verkehr bringt oder das KI-System unter eigenem Namen oder eigener Marke entgeltlich oder unentgeltlich in Betrieb nimmt.“⁹ Ein Arbeitgeber ist dementsprechend eine Person, Behörde, Agentur oder Einrichtung, die „ein KI-System unter ihrer Aufsicht nutzt, es sei denn, das KI-System wird im Rahmen einer persönlichen nicht beruflichen Tätigkeit verwendet.“⁹ Für Artikel 50 sind zwei Merkmale der Anbieterdefinition von Bedeutung: der Auslöser ist Inverkehrbringen/Inbetriebnahme unter eigenem Namen oder eigener Marke; und es gilt ob zahlungspflichtig oder kostenlos (kostenlose und offene Angebote sind nicht ausgenommen). Beide Begriffe fallen in die weiter gefasste Kategorie Betreiber (Artikel 3 Absatz 8), die auch Produkthersteller, Bevollmächtigte, Einführer und Händler umfasst. Die Aufspaltung ist von Bedeutung: die Kennzeichnungspflicht (50(2)) bei demjenigen liegt, der das generative KI-System entwickelt und unter seinem eigenen Namen oder seiner eigenen Marke in Verkehr bringt oder in Betrieb nimmt; die Offenlegungspflichten für Deepfakes und für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren (50(4)), sitzen bei der Person, die das KI-System tatsächlich zur Erstellung dieser Inhalte nutzt. Persönliche nichtberufliche Tätigkeiten fallen aus zwei Gründen nicht unter die Nummern 50(3) und 50(4): Die Begriffsbestimmung in Artikel 3 Absatz 4 schließt den Fall „wenn das KI-System im Rahmen einer persönlichen nichtberuflichen Tätigkeit verwendet wird“ vom Begriff des Betreibers aus, und in Artikel 2 Absatz 10 wird hinzugefügt, dass die Verordnung „nicht für Verpflichtungen von Betreibern gilt, bei denen es sich um natürliche Personen handelt, die KI-Systeme im Rahmen einer rein persönlichen nichtberuflichen Tätigkeit verwenden“ – die Bestimmung, auf die sich die Leitlinien stützen. Eine Person, die ein Deepfake-Tool privat, außerhalb eines beruflichen oder kommerziellen Kontexts verwendet, hat daher keine Offenlegungspflicht nach Artikel 50 (obwohl das nationale Strafrecht weiterhin gelten kann – siehe Abschnitt 6).^9,10 Die Fragen und Antworten der Kommission, die den Leitlinien beigefügt sind, ziehen die Linie in Bezug auf die Ordnungsmäßigkeit und den wirtschaftlichen Zweck: eine natürliche Person, die Deepfakes erzeugt und sie in persönlicher Eigenschaft in sozialen Medien verbreitet, nicht unter das Gesetz fällt, aber eine Tätigkeit, durch die die Person regelmäßig einen wirtschaftlichen Nutzen erlangt oder die anderweitig Teil einer geschäftlichen, gewerblichen, beruflichen oder freiberuflichen Tätigkeit ist, beruflich ist und diese Person zu einem Betreiber macht; und wenn es sich bei dem Betreiber um eine juristische Person handelt, sind die seiner Weisung und Kontrolle unterliegenden Mitarbeiter – digitale Animatoren, Webdesigner, Ersteller von Inhalten, Journalisten – keine separaten Betreiber des Systems.¹¹ Dieser Carve-out bewegt sich nicht nach oben: In den Leitlinien wird klargestellt, dass die Kennzeichnungspflicht des Anbieters gemäß Artikel 50 Absatz 2 vom privaten Charakter der Endverwendung unberührt bleibt, so dass ein System, das zur Herstellung eines Deepfake für eine Weihnachtskarte verwendet wird, weiterhin seine Ausgabe markieren muss.³ Drei weitere Grenzen, die von den Leitlinien gezogen werden, sind in der Praxis von Bedeutung. Erstens kann dieselbe Einheit sowohl Anbieter als auch Betreiber sein – in der Regel dort, wo sie ein System intern entwickelt und auch nutzt. Zweitens sind Akteure, die lediglich verbreiten KI-generierte Inhalte einer anderen Person ohne Autorität über ihre Generierung – Hosting-Dienste, Online-Plattformen, Rundfunkveranstalter – verbreiten, keine Betreiber im Sinne von Artikel 50 Absatz 4, obwohl sie aufgefordert werden, jegliche Kennzeichnung und Kennzeichnung, die sie erhalten, beizubehalten; Die Kennzeichnung von Inhalten oder die Verwendung bereits gekennzeichneter Inhalte allein macht eine Partei auch nicht zu einem Betreiber. Drittens erreichen die Pflichten Akteure aus Drittländern: Anbieter werden erfasst, wenn das Ergebnis in der Union verwendet wird – obwohl „eine zufällige, unvorhersehbare oder nicht genehmigte nachgelagerte Nutzung nicht allein die Anwendung der Pflichten auslösen sollte“ –, während ein Betreiber aus einem Drittland nur dann erfasst wird, wenn er selbst beabsichtigt, das Ergebnis in der Union zu verbreiten oder zu verwenden, nicht aber, wenn Inhalte über unvorhersehbare und außerhalb seiner Kontrolle liegende Kanäle Publikum in der Union erreichen.³

• Deep fake (Artikel 3 Absatz 60): „KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden.“⁹ Die Begrenzungslinie ist das Element „würde einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen“: völlig phantastischer Inhalt ist außerhalb der Definition, während realistische Manipulation einer realen Person direkt darin ist. In den Leitlinien wird die Definition in vier kumulative Bedingungen unterteilt, die alle erfüllt sein müssen: i) der Inhalt eine erhebliche Ähnlichkeit aufweist; (ii) zu etwas, das existiert; iii) die unter eine der aufgeführten Klassen fallen — Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse; und (iv) es würde fälschlicherweise für eine Person erscheinen, um authentisch oder wahrheitsgemäß zu sein. Sie fügen zwei Präzisierungen hinzu, die für Grenzfälle von Bedeutung sind: Der Falscherscheinungstest ist objektiv und hängt nicht von einer Täuschungsabsicht ab, und der Fotorealismus erhöht die Wahrscheinlichkeit, unter die Definition zu fallen, ohne allein entscheidend zu sein. Inhalte, die eindeutig unrealistisch sind (Drachen, Menschen, die ohne Hilfe fliegen), bleiben draußen.³ Beachten Sie, dass text nicht Teil der Deep-Fake-Definition ist; KI-generierter Text wird im zweiten Teil von 50(4) gesondert behandelt.

• Emotionserkennungssystem (Artikel 3 Absatz 39) und biometrisches Kategorisierungssystem (Artikel 3 Absatz 40): ein KI-System „zum Zwecke der Identifizierung oder Ableitung von Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten“ und ein KI-System „zum Zwecke der Zuordnung natürlicher Personen zu bestimmten Kategorien auf der Grundlage ihrer biometrischen Daten, es sei denn, dies ist akzessorisch zu einem anderen kommerziellen Dienst und aus objektiven technischen Gründen unbedingt erforderlich.“⁹ Beide stützen sich auf biometrische Daten (Artikel 3 Absatz 34). Das akzessorisch und unbedingt notwendige Carve-out in (40) hält beispielsweise einen Gesichtserkennungsfilter, der lediglich eine Kamera außerhalb des Kategorisierungsregimes positioniert. Die Interaktion mit Artikel 5 ist wichtig: die Emotionserkennung am Arbeitsplatz und in der Bildung sowie bestimmte sensible biometrische Kategorisierungen sind verboten; Artikel 50 Absatz 3 regelt nur die zugelassenen Restverwendungen, für die eine Mitteilung erforderlich ist, anstatt ein Verbot zu verhängen.

• KI-Modell mit allgemeinem Verwendungszweck vs. KI-System mit allgemeinem Verwendungszweck — diese sind nicht Synonyme und dürfen nicht verwechselt werden. Ein KI-Modell mit allgemeinem Verwendungszweck (Artikel 3 Absatz 63) ist ein KI-Modell, das „eine erhebliche Allgemeingültigkeit anzeigt“ und in nachgelagerte Systeme integriert werden kann; Ein KI-System mit allgemeinem Verwendungszweck (Artikel 3 Absatz 66) ist ein KI-System system „auf der Grundlage eines KI-Modells mit allgemeinem Verwendungszweck“, das einer Vielzahl von Zwecken dienen kann.⁹ Nur zur Veranschaulichung und ohne Qualifizierung eines bestimmten Produkts: Ein Sprachmodell wie Opus 5 ist ein Modell, während die Claude-Anwendung, die ein solches Modell den Benutzern zur Verfügung stellt, ein System ist. Artikel 50 Absatz 2 gilt ausdrücklich für „KI-Systeme, einschließlich KI-Systeme mit allgemeinem Verwendungszweck“¹² — es ist eine Pflicht für Systeme, nicht für Modelle. Die unterschiedlichen Transparenz- und Dokumentationspflichten für KI mit allgemeinem Verwendungszweck Modelle sind in den Artikeln 53 bis 55 (Kapitel V) enthalten, nicht hier. In Erwägungsgrund 133 wird die praktische Brücke hinzugefügt: Markierungstechniken „können auf der Ebene des KI-Systems oder auf der Ebene des KI-Modells implementiert werden, einschließlich KI-Modellen mit allgemeinem Verwendungszweck, die Inhalte erzeugen, wodurch die Erfüllung dieser Verpflichtung durch den nachgeschalteten Anbieter des KI-Systems erleichtert wird.“⁴

3. Absatz-für-Absatz-Analyse

Art. 50 Abs. 1 — Meldung der Interaktion mit einem KI-System (Anbieterpflicht). Anbieter müssen sicherstellen, dass KI-Systeme, „die dazu bestimmt sind, direkt mit natürlichen Personen zu interagieren“, „entworfen und entwickelt“ werden, damit die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, „es sei denn, dies ist aus Sicht einer natürlichen Person, die angemessen gut informiert, aufmerksam und verständig ist, unter Berücksichtigung der Umstände und des Nutzungskontextes offensichtlich.“¹² Der klassische Fall ist ein Kundendienst-Chatbot. Der „Offensichtlichkeits“-Qualifikator wird als objektiver Maßstab definiert – bewertet vom Standpunkt einer Person, die unter den gegebenen Umständen „vernünftig gut informiert, aufmerksam und verständig“ ist, nicht durch den subjektiven Eindruck des jeweiligen Nutzers – und Erwägungsgrund 132 sieht vor, dass die Merkmale schutzbedürftiger Gruppen (Alter, Behinderung) berücksichtigt werden, wenn das System mit ihnen interagieren soll.¹

Die Leitlinien unterteilen den Auslöser in vier kumulative Elemente: i) ein KI-System; ii) eine beabsichtigte Interaktion; iii) die direkt ist; iv) mit einer natürlichen Person. Sie verwenden diese Elemente, um drei vertraute Situationen außerhalb des Absatzes zu platzieren. Passive Datenerfassung ist außerhalb davon, weil es überhaupt keine Interaktion mit der Person gibt: Ein biometrisches zugangskontrollsystem liest ein gesicht und öffnet eine tür, führt aber keinen austausch mit dem einzelnen. Einmalige Feedback-Sammlung ist außerhalb davon, weil es keinen Austausch mit der Person gibt: In den Leitlinien werden Spamfilter als Beispiel für Systeme genannt, die nur einmalige Rückmeldungen sammeln und daher nicht als Interaktion mit natürlichen Personen betrachtet werden. Und die Interaktion, die von einem Menschen vermittelt wird, ist außerhalb davon, weil sie nicht direkt ist: Wenn ein Kundendienstmitarbeiter einen KI-Assistenten konsultiert und dann mit eigenen Worten antwortet, erreicht der Output der KI nie den Kunden. In den Leitlinien wird auch auf KI-Agenten eingegangen, die sich innerhalb des Absatzes befinden: sie müssen sowohl ihre künstliche Natur als auch die Person, in deren Namen sie handeln, offenlegen, und wenn ein Anbieter nicht im Voraus wissen kann, ob ein Agent direkt mit einer natürlichen Person zu tun hat, sollte der Agent so konzipiert sein, dass er sich in jeder Situation offenlegt, in der dies vernünftigerweise wahrscheinlich ist. Die Form der Anmeldung ist offen – Text, Ton, Bild oder eine Kombination –, aber in den Leitlinien wird aufgeführt, was nicht den Zoll allein erledigt: Das Vergraben der Informationen in Geschäftsbedingungen oder hinter einem Link, das Verlassen auf maschinenlesbare Markierungen, die der Benutzer nicht wahrnehmen kann, mehrdeutige Verweise auf einen „Assistenten“, allgemeine Aussagen wie „Dienste auf dieser Website verwenden KI“ und rein technische Beschreibungen wie „Dieses System verwendet LLMs.“ Im Einklang mit seinem Charakter als Ausnahme ist die Offensichtlichkeit in zwei Schritten zu lesen restriktiv: Identifizieren Sie das Ziel oder das vernünftigerweise vorhersehbare Publikum und fragen Sie dann, was ein durchschnittliches Mitglied davon verstehen würde. KI-Codierungsassistenten, die sich nur an Fachleute richten, interne Werkzeuge, die von geschultem Personal verwendet werden, und Nichtspielercharaktere in einem Einzelspielerspiel werden als Fälle angegeben, in denen die Interaktion offensichtlich ist; Ein Roboterbegleiter, der ein Tier nachahmt, realistische Avatare in immersiver VR oder AR und Chatbots zur Kundenunterstützung, deren Ausgabe als menschlich gelesen werden kann, sind Fälle, in denen dies nicht der Fall ist.³

Die law-enforcement exception ist eng und bedingt. Es entfällt die Pflicht für „gesetzlich zugelassene KI-Systeme zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten“, aber nur „vorbehaltlich geeigneter Garantien für die Rechte und Freiheiten Dritter“, und – kritisch – gilt sie nicht, wenn „diese Systeme der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung stehen.“¹² Die Ausnahme umfasst also beispielsweise ein verdecktes Ermittlungsinstrument, das im Rahmen einer rechtlichen Genehmigung mit Garantien Dritter verwendet wird; es deckt nicht einen öffentlich zugänglichen Chatbot zur Anzeige von Straftaten ab, bei dem normale Mitglieder der Öffentlichkeit mit dem System interagieren und die Transparenzbegründung unvermindert ist.

Artikel 50 Absatz 2 — Maschinenlesbare Kennzeichnung synthetischer Inhalte (Anbieterpflicht). Anbieter von KI-Systemen — „einschließlich KI-Systemen mit allgemeinem Verwendungszweck“ —, die „synthetische Audio-, Bild-, Video- oder Textinhalte“ erzeugen, müssen sicherstellen, dass die Ausgaben „in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können.“¹² Der Zoll ist durchführbar: Lösungen müssen „wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist, wobei die Besonderheiten und Einschränkungen der verschiedenen Arten von Inhalten, die Implementierungskosten und der allgemein anerkannte Stand der Technik, wie er sich in den einschlägigen technischen Normen widerspiegeln kann, zu berücksichtigen sind.“¹² Erwägungsgrund 133 listet mögliche Techniken auf — „Wasserzeichen, Metadatenidentifikationen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken.“⁴ Der am 10. Juni 2026 abgeschlossene Verhaltenskodex für die Transparenz von KI-generierten Inhalten ist das Instrument für die Einhaltung dieser Pflicht auf Unionsebene (siehe Abschnitt 5); sie schreibt keine bestimmte Technik vor und verfolgt stattdessen den gesetzlichen Durchführbarkeitsstandard.¹³ In ihren Entwürfen wurde ein mehrschichtiger Ansatz erörtert, bei dem gesicherte Metadaten (z. B. C2PA Content Credentials) mit unsichtbaren Wasserzeichen (z. B. SynthID) kombiniert werden – eine Kombination, die der Tatsache Rechnung trägt, dass noch keine harmonisierte EU-Norm für die Kennzeichnung nach Artikel 50 Absatz 2 in Kraft ist und dass Metadaten durch Rekompression oder Reuploads entfernt werden können.¹⁴ Die gesetzliche Absicherung (soweit dies technisch machbar ist) verfolgt die technische Realität, dass Wasserzeichen verwendet werden, in den Worten der Literatur „keine Silberkugel“ und kann umgangen werden.¹⁵

Es gelten zwei Ausnahmen: die Pflicht beißt weder „in dem Maße, in dem die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung erfüllen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern“, noch wenn die Verwendung „gesetzlich zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten zugelassen ist“.¹² Beim ersten Carve-out bleiben Routinewerkzeuge (Rechtschreibprüfer, Formatumwandlung, geringfügige Farb- oder Ernteanpassungen) außerhalb des Kennzeichnungszolls; Es schaltet sich ein, ob das System im Wesentlichen die Eingabe oder deren Semantik verändert.

In den Leitlinien werden vier Punkte von praktischer Bedeutung hinzugefügt. Erstens hat der Zoll zwei kumulative Komponenten — maschinenlesbare Kennzeichnung und die Verfügbarkeit der Erkennung —, so dass ein Anbieter, der seine Outputs markiert, ohne sie nachweisbar zu machen, nicht eingehalten hat. Zweitens sollten Anbieter auf technischer Seite öffentlich verfügbare Industriestandards bevorzugen, die anbieterübergreifend interoperabel sind, wobei proprietäre oder gemeinsam genutzte Lösungen als „Stop-Gap“ behandelt werden, bis harmonisierte Normen existieren; Die vier gesetzlich vorgeschriebenen Qualitäten (wirksam, interoperabel, robust, zuverlässig) werden anhand des Stands der Technik und der technischen Durchführbarkeit bewertet, und die Umsetzungskosten können berücksichtigt werden. Drittens werden die Modalitätsklassen weit gefasst: 3D-Inhalte sowie VR- und AR-Umgebungen werden als „Video“ behandelt, und digitale Zwillinge fallen unter Artikel 50 Absatz 2, wenn sie KI-generiert oder manipuliert werden und die Form von Audio, Bild, Video oder Text annehmen – ihre Modalität wird von Fall zu Fall festgelegt und nicht standardmäßig als Video eingestuft. Außerhalb des Absatzes fallen kurze Funktionsabläufe (Alt-Text, Schnittstellenetiketten), Quellcode und strukturierte Maschinenformate sowie reiner Maschine-zu-Maschine-Austausch – ebenso wie Zwischenschritte eines KI-Agenten, die niemals als wahrnehmbarer Inhalt auftauchen. Viertens werden in den Leitlinien enge Situationen genannt, in denen die Erwartungen an die Kennzeichnung gelockert werden und nicht alle in gleicher Weise gelockert werden. Für technisch geschlossene Produkte, deren Output die Produktumgebung nicht verlassen kann – die Navigation im Fahrzeug ist das Beispiel – sehen die Leitlinien eine weniger robuste Kennzeichnungslösung wie Metadaten vor, nicht das Fehlen einer Kennzeichnung. Die vollständige Nichtmarkierung wird in zwei weiteren, unterschiedlichen Fällen erwogen: industrielle oder Business-to-Business-Anwendungen, die kumulative Bedingungen erfüllen (rein technische Leistung, ein begrenzter vorgegebener Kreis von Fachleuten, keine Mitbestimmung außerhalb des Unternehmens); und ephemere Echtzeitinhalte in Spielen oder VR, die nicht gespeichert werden, wenn die Kennzeichnung technisch nicht machbar ist und die Nutzer auf andere Weise informiert werden, z. B. durch einen Hinweis innerhalb der Erfahrung.³ Die Einhaltung eines nach Artikel 50 Absatz 7 als angemessen bewerteten Verhaltenskodex wird als ein Weg zum Nachweis der Einhaltung behandelt — und der Kodex wurde von der Kommission am 8. Juli 2026 und vom Board am 9. Juli 2026 so bewertet (siehe Abschnitt 5).^8,3

Artikel 50 Absatz 3 — Meldung von Systemen zur Emotionserkennung/biometrischen Kategorisierung durch die Betreiber. Die Betreiber müssen „die ihr ausgesetzten natürlichen Personen über den Betrieb des Systems informieren“ und personenbezogene Daten gemäß der DSGVO, der EU-DSVO und der Strafverfolgungsrichtlinie „soweit zutreffend“ verarbeiten.¹² Der Zoll ist nur eine Anmeldung; die zugrunde liegende Verarbeitung, für die nach dem Datenschutzrecht noch eine eigene Rechtsgrundlage erforderlich ist, nicht genehmigt. Die law-enforcement exception hier ist wieder bedingt: sie umfasst Systeme, „die gesetzlich zur Aufdeckung, Verhütung oder Untersuchung von Straftaten zugelassen sind“, jedoch nur „vorbehaltlich geeigneter Garantien für die Rechte und Freiheiten Dritter und im Einklang mit dem Unionsrecht“.¹² Zwei Grenzen sollten im Blick behalten werden: Erstens regelt dieser Absatz nur zugelassene Verwendungen — die Erkennung von Emotionen am Arbeitsplatz und im Bildungsbereich sowie bestimmte biometrische Kategorisierungen sind nach Artikel 5 verboten und erreichen niemals Artikel 50; Zweitens verdrängt die Meldepflicht kein datenschutzrechtliches Verbot oder Einwilligungserfordernis.

Die Leitlinien schärfen drei weitere Punkte. Jedes Emotionserkennungssystem, das nicht nach Artikel 5 Absatz 1 Buchstabe f verboten ist, ist risikoreich, so dass die Pflicht nach Artikel 50 Absatz 3 kumulativ mit den Anforderungen nach Kapitel III und nicht anstelle von ihnen funktioniert; 50(3) hingegen erfasst jedes biometrische Kategorisierungssystem, unabhängig davon, ob es mit einem hohen Risiko behaftet ist oder nicht. Der Zoll ist inhaltlich eng gefasst: Der Betreiber muss die exponierten Personen darüber informieren, dass das System in Betrieb ist, nicht warum oder nach welcher Logik – Gründe können nach dem Datenschutzrecht, aber nicht nach diesem Absatz geschuldet werden – und zu den Adressaten gehören Kinder. Die Strafverfolgungsausnahme wird hier freizügiger gelesen als in den Absätzen 1, 2 und 4: wenn diese Ausnahmen „ein ausdrückliches Gesetz erfordern, das die intransparente Nutzung der KI-Systeme gestattet“, Absatz 3 erfüllt ist, wenn die Nutzung „nach den Rechtsvorschriften über die Befugnisse der Strafverfolgungsbehörden“ zur Nutzung solcher Systeme ohne Unterrichtung der betroffenen Personen gestattet ist. Die Garantien für die Rechte und Freiheiten Dritter und das Erfordernis der Übereinstimmung mit dem Unionsrecht gelten weiterhin.³

Artikel 50 Absatz 4 — Offenlegung von Deepfakes und Texten von öffentlichem Interesse (Arbeitgeberpflicht). Dieser Absatz hat zwei Teile. Bei tiefen Fälschungen — Bild-, Audio- oder Videoinhalten — müssen die Betreiber „offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.“¹² Diese Verpflichtung „gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten gesetzlich zulässig ist.“¹² Erwägungsgrund 134 begründet dies mit der Meinungs- und Kunstfreiheit: wenn der Inhalt Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktiven oder analogen Werks oder Programms“ ist, ist die Verpflichtung „auf die Offenlegung der Existenz eines solchen erzeugten oder manipulierten Inhalts in geeigneter Weise beschränkt, die die Anzeige oder den Genuss des Werks nicht behindert.“^12,17 Die Offenlegungspflicht selbst wird für solche Werke nicht aufgehoben; Was eingeengt wird, ist der manner, in dem es entladen wird. Ein satirisches Deepfake-Video muss immer noch von einer Offenlegung begleitet sein, dass der Inhalt künstlich ist, diese Offenlegung jedoch eine Form annehmen kann, die das Werk nicht beeinträchtigt – eine dauerhafte aufdringliche Überlagerung ist beispielsweise nicht erforderlich. In den Leitlinien wird die abgeschwächte Regelung eng gelesen, wobei das Wort „offensichtlich“ ernst genommen wird, und betont, dass die Berufung auf sie den Betreiber nicht davon entbindet, sicherzustellen, dass „die Rechte und Freiheiten Dritter (einschließlich z. B. ihres Rechts auf Schutz personenbezogener Daten oder der Rechte des geistigen Eigentums) angemessen geschützt und geachtet werden“; es „kann keine Rechtfertigung dafür sein, dass die Grundrechte von Einzelpersonen oder Rechteinhabern nach dem Unionsrecht im Bereich des geistigen Eigentums oder dem Datenschutzrecht der Union nicht geachtet werden.“ Getrennt – und für Deepfakes im Allgemeinen, nicht nur für die abgeschwächte Regelung – wird festgehalten, dass Betreiber das Unionsrecht im Bereich des geistigen Eigentums einhalten müssen, wenn die Deepfakes geschützte Schutzgegenstände enthalten, und, wenn bestehende Personen abgebildet sind, mit „einschlägigen Rechtsvorschriften zum Schutz der Persönlichkeitsrechte über persönliche Bilder oder Stimmen“. Sie lokalisieren auch das Publikum für diesen Absatz anders als 50 Absatz 1: Worauf es ankommt, ist die tatsächliche, vernünftigerweise vorhersehbare Zielgruppe des Inhalts, einschließlich aller gefährdeten Gruppen darin, und nicht eine hypothetische Durchschnittsperson.³

Der zweite Teil betrifft KI-generierten oder manipulierten Text „veröffentlicht mit dem Ziel, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.“ Auch hier muss es eine Offenlegung künstlicher Herkunft geben, aber die Pflicht entfällt, wenn „der KI-generierte Inhalt einem Prozess menschlicher Überprüfung oder redaktioneller Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung des Inhalts trägt.“¹² Dies ist die Ausnahme für redaktionelle Verantwortung: Ein Newsroom, der eine von KI erstellte Kopie durch menschliche redaktionelle Kontrolle mit einer Person, die für die Veröffentlichung verantwortlich ist, ausführt, ist nicht verpflichtet, den Text als KI-unterstützt zu kennzeichnen. Auch der zweite Teil unterliegt der gleichen Gesetzesvollstreckungsausnahme.¹² Die Leitlinien geben dem zweiten Teil drei Elemente – der Text muss veröffentlicht werden, um einer unbestimmten Leserschaft zugänglich zu sein; veröffentlicht werden, um die Öffentlichkeit zu informieren; und betreffen eine Angelegenheit von öffentlichem Interesse, eine Kategorie, die sie mit Politik, öffentlicher Verwaltung, Justiz, öffentlicher Gesundheit, Sicherheit, Umwelt und wirtschaftlichen, wissenschaftlichen oder kulturellen Entwicklungen veranschaulichen. Die Ausnahme selbst enthält zwei kumulative Elemente: eine echte inhaltliche menschliche Überprüfung oder redaktionelle Kontrolle, die eine Rechtschreibprüfung nicht liefert, und eine natürliche oder juristische Person mit redaktioneller Verantwortung, deren Identität und Kontaktdaten öffentlich feststellbar sind – ein Begriff, der in den Leitlinien mit Artikel 2 Absatz 8 des Europäischen Medienfreiheitsgesetzes, der Verordnung (EU) 2024/1083, in Verbindung steht.³ In der Fragerunde der Kommission werden die beiden Elemente in operativer Hinsicht formuliert: menschliche Überprüfung ist die absichtliche Prüfung des Inhalts durch eine oder mehrere natürliche Personen mit einschlägigen Kenntnissen und fachlicher Beurteilung des Gegenstands; redaktionelle Kontrolle ist die Kontrolle, die in der Praxis von einer verantwortlichen redaktionellen Einrichtung wie einem Chefredakteur ausgeübt wird, die befugt ist, den Inhalt des Textes aus sachlichen Gründen zu billigen, zu ändern oder abzulehnen, einschließlich Faktenprüfung; und oberflächliche, ausschließlich formale oder verfahrenstechnische Prüfungen wie Rechtschreibprüfung oder grammatikalische Korrektur gelten ebenfalls nicht.¹¹

Artikel 50 Absatz 5 — Manner und Timing. Die Informationen gemäß den Absätzen 1 bis 4 müssen „spätestens zum Zeitpunkt der ersten Interaktion oder Exposition in klarer und unterscheidbarer Weise“ bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen.¹² Dies ist ein bereichsübergreifender Qualitätsstandard: Offenlegung, die vergraben oder verzögert wird, erfüllt die Pflicht nicht. Die Leitlinien lesen den Verweis auf die erste Interaktion oder Exposition pro Person: Jede weitere natürliche Person, die auf dasselbe Ergebnis stößt, hat ihre eigene erste Exposition, so dass für Inhalte, die zugänglich bleiben – ein Deepfake, das in einem sozialen Netzwerk zirkuliert – die Offenlegung mit ihm reisen muss, anstatt einmal bei der Veröffentlichung gemacht zu werden. Sie binden auch die Barrierefreiheitsanforderung an die Richtlinien (EU) 2016/2102 und (EU) 2019/882.³

Artikel 50 Absatz 6 — Verhältnis zu anderen Verpflichtungen. Absätze (1)–(4) „haben keine Auswirkungen auf die in Kapitel III festgelegten Anforderungen und Verpflichtungen“ (die Hochrisikoregelung) und gelten „unbeschadet anderer Transparenzpflichten, die im Unionsrecht oder im nationalen Recht festgelegt sind.“¹² Artikel 50 ist daher Zusatzstoff: Ein Hochrisikosystem, das auch mit Menschen interagiert oder Inhalte generiert, muss sowohl Kapitel III als auch Artikel 50 erfüllen.

Artikel 50 Absatz 7 — Verhaltenskodizes. Dies ist der einzige Absatz von Artikel 50, dessen Wortlaut bereits geändert wurde. In seiner ursprünglichen Form hat es das Amt für künstliche Intelligenz dazu veranlasst, „die Ausarbeitung von Verhaltenskodizes auf Unionsebene zu fördern und zu erleichtern“, um künstlich erzeugte oder manipulierte Inhalte aufzuspüren und zu kennzeichnen, und es der Kommission ermöglicht, diese im Wege eines Durchführungsrechtsakts gemäß Artikel 56 Absatz 6 zu genehmigen oder, wenn es einen Kodex für unzureichend hält, im Wege eines Durchführungsrechtsakts im Rahmen des Prüfverfahrens gemäß Artikel 98 Absatz 2 gemeinsame Vorschriften festzulegen.⁸

Mit der Änderung werden drei Änderungen vorgenommen, und in der Änderungsverordnung wird der Grund für die wichtigste Änderung genannt. Erstens ist der zuständige Akteur jetzt die Kommission und nicht mehr das Amt für künstliche Intelligenz, das den verfügenden Teil an Erwägungsgrund 135 angleicht, der immer von der Kommission gesprochen hatte.¹⁸ Zweitens deckt der Gegenstand der Codes nun neben der Erkennung und Kennzeichnung ausdrücklich markieren ab: Der ursprüngliche Wortlaut sprach von den Verpflichtungen „in Bezug auf die Erkennung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte“, der neuen „in Bezug auf die Erkennung, Kennzeichnung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte“, die Lücke zwischen dem ursprünglichen Absatz 7 und der maschinenlesbaren Kennzeichnungspflicht in Absatz 2 schließen, der diese Codes dienen sollen.¹⁹ Drittens weicht die Genehmigung eines Codes durch einen Durchführungsrechtsakt einer Bewertung der Angemessenheit, die die Kommission unter weitestgehender Berücksichtigung der Stellungnahme des Ausschusses – des Europäischen Ausschusses für künstliche Intelligenz (Artikel 65) – durchführt und die sie gemäß der Neufassung von Artikel 56 Absatz 6 veröffentlicht. In Erwägungsgrund 41 der Änderungsverordnung wird erläutert, warum der Durchführungsrechtsakt fallengelassen wurde: Da die Verhaltenskodizes gemäß Artikel 50 Absatz 7 und Artikel 56 Absatz 6 „begrenzte Rechtswirkung haben und insbesondere keine Konformitätsvermutung begründen“, ist es „nicht unbedingt erforderlich, dass diese Kodizes durch einen Durchführungsrechtsakt genehmigt werden.“⁸ Diese Begründung ist erwähnenswert, was sie über die Codes selbst bestätigt: Die Einhaltung ist ein Nachweis für die Einhaltung der Vorschriften und eine aufsichtliche Zweckmäßigkeit, keine gesetzliche Vermutung dafür. In Erwägungsgrund 135 wird der gleiche Punkt aus der anderen Richtung formuliert und die Kodizes als erleichternd bezeichnet: „Unbeschadet des verbindlichen Charakters und der uneingeschränkten Anwendbarkeit der Transparenzpflichten kann die Kommission auch die Ausarbeitung von Verhaltenskodizes auf Unionsebene fördern und erleichtern (...).“¹⁸

Der Mechanismus wurde bereits einmal verwendet. Die Kommission hat den Verhaltenskodex für die Transparenz von KI-generierten Inhalten in ihrer Stellungnahme C(2026) 4839 final vom 8. Juli 2026 bewertet, und der Ausschuss hat am folgenden Tag, d. h. vor dem Inkrafttreten der Neufassung am 27. Juli 2026, seine eigene Angemessenheitsschlussfolgerung angenommen. Beide Gremien handelten daher nach dem ursprünglichen Text: Die Kommission begründete ihre Befugnis, einen Kodex im Wege eines Durchführungsrechtsakts zu genehmigen, mit einer entsprechenden Verpflichtung, zunächst die Angemessenheit des Kodex gemäß Artikel 56 Absatz 6 zu bewerten, und beide erklärten, dass die parallel nach den bestehenden Vorschriften durchgeführte Bewertung nach der Änderung gültig bleiben würde, solange ihre Schlussfolgerungen kohärent seien. Das waren sie. Jeder stellte fest, dass der Kodex die Verpflichtungen gemäß Artikel 50 Absätze 2, 4 und 5 angemessen abdeckt und ihre wirksame Umsetzung erleichtert, wobei anerkannt wurde, dass die Einhaltung des Kodex kein schlüssiger Nachweis für die Einhaltung ist.¹⁶

4. Verhältnis zu anderen Bestimmungen

• Kapitel III (Hochrisikosysteme) — Artikel 6–49. Artikel 50 Absatz 6 macht die Transparenzpflichten dem Hochrisikosystem zuträglich und davon unberührt. Kapitel III umfasst die Artikel 6 bis 49; In Abschnitt 2 (Artikel 8–15) werden die wesentlichen Anforderungen an Hochrisikosysteme festgelegt. Ein Hochrisikosystem, das auch mit natürlichen Personen interagiert oder Inhalte generiert, muss beide Aufgaben erfüllen.¹² Die beiden Regime sind nun rechtzeitig auseinandergefallen. Mit der Verordnung (EU) 2026/1744 wurde die Anwendung von Kapitel III Abschnitte 1 bis 3 (mit Ausnahme von Artikel 6 Absatz 5) auf 2. Dezember 2027 für Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und auf 2. August 2028 für diejenigen, die gemäß Artikel 6 Absatz 1 und Anhang I eingestuft sind, verschoben, während Artikel 50 ab dem 2. August 2026 anwendbar bleibt.⁸ Emotionserkennungssysteme sind das deutlichste Beispiel: Die Auslegung jedes zulässigen Emotionserkennungssystems durch die Leitlinien ist mit einem hohen Risiko verbunden, doch der Betreiber schuldet die Meldepflicht nach Artikel 50 Absatz 3 ab August 2026 und die Anforderungen nach Kapitel III erst ab Dezember 2027.³

• Artikel 5 (verbotene Praktiken). Artikel 50 Absatz 3 und Artikel 5 ergänzen sich und überschneiden sich nicht: Artikel 5 verbott die Anerkennung von Emotionen am Arbeitsplatz und in der Bildung sowie bestimmte biometrische Kategorisierungen; Artikel 50 Absatz 3 sieht für die zulässigen Restverwendungen einen Zoll notification vor. Das gleiche Verhalten ist niemals gleichzeitig verboten und unterliegt lediglich der Offenlegung.

• KI mit allgemeinem Verwendungszweck (Artikel 51-56, Kapitel V). Artikel 50 Absatz 2 gilt für KI mit allgemeinem Verwendungszweck Systeme; Die gesonderten Verpflichtungen für KI mit allgemeinem Verwendungszweck Modelle – einschließlich ihrer Transparenz- und Dokumentationspflichten – sind in den Artikeln 53 bis 55 festgelegt. Die beiden Regelungen können entlang der Wertschöpfungskette gestapelt werden: Ein Anbieter vorgelagerter Modelle kann eine Kennzeichnung auf Modellebene implementieren, „durch die die Erfüllung dieser Verpflichtung durch den nachgelagerten Anbieter des KI-Systems erleichtert wird“ (Erwägungsgrund 133) – der nachgelagerte Anbieter ist der Anbieter eines KI-Systems (einschließlich eines KI-Systems mit allgemeinem Verwendungszweck), das ein KI-Modell integriert (Artikel 3 Absatz 68). Die Pflicht nach Artikel 50 Absatz 2 selbst bleibt jedoch eine Verpflichtung auf Systemebene, die diesen nachgelagerten Anbieter und nicht den Modellanbieter bindet; In den Leitlinien wird der gleiche Punkt genannt wie eine Aufforderung an die Modellanbieter, Maßnahmen auf Modellebene durchzuführen, insbesondere gemäß Artikel 55 Absatz 1 Buchstabe b, wenn das Modell ein systemisches Risiko birgt.^4,3 Artikel 50 Absatz 7 verweist auf das Verfahren nach Artikel 56 Absatz 6, das mit der Verordnung (EU) 2026/1744 ebenfalls neu gefasst wurde. Die Änderung ist ein Instrument: nach dem alten Text könnte die Kommission einen Kodex zur Klagebefugnis erheben, indem sie ihn in einem Durchführungsrechtsakt billigt; Im Rahmen des neuen Kodex bewertet sie, ob die Einhaltung des Kodex angemessen ist, um die Einhaltung der Vorschriften zu gewährleisten, und veröffentlicht diese Bewertung. Der Kodex wird somit nicht mehr genehmigt, sondern bewertet – und die Bewertung ist eine öffentliche Erklärung der Auffassung der Kommission, kein Rechtsakt, der die Konformität verleiht.⁸

• Sanktionen — Artikel 99 Absatz 4 Buchstabe g. Verstoß gegen die Transparenzpflichten nach Artikel 50 fällt unter Artikel 99 Absatz 4, der Geldbußen auf bis zu 15 000 000 EUR oder bei Unternehmen bis zu 3 % des weltweiten Gesamtjahresumsatzes des vorangegangenen Geschäftsjahres begrenzt, je nachdem, welcher Wert höher ist.²⁰ (Dies ist die mittlere Stufe; die Verbote nach Artikel 5 tragen die höhere Obergrenze von 35 000 000 EUR / 7 %, und die Angabe falscher Informationen die niedrigere Obergrenze von 7 500 000 EUR / 1 %.) Zwei Kalibrierungen weichen diese Obergrenze ab. Für die Organe, Einrichtungen und sonstigen Stellen der Union beläuft sich der Betrag auf 750 000 EUR. Und für KMU, einschließlich Start-ups, wird jede Geldbuße auf den niedrigeren der beiden Zahlen und nicht auf den höheren begrenzt (Artikel 99 Absatz 6). In den Leitlinien wird der Standpunkt für kleine Midcap-Unternehmen in der zum Zeitpunkt der Billigung ihres Inhalts am 20. Juli 2026 geltenden Fassung dargelegt, wonach die Interessen der kleinen Midcap-Unternehmen und ihre wirtschaftliche Tragfähigkeit zu berücksichtigen sind. Seitdem hat sich der Punkt jedoch verschoben: Mit der Verordnung (EU) 2026/1744 wurde ein neuer Artikel 99 Absatz 6a eingefügt, der ab dem 27. Juli 2026 in Kraft ist und in dem es heißt: „Bei kleinen Midcap-Unternehmen beträgt jede der in den Absätzen 4 und 5 genannten Geldbußen bis zu den darin genannten Prozentsätzen oder Beträgen, je nachdem, welcher Betrag niedriger ist.“ In Artikel 99 Absatz 1 wurde festgelegt, dass die Mitgliedstaaten „bei der Verhängung von Sanktionen die Interessen von KMU, einschließlich Start-up-Unternehmen, und kleinen Midcap-Unternehmen sowie deren wirtschaftliche Tragfähigkeit berücksichtigen müssen.“ Ab dem Tag, an dem Artikel 50 anwendbar wird, haben daher KMU und kleine Midcap-Unternehmen gleichermaßen Anspruch auf die niedrigere Obergrenze.^3,8Aufsicht wird geteilt: Die von den Mitgliedstaaten benannten nationalen Marktüberwachungsbehörden sind der Standard, das KI-Büro ist ausschließlich zuständig für KI-Systeme, die auf einem KI-Modell mit allgemeinem Verwendungszweck aufgebaut sind, bei dem derselbe Anbieter sowohl liefert, als auch für KI-Systeme, die eine sehr große Online-Plattform oder eine sehr große Online-Suchmaschine gemäß dem Gesetz über digitale Dienste darstellen oder darin integriert sind (Artikel 75 Absatz 1), und der Europäische Datenschutzbeauftragte beaufsichtigt die Organe und Einrichtungen der Union.^3,21 Die Vollstreckung erfolgt ansonsten auf nationaler Ebene; siehe Abschnitt 6.

• Gesetz über digitale Dienste (Verordnung (EU) 2022/2065). Erwägungsgrund 136 verknüpft Artikel 50 mit dem Gesetz über digitale Dienste: Kennzeichnung und Offenlegung sind „besonders relevant“ für die Pflicht der Anbieter sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen, systemische Risiken durch künstlich erzeugte Inhalte zu ermitteln und zu mindern, „insbesondere das Risiko der tatsächlichen oder vorhersehbaren negativen Auswirkungen auf demokratische Prozesse, den gesellschaftlichen Diskurs und Wahlprozesse, auch durch Desinformation“.²² Die Kennzeichnung gemäß der KI-Verordnung gilt „unbeschadet“ der Melde- und Abhilfevorschriften des Gesetzes über digitale Dienste und „sollte die Bewertung und Entscheidung über die Rechtswidrigkeit des spezifischen Inhalts nicht beeinflussen.“²² Die Leitlinien fügen einen Vergleich mit Artikel 35 Absatz 1 Buchstabe k des Gesetzes über digitale Dienste hinzu, in dem – wie sie es ausdrücken – „unter den möglichen Risikominderungsmaßnahmen, die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ergreifen können, [...] Maßnahmen aufgeführt sind, mit denen sichergestellt wird, dass Informationen, die bestehenden Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen, durch auffällige Kennzeichnungen unterscheidbar sind“. Es handelt sich somit um eine Option unter den diesen Anbietern zur Verfügung stehenden Risikominderungsmaßnahmen und nicht um eine unbedingte Pflicht, und sie zielt darauf ab, inhaltlich auf diese fälschungsartige Beschreibung zu antworten und nicht auf manipulierte Medien im Allgemeinen. Diese Pflicht ist wesentlich breiter als Artikel 50 Absatz 4 (sie deckt jede Technologie ab, nicht nur KI) und persönlich anders (sie bindet VLOP- und VLOSE-Anbieter, nicht Betreiber), so dass die beiden Verpflichtungen eher komplementär als koextensiv sind.³ Die Beziehung hat seitdem einen konkreten Adressaten gewonnen: am 31. August 2026 benannte die Kommission ChatGPT als sehr große Online-Suchmaschine im Rahmen des Gesetzes über digitale Dienste – den ersten generativen Chatbot, der unter diese Regelung fällt – und gewährte dem Dienst vier Monate bis Januar 2027, um seine Systemrisiken zu bewerten und zu mindern, während sein Anbieter bereits die Pflichten nach Artikel 50 Absätze 1 und 2 für dasselbe System trägt; und gemäß Artikel 75 Absatz 1 verlagert die Benennung auch die Aufsicht über die Verpflichtungen aus der KI-Verordnung des Systems auf das Amt für künstliche Intelligenz.^23,21

• Datenschutz. Artikel 50 Absatz 3 wahrt ausdrücklich die DSGVO (Verordnung (EU) 2016/679), die EU-DSVO (Verordnung (EU) 2018/1725) und die Strafverfolgungsrichtlinie (Richtlinie (EU) 2016/680); Die Anmeldung nach Artikel 50 liefert keine Rechtsgrundlage für die Verarbeitung.¹²

• Compliance ≠ lawfulness. Erwägungsgrund 137 warnt davor, dass die Erfüllung der Transparenzpflichten die Nutzung des Systems oder seines Outputs nach EU- oder nationalem Recht nicht rechtmäßig macht und andere Transparenzpflichten unberührt lässt.²⁴ In den Leitlinien wird auf den Punkt innerhalb der Verordnung selbst verwiesen: ein System kann vollständig mit Artikel 50 in Einklang stehen und nach wie vor gemäß Artikel 5 verboten sein oder der Hochrisikoregelung gemäß Artikel 6 unterliegen. Sie bestätigen auch die äußeren Ränder des Umfangs. Forschung und Entwicklung werden durch zwei Bestimmungen mit unterschiedlichen Auslösern ausgeschlossen: Artikel 2 Absatz 6 befreit Systeme, die für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden, so dass die Ausnahmeregelung eine Änderung des Zwecks, für den das System verwendet wird, zum Zweck hat; Nach Artikel 2 Absatz 8 sind Forschungs-, Erprobungs- und Entwicklungstätigkeiten vor dem Inverkehrbringen oder der Inbetriebnahme ausgenommen, so dass die Zwecke dieser Ausnahme die Handlung des Inverkehrbringens oder der Inbetriebnahme sind, unabhängig vom Zweck. Tests unter realen Bedingungen fallen nicht unter den zweiten Ausschluss. Und der Ausschluss von KI-Systemen, die im Rahmen freier und quelloffener Lizenzen freigegeben wurden, in Artikel 2 Absatz 12 hat seinen eigenen Vorbehalt: die Verordnung gilt nicht für sie, „es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System, das unter Artikel 5 oder 50 fällt, in Verkehr gebracht oder in Betrieb genommen.“ Anbieter und Betreiber von quelloffenen KI-Systemen, die in den Anwendungsbereich von Artikel 50 fallen, müssen daher ihren Transparenzpflichten nachkommen; Was außerhalb von Artikel 50 der Leitlinien bleibt, sind nur Anbieter von Open-Source-Komponenten – Software, Daten, Modelle, Tools, Dienste oder Prozesse für die Anpassung und Integration –, die für sich genommen weder ganz noch teilweise ein KI-System darstellen.^10,3

5. Offizielle Anleitung (mit Status)

• Leitlinien der Kommission zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Artikel 50 der KI-Verordnung. Die Leitlinien existieren in endgültiger Form als Anhang der Mitteilung C(2026) 5054 final vom 20. Juli 2026, mit der die Kommission ihren Inhalt genehmigt hat; Sie laufen auf 155 nummerierte Absätze. Ihre Rechtsgrundlage ist Artikel 96 Absatz 1 Buchstabe d der KI-Verordnung, und sie wurden nach der gezielten Konsultation zum Entwurf vom 7. Mai 2026 und der Ankündigung vom 8. Mai (geschlossen am 3. Juni 2026) sowie nach Beiträgen der Mitgliedstaaten und des KI-Ausschusses ausgearbeitet. Zwei Qualifikationen gehören dazu. In Bezug auf den Status heißt es in der Mitteilung, dass die Leitlinien „von der Kommission zu einem späteren Zeitpunkt förmlich angenommen [werden], wenn alle Sprachfassungen verfügbar sind. Erst ab diesem Zeitpunkt sind diese Leitlinien anwendbar.“ In Bezug auf die Behörde heißt es in den Leitlinien selbst: „Diese Leitlinien sind unverbindlich. Jede verbindliche Auslegung der KI-Verordnung kann letztlich nur vom Gerichtshof der Europäischen Union vorgenommen werden.“ Sie beschreiben ihren eigenen Inhalt als „erste Auslegung“, die die Kommission im Lichte der Praxis und der Rechtsprechung überarbeiten wird. Zum 15. September 2026 bot die Bibliothek der Kommission nur noch den englischen Anhang und die Mitteilung an, und der Ausschuss stellte in seiner Juli-Bewertung des Kodex fest, dass die Leitlinien zu diesem Zeitpunkt nur im Entwurf verfügbar waren. Status: endgültiger Text, gebilligter Inhalt am 20. Juli 2026 – förmliche Annahme und Anwendbarkeit bis Mitte September 2026 in den Sprachfassungen; unverbindlich.^3,16

• Verhaltenskodex für die Transparenz von KI-generierten Inhalten (endgültige Fassung, veröffentlicht am 10. Juni 2026, nach der abschließenden Plenarsitzung eines vom Amt für künstliche Intelligenz unterstützten Multi-Stakeholder-Prozesses, in dem die Ausarbeitung von unabhängigen Sachverständigen durchgeführt wurde, die es zwischen September 2025 und Juni 2026 ernannt hatte und drei Entwürfe durchlief). Es handelt sich um ein freiwilliges Instrument, mit dem Anbieter und Betreiber generativer KI-Systeme die Einhaltung von Artikel 50 Absätze 2 und 4 nachweisen können: Abschnitt 1 befasst sich mit der Kennzeichnung und Erkennung von Anbietern gemäß Artikel 50 Absatz 2; Abschnitt 2 befasst sich mit der Betreiberkennzeichnung von Deepfakes und Texten von öffentlichem Interesse gemäß Artikel 50 Absatz 4. Es schreibt keine besondere Markierungstechnik vor und verfolgt den gesetzlichen Machbarkeitsstandard. In den Leitlinien wird der Kodex als „der einzige unionsweit anerkannte praktische Rahmen“ für Anbieter und Betreiber generativer KI-Systeme beschrieben, um die Einhaltung dieser Verpflichtungen nachzuweisen, „unabhängig von ihrem Niederlassungsort, ihrem Betrieb und den zuständigen Marktüberwachungsbehörden“ und die Einhaltung eines angemessenen Kodex als „einfache, vorhersehbare und rechtlich sichere Methode zum Nachweis der Konformität“.³ Der geringere Verwaltungsaufwand, den die Unterzeichner erzielen sollen, ist die Art und Weise, wie die Kommission das Instrument vorstellt, und nicht eine rechtliche Wirkung, die es verleiht.^13/a Compliance kann ebenfalls „durch angemessene alternative Mittel“ nachgewiesen werden; Nichtunterzeichner müssen dann die Marktaufsichtsbehörden einzeln von der Angemessenheit dieser Maßnahmen überzeugen. In den Leitlinien wird die aufsichtliche Konsequenz konkret beschrieben: Für einen Unterzeichner konzentriert sich die Aufsicht darauf, ob er sich tatsächlich an den Kodex hält, während ein Nichtunterzeichner detailliertere Auskunftsersuchen darüber erwarten kann, wie er dasselbe Ergebnis erzielt.³ Die Signatur steht Anbietern und Betreibern offen, und – obwohl die Pflicht nach Artikel 50 Absatz 2 nur Anbieter von KI-Systemen bindet – Abschnitt 1 kann auch von Anbietern von Kennzeichnungs- und Erkennungslösungen und Anbietern von KI-Modellen unterzeichnet werden. Bis Ende Juli 2026 hatten etwa 190 Organisationen unterzeichnet, darunter Aleph Alpha, Anthropic, Black Forest Labs, Cohere, Google, Meta, Microsoft, Mistral, OpenAI und Synthesia für Abschnitt 1 und Bulgari, Fastweb, Getty Images, Iberdrola, Lenovo und Lufthansa für Abschnitt 2; Etwa die Hälfte der Unterzeichner sind kleine und kürzlich gegründete Unternehmen, und die laufende Liste der Kommission stand bei ihrer Aktualisierung vom 17. September 2026 auf 95 Unterzeichnern der Abschnitte 1 und 192 Abschnitt 2. Der Kodex liegt weiterhin zur Unterzeichnung auf, und ab September 2026 sollen die Unterzeichner in zwei Taskforces zusammenarbeiten, um die Praxis der Industrie, Rückmeldungen zur Umsetzung und Fortschritte beim Stand der Technik auszutauschen. final — von der Kommission (Stellungnahme C(2026) 4839 final vom 8. Juli 2026) und vom Ausschuss (9. Juli 2026) als angemessen bewertet; freiwillig, nicht verbindlich.^13,16

Die beiden Instrumente unterscheiden sich voneinander und ergänzen sich: In den Leitlinien wird der Anwendungsbereich der in der Verordnung festgelegten Pflichten ausgelegt, während der Kodex ein Instrument für deren Erfüllung ist – der Kodex ersetzt weder die KI-Verordnung noch die Leitlinien. Beide sind Soft-Law: sie unterstützen die Auslegung, können aber die in der Verordnung festgelegten Pflichten, die unabhängig vom Zeitpunkt der förmlichen Annahme der Leitlinien ab dem 2. August 2026 in vollem Umfang gelten, nicht erweitern oder vertraglich festlegen. Die Neufassung der Verfahrensregeln in Artikel 50 Absatz 7 und Artikel 56 Absatz 6 ist nun in Kraft und gibt dem Kodex einen definierten Platz in dieser Architektur: die Kommission bewertet, ob die Einhaltung des Artikels 50 Absätze 2 und 4 angemessen ist, und veröffentlicht diese Bewertung. Diese Bewertung wurde nun vorgenommen (siehe Abschnitt 3 zu Absatz 7): Die Kommission und der Ausschuss kamen jeweils zu dem Schluss, dass der Kodex Artikel 50 Absätze 2, 4 und 5 angemessen abdeckt und deren wirksame Umsetzung erleichtert, und fügten hinzu, dass die Marktüberwachungsbehörden ihn als das einzige EU-weite praktische Instrument betrachten sollten, das ab Juli 2026 als angemessen bewertet wird, unbeschadet ihrer Befugnis, zu untersuchen, ob ein Anbieter oder Betreiber seine Verpflichtungen tatsächlich erfüllt hat. Was sich aus einer positiven Bewertung ergibt, ist beweiskräftig, nicht automatisch: Ein Anbieter, der sich an den Kodex hält, kann auf anerkannte Weise nachweisen, dass er das getan hat, was der Absatz verlangt, aber er wird dadurch rechtlich nicht konform – wie es in Erwägungsgrund 41 der Änderungsverordnung heißt, die Kodizes „erteilen keine Konformitätsvermutung“, und beide Bewertungsstellen haben dies in ihren eigenen Worten gesagt, wobei sie anerkennen, dass die Einhaltung des Kodex kein schlüssiger Beweis für die Einhaltung der Verpflichtungen ist.^3,13,8,16

6. Nationale Besonderheiten

Tschechische Republik. Der tschechische Anpassungsgesetzentwurf (návrh zákona o umělé inteligenci, ausgearbeitet vom Ministerium für Industrie und Handel, MPO) bleibt ein Entwurf, der nun über sein interministerielles Kommentarverfahren hinausgeht (am 25. September 2025 eingeleitet; Anmerkungen bis 23. Oktober 2025). Nach der Klärung der Stellungnahmen wurde der Gesetzentwurf am 26. Juni 2026 in das Register des Regierungsamts eingetragen (VeKLEP-Status „zařazeno do evidence“); Mitte September 2026 waren weder eine Entschließung der Regierung noch eine parlamentarische Druckfassung verzeichnet worden, so dass es sich nicht um ein Gesetz handelte und es nicht in Kraft war, als Artikel 50 am 2. August 2026 in Kraft trat. Es handelt sich um ein reines Anpassungsstatut: es schafft keine inhaltlichen Transparenz- oder Deepfake-Regeln über die Verordnung hinaus, sondern benennt Behörden und Delikte.^25,26

• Aufsichtsbehörde für Artikel 50: In dem Gesetzentwurf werden drei Marktüberwachungsbehörden gemäß Artikel 70 Absatz 1 benannt – das Tschechische Fernmeldeamt (Český telekomunikační úřad, ČTÚ), die Tschechische Nationalbank für die von ihr beaufsichtigten Einrichtungen und das Amt für den Schutz personenbezogener Daten für die Hochrisikosysteme gemäß Artikel 74 Absatz 8. ČTÚ ist die verbleibende Behörde für alles andere und die zentrale Anlaufstelle gemäß Artikel 70 Absatz 2 (§ 3).²⁵ Inzwischen hat sich ČTÚ öffentlich als eine der tschechischen Marktüberwachungsbehörden für diese Aufgaben präsentiert: In einer Pressemitteilung vom 31. Juli 2026 wies er darauf hin, dass Anbieter und Betreiber gleichermaßen an Artikel 50 gebunden sind, empfahl einen dreistufigen Ansatz – Festlegung der eigenen Rolle, Ermittlung der spezifischen Verpflichtungen, Festlegung der Verfahren und Maßnahmen zu deren Erfüllung – und erklärte, dass die Aufsicht bei den Marktüberwachungsbehörden des Mitgliedstaats, zu denen in der Tschechischen Republik ČTÚ gehört, liegt, wobei das Amt für künstliche Intelligenz Artikel 50 in bestimmten Fällen an ihrer Stelle durchsetzt. Das ist eine Aussage über das Verständnis der Behörde für ihre Rolle, keine rechtliche Bezeichnung, die nur der Anpassungsakt liefern kann.²⁷
• Straftat und Geldstrafe: die Gesetzesvorlage macht einen Verstoß gegen die Verpflichtungen aus Artikel 50 zu einem Verwaltungsdelikt (přestupek) zweimal – einmal für den Anbieter (§ 27 Abs. 1 Buchst. b) und einmal für den Betreiber (§ 27 Abs. 6 Buchst. c) – und setzt die Geldstrafe selbst fest, anstatt lediglich auf Folgendes Bezug zu nehmen: bis zu 15 000 000 EUR oder im Falle eines Unternehmens 3 % des weltweiten Gesamtjahresumsatzes, je nachdem, welcher Wert höher ist (§ 27 Absatz 7 Buchstabe b), entsprechend Artikel 99 Absatz 4. Wird der Betrag aus Artikel 99 Absätze 3 bis 7 abgeleitet, so wird er zum ČNB-Wechselkurs für den Tag vor der Entscheidung in tschechische Krone umgerechnet und aufgerundet (§ 31 Absatz 4); die Verjährungsfrist beträgt fünf Jahre, und die Haftung erlischt spätestens acht Jahre nach der Straftat (§ 31 Abs. 2).²⁵ Bei weniger schwerwiegenden Verstößen kann die Behörde zunächst warnen und eine Abhilfefrist von mindestens 15 Tagen festlegen; wird der Verstoß behoben, wird kein Ordnungswidrigkeitsverfahren eingeleitet (§ 25). Welche Behörde die Straftat anhört, folgt § 30 Abs. 2: das Amt für den Schutz personenbezogener Daten oder die Tschechische Nationalbank im Rahmen ihrer Zuständigkeiten, ČTÚ ansonsten.²⁵
• Statusvorbehalt: Abschnittsnummern und -wortlaute können sich im verbleibenden Gesetzgebungsverfahren noch ändern – Genehmigung durch die Regierung, parlamentarische Lesung, Verkündung; Alles hier sollte als Entwurf zitiert werden.²⁵
• Eine separate kriminelle Schicht ist bereits in Kraft. Unabhängig vom (noch im Entwurf befindlichen) Anpassungsgesetz hat die Tschechische Republik eine strafrechtliche Reaktion auf schädliche Deepfakes durch Gesetz Nr. 270/2025 Sb. (eine Änderung des Strafgesetzbuchs), in Kraft 1. Januar 2026 erlassen. Sie fügt einen neuen § 191a „Zneužití identity k výrobě pornografie a její šíření“ (Identitätsmissbrauch für die Herstellung und Verbreitung von Pornografie) hinzu, der auf nicht einvernehmliche KI-generierte sexuelle Bilder („tiefe Akte“) abzielt, mit einer Freiheitsstrafe von bis zu zwei Jahren in der Grundstraftat und von 6 Monaten–3 Jahren bzw. 1–5 Jahren in qualifizierter und verschärfter Form; und dehnt § 181 Abs. 2 (Verletzung der Rechte eines anderen) auf nicht pornografische Deepfakes aus, die im Sinne der tschechischen Bestimmung jeden erreichen, der in der Absicht, die Rechte eines anderen ernsthaft zu schädigen, ein Werk hervorbringt, das ohne Genehmigung das Abbild eines anderen oder einen Ausdruck seiner persönlichen Natur darstellt, erfasst oder anderweitig verwendet und das echt erscheint, obwohl der Täter weiß, dass es nicht vorhanden ist, oder ein solches Werk öffentlich zugänglich macht, vermittelt, in Verkehr bringt, verkauft oder anderweitig für einen anderen beschafft. Wie in Italien unterscheidet sich diese kriminelle Spur von den administrativen Transparenzpflichten nach Artikel 50.²⁸

Italien. Italien ging immer weiter und früher. Gesetz Nr. 132/2025 (Legge 23. September 2025, Nr. 132), in Kraft 10. Oktober 2025, ist der erste umfassende nationale KI-Rahmen in einem EU-Mitgliedstaat; In Artikel 2 werden die Begriffsbestimmungen der KI-Verordnung übernommen.²⁹ Am relevantesten für Artikel 50 wird eine kriminelle Ebene hinzugefügt, die die KI-Verordnung selbst nicht enthält: Mit Artikel 26 Absatz 1 Buchstabe c wird ein neuer Artikel 612-quater in das italienische Strafgesetzbuch („Ungesetzliche Verbreitung von Inhalten, die mit Systemen der künstlichen Intelligenz erzeugt oder verändert wurden“) eingefügt, mit dem jeder bestraft wird, der einer Person ungerechtfertigten Schaden zufügt, indem er Bilder, Video- oder Sprachaufnahmen, die mithilfe von KI-Systemen gefälscht oder verändert wurden und geeignet sind, eine Person in Bezug auf ihre Echtheit irrezuführen, mit Freiheitsstrafe von ein bis fünf Jahren überträgt, veröffentlicht oder anderweitig verbreitet. Die Straftat wird auf Antrag des Opfers und von Amts wegen nur dann verfolgt, wenn sie im Zusammenhang mit einer anderen Straftat steht, die von Amts wegen verfolgt oder gegen eine Person begangen wird, die aufgrund ihres Alters oder ihrer Gebrechen nicht in der Lage ist, oder gegen eine Behörde aufgrund ihrer Aufgaben. Artikel 26 Absatz 1 Buchstabe a fügt einen allgemeinen erschwerenden Umstand für Straftaten hinzu, die durch den Einsatz von KI-Systemen begangen wurden (Artikel 61 Absatz 11), und zwar nicht automatisch, sondern dann, wenn diese Systeme aufgrund ihrer Art oder Art der Nutzung heimtückische Mittel darstellten, die öffentliche oder private Verteidigung behinderten oder die Folgen der Straftat verschärften.²⁹ Dies veranschaulicht einen strukturellen Punkt: Die Kennzeichnungspflicht gemäß Artikel 50 Absatz 4 administrativ für Betreiber besteht neben nationalen kriminellen Verboten der Verbreitung schädlicher Deepfake.²⁹ Die institutionelle Seite folgte am 4. August 2026, als der Ministerrat zwei Gesetzesdekrete im Rahmen der Befugnisübertragung gemäß Artikel 24 des Gesetzes 132/2025 genehmigte: In der zweiten werden die Agenzia per la cybersicurezza nazionale (ACN) als wichtigste Marktüberwachungsbehörde und zentrale Anlaufstelle – und damit, sobald sie in Italien in Kraft ist, die Aufsichtsbehörde für Artikel 50 – und die Agenzia per l’Italia Digitale (AgID) als notifizierende Behörde benannt, wobei den Finanzaufsichtsbehörden und der Datenschutzbehörde besondere Befugnisse übertragen werden, und der Text wurde an die Verordnung (EU) 2026/1744 angepasst. Die Veröffentlichung in der Gazzetta Ufficiale war bis Mitte September 2026 nicht aufgezeichnet worden, so dass die Dekrete hier als genehmigt zitiert werden, noch nicht in Kraft.³⁰

Deutschland. Das Gesetz zur Durchführung der Verordnung (EU) 2024/1689, dessen Artikel 1 das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG) ist, wurde am 11. Juni 2026 vom Bundestag verabschiedet und am 10. Juli 2026 vom Bundesrat freigegeben; vom 22. Juli und verkündet am 28. Juli 2026 im Bundesgesetzblatt (BGBl. I 2026 Nr. 223), trat es am 29. Juli 2026 – vier Tage vor dem Geltungsbeginn von Artikel 50 – in Kraft. Sie macht die Bundesnetzagentur zur Marktüberwachungsbehörde für die Verordnung, soweit das Gesetz nichts anderes vorsieht (§ 2 Abs. 1) und zur zentralen Anlaufstelle nach Art. 70 Abs. 2 (§ 6 Abs. 1), wobei die BaFin Systeme überwacht, die unmittelbar mit der regulierten Finanztätigkeit verbunden sind, und die Landesbehörden die Systeme der staatlichen Stellen des Landes beaufsichtigt; Verstöße nach Artikel 99 Absätze 3 bis 5 werden im Rahmen der deutschen Ordnungswidrigkeitenregelung (§ 16) verfolgt, und gegen Behörden werden keine Geldbußen verhängt (§ 17 Absatz 2). Für Artikel 50 ist der praktische Punkt, dass in Deutschland die Aufsichts- und Sanktionsmechanismen am Tag des Beginns der Anwendung der Zölle existierten.³¹

7. Praktische Auswirkungen und offene Fragen

• Der Compliance-Kalender für Artikel 50 läuft nun über drei Daten, nicht über einen. Der digitale Omnibus zur KI hat seine Passage abgeschlossen, während sich diese Bestimmung noch in der Zeit vor der Anwendung befand: festgelegt vom Parlament in erster Lesung am 16. Juni 2026 (P10_TA(2026)0198), gebilligt vom Rat ohne Änderungen am 29. Juni 2026 (PE-CONS 30/26), unterzeichnet am 8. Juli und veröffentlicht als Verordnung (EU) 2026/1744 im ABl. L 2026/1744 vom 24. Juli 2026, in Kraft getreten am 27. Juli 2026 — am dritten Tag nach der Veröffentlichung und weniger als eine Woche vor Beginn der Anwendung von Artikel 50 selbst. Der praktische Kalender lautet daher: 27. Juli 2026, die Neufassung von Artikel 50 Absatz 7 und der neue Artikel 111 Absatz 4 treten in Kraft; 2. August 2026, Artikel 50 wird anwendbar, wobei die Zölle in den Absätzen 1, 3 und 4 vollständig beißen und kein Übergang stattfindet; 2. Dezember 2026, das Ende des viermonatigen Übergangszeitraums gemäß Artikel 111 Absatz 4 für Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden und bis dahin die maschinenlesbare Kennzeichnung gemäß Artikel 50 Absatz 2 nicht ausgefüllt haben müssen. In Erwägungsgrund 38 der Änderungsverordnung wird der Übergang als Zeit für die Anpassung „ohne Störung des Marktes“ erläutert – die Kommission hatte ursprünglich eine längere Start- und Landebahn bis zum 2. Februar 2027 vorgeschlagen. Der Inhalt der vier Transparenzpflichten bleibt unberührt. Die andere übergreifende Änderung des Pakets, die für synthetische Medien relevant ist – neue Verbote nicht einvernehmlicher Anwendungen für Intimbilder und sexuellen Missbrauch von Kindern, die ab dem 2. Dezember 2026 gelten –, erfolgt durch Artikel 5, nicht durch Artikel 50.^8,32,33 Für die Unterzeichner des Kodex gibt es ein viertes Datum, das jedoch nur als freiwillige Verpflichtung, nicht gesetzlich bindet: 2. Februar 2027, mit der Maßnahme 3.4 des Kodex ein Mindestmaß an Interoperabilität für Mechanismen zur Erkennung von Wasserzeichen vorschreibt – eine schrittweise Verpflichtung, die sowohl die Kommission als auch der Ausschuss nach eigenen Angaben überwachen werden: Die Kommission behält sich das Recht vor, bei fehlenden Fortschritten geeignete Maßnahmen in Erwägung zu ziehen, und der Ausschuss empfiehlt eine gezielte Überprüfung des Kodex in diesem Punkt oder die Annahme gemeinsamer Regeln gemäß Artikel 50 Absatz 7. Die Kommission hat ferner erklärt, dass das Amt für künstliche Intelligenz in Erwägung ziehen wird, mindestens alle zwei Jahre formelle Aktualisierungen des Kodex zu erleichtern.¹⁶ outlook

• Die Pflichten 50(2) und 50(4) sind getrennt und ersetzen einander nicht. Es handelt sich um zwei unterschiedliche Pflichten für zwei verschiedene Akteure, die zwei unterschiedlichen Zielgruppen dienen. Nach Artikel 50 Absatz 2 muss der Anbieter eine maschinenlesbare Markierung in den erzeugten Ausgang einbetten – ein Signal, das auf Erkennungssysteme und nachgeschaltete Werkzeuge abzielt. Gemäß Artikel 50 Absatz 4 muss der Arbeitgeber eines Deepfakes eine Offenlegung vornehmen, die das menschliche Publikum erkennen kann. Entladen eines entlädt das andere nicht: Das unsichtbare Wasserzeichen eines Anbieters erfüllt 50 Absatz 2, ist aber für sich genommen nicht die dem Publikum zugewandte Deepfake-Offenlegung, die 50 Absatz 4 vom Betreiber verlangt. Ein Betreiber, der mit Wasserzeichen versehene Ergebnisse veröffentlicht, kann daher nicht davon ausgehen, dass diese bereits mit 50(4) konform sind; es muss noch eine wahrnehmbare Offenbarung des künstlichen Ursprungs hinzugefügt werden. Analyse

• Ob die Offenlegung ihr Ziel erreicht, ist empirisch umstritten. Die Prämisse von Artikel 50 ist, dass die Information der Menschen die Täuschung reduziert. Die Verhaltensevidenz ist gemischt. In zwei vorregistrierten Experimenten (n≈4.976) verringerte die Kennzeichnung von Überschriften „KI-generiert“ sowohl die wahrgenommene Genauigkeit als auch die Bereitschaft, sie zu teilen – und zwar unabhängig davon, ob die Überschrift wahr oder falsch war und ob sie von einem Menschen oder von einer Maschine geschrieben wurde; die Wirkung war etwa dreimal geringer als die eines „falschen“ Etiketts und schien von Lesern angetrieben zu werden, die „KI-generiert“ als vollautomatisiert ohne menschliche Aufsicht (Altay & Gilardi, 2024).³⁴ Dies ist eine dokumentierte „KI-Aversion“, die harmlose oder nützliche KI-Inhalte bestrafen kann. Dennoch wird angenommen, dass KI-Autorenschaft kennzeichnet: In einer weiteren Studie akzeptierten 92 % der Teilnehmer das ihnen gezeigte Autorensiegel, doch machten die Etiketten keinen wesentlichen Unterschied zu Einstellungsänderungen, Genauigkeitsurteilen oder Teilen – die Offenlegung der KI-Autorenschaft erhöhte die Transparenz, ohne die überzeugende Wirkung des Inhalts abzuschwächen (Gallegos et al., 2025).³⁴ Auf der Interaktionsseite erscheint dieselbe Ambivalenz: Es wurde festgestellt, dass die Offenlegung, dass ein Service-Agent ein Chatbot ist, die Käufe reduziert, da Kunden den offenbarten Bot als weniger sachkundig und weniger einfühlsam einschätzen (Luo et al., 2019), während ein späteres Customer-Service-Experiment überhaupt keinen signifikanten Effekt der Offenlegung fand (van der Goot et al., 2024).⁶ Gleichzeitig können Menschen Deepfakes nicht zuverlässig ohne Hilfe erkennen (Diel et al., 2024; Köbis et al., 2021)⁵ oder erkennen maschinengeschriebene Selbstdarstellungen (Jakesch et al., 2022)⁶, weshalb gerade eine Offenlegungspflicht besteht. Die Spannung deutet darauf hin, dass die Offenlegung von how konzipiert ist (Artikel 50 Absatz 5 der „klaren und unterscheidbaren“ Norm¹²) ist genauso wichtig wie ob es gemacht wird. Dies sind Hintergrundbeobachtungen, keine Rechtsvorschläge. context

• Die Ausgestaltung von Artikel 50 Absatz 2 spiegelt wider, was die Erkennung kann und was nicht. In dem Absatz werden die Anbieter aufgefordert, dafür zu sorgen, dass die Ergebnisse ihres KI-Systems „in einem maschinenlesbaren Format gekennzeichnet und nachweisbar“ sind – die Kennzeichnung ist somit eine Eigenschaft der Ausgabe ab dem Zeitpunkt ihrer Erzeugung, die das System nach dem Lesen der Leitlinien spätestens beim Inverkehrbringen oder bei der Inbetriebnahme eingebaut haben muss –, anstatt die Überprüfung nachgelagerten Instrumenten zu überlassen, die vermuten, ob ein bestimmtes Artefakt synthetisch ist; Die Literatur zu diesen Tools erklärt warum.^12,3 Bewertungen von Post-hoc-Detektoren für KI-generierte Texte berichten, dass sie „weder genau noch zuverlässig“ sind, dass Paraphrasierung und Verschleierung sie stark verschlechtern und dass sie gegenüber neueren Modellen und gemischter Mensch-KI-Zeichnung deutlich schlechter abschneiden (Weber-Wulff et al., 2023; Walters, 2023; Hadra et al., 2026).³⁵ Das Markieren an der Quelle vermeidet dieses Ratespiel, ist aber nicht immun: Rekursives Paraphrasieren reduziert die Erkennungsraten selbst für Text mit Wasserzeichen, und Spoofing kann das menschliche Schreiben als maschinell geschrieben registrieren lassen (Sadasivan et al., 2023)³⁵, während Regenerationsangriffe unsichtbare Wasserzeichen auf Pixelebene von Bildern entfernen können (Zhao et al., 2024)¹⁵. Dies ist der empirische Rahmen für die gesetzliche Absicherung „soweit dies technisch machbar ist“ und für das Beharren der Leitlinien auf interoperablen, öffentlich zugänglichen Standards anstelle einer vorgeschriebenen Technik. Dies sind kontextbezogene Beobachtungen, keine Rechtssätze. context

• Die Beweise für die Offenlegung haben sich um drei Punkte geschärft, die sich auf das Design des Statuts beziehen. Erstens wurde im Journalismus – dem Bereich des zweiten Teils von 50(4) – bei einer systematischen Überprüfung von 47 Studien keine konsistente „KI-Strafe“ aus Herkunftshinweisen und meist null oder bedingte Auswirkungen der Offenlegung festgestellt, wobei die Skepsis konzentriert war, wenn eine Offenlegung eine vollständige Automatisierung ohne Rechenschaftspflicht oder Aufsichtsinformationen implizierte (Licenji & Hoxha, 2026); In einer Metaanalyse von 31 Studien wird immer noch eine kleine, aber erhebliche Glaubwürdigkeitsstrafe für Nachrichten mit KI-Kennzeichnung festgestellt (Kim et al., 2026), und Experimente zeigen, dass eine umfassende Offenlegung auf Prozessebene, in der redaktionelle Überprüfung und Quellen benannt werden, dies mildert (Haq, 2025) und dass eine erläuterte Politik zur Nutzung von KI das Vertrauen stärken kann (Waddell, 2026). Dieses Muster passt gut zu der gesetzlichen Entscheidung, die Pflicht aufzuheben, wo menschliche Überprüfung oder redaktionelle Kontrolle und redaktionelle Verantwortung existieren.³⁶ Zweitens ändert ein Label bei Deepfakes zuverlässig, was die Zuschauer über die Herkunft glauben, aber nicht unbedingt, was der Inhalt ihnen antut: in drei vorregistrierten Experimenten setzten die meisten Teilnehmer weiterhin auf ein gefälschtes „Geständnis“, auch nachdem ihnen gesagt wurde und sie glaubten, dass es gefälscht sei (Clark et al., 2026); das Etikettendesign und nicht die bloße Präsenz bestimmen das Vertrauen in das Etikett (Gamage et al., 2025); und allgemeine Warnungen vor Deepfakes führen dazu, dass Menschen auch echtes Filmmaterial nicht glauben (Ternovski et al., 2021). Aus diesem Grund sind die Spezifität und Platzierung der Offenlegung — das Symbol und die Platzierungsspezifikationen des Kodex sowie der „klare und unterscheidbare“ Standard von Artikel 50 Absatz 5¹² — so wichtig wie seine Existenz.³⁷ Drittens überleben Provenienzmetadaten als eigenständige Schicht die Verteilung oft nicht: Soziale Netzwerke transkodieren systematisch hochgeladene Dateien, was C2PA bricht (Ossowski et al., 2026); Twitter insbesondere Streifen C2PA auf Upload (Zewde et al., 2026, Preprint); und die aktuellen C2PA-Spezifikationen nicht ihren eigenen Sicherheitszielen entsprechen (Golaszewski et al., 2026, Preprint). Dies ist der technische Hintergrund für den Ausfall von mindestens zwei Kennzeichnungsebenen durch den Kodex, seine optionale forensische Erkennungsmaßnahme für Fälle, in denen Metadaten entfernt und Wasserzeichen entfernt wurden, und die Verpflichtung des Ausschusses, die Aufbewahrung von Etiketten auf Plattformen zu überwachen. Dies sind kontextuelle Beobachtungen, keine Rechtssätze.^38,16 context

• Die Interpretationslücken haben sich verringert, und die übrigen haben sich verschoben. Vor einem Jahr waren die offenen Fragen die gesetzlichen Schwellenwerte selbst: was es bedeutet, „die Eingabedaten (...) oder deren Semantik wesentlich zu verändern“ für die Bearbeitung von 50(2); wenn „offensichtlich künstlerischer (...) satirischer“ Inhalt für 50(4) beginnt; was als Angelegenheit von „öffentlichem Interesse“ und als angemessene „menschliche Überprüfung oder redaktionelle Kontrolle“ gilt; und welche Offenbarung „angemessen“ ist, um „die Darstellung oder den Genuss des Werks nicht zu beeinträchtigen“.¹² Die Leitlinien vom Juli 2026 beantworten alle diese Fragen auf der Ebene einer ersten Auslegung, und der Kodex bietet den Unterzeichnern eine gemeinsame technische Grundlage. Was übrig bleibt, ist von anderer Art. Zwei Beispiele. Die eingegrenzten Szenarien der Leitlinien für 50 Absatz 2 – geschlossene Produktumgebungen, industrielle und Business-to-Business-Anwendungen, kurzlebige Echtzeitinhalte – haben im Text des Absatzes keine ausdrückliche Entsprechung, was die Pflicht nur durch die technische Durchführbarkeit und die unterstützende Bearbeitung qualifiziert. ob es sich um eine Lektüre dieser Durchführbarkeitsnorm oder um eine Ergänzung handelt, können sich die Leitlinien nicht mit sich selbst zufrieden geben, da sie „unverbindlich“ sind und der Gerichtshof das letzte Wort hat.³ Und die Behandlung von Vermittlern, die ausschließlich für die Verbreitung zuständig sind, lässt eine Adressatenlücke: Wenn eine Plattform kein Betreiber ist und die Kennzeichnung des ursprünglichen Betreibers das erneute Hochladen nicht überlebt, zwingt Artikel 50 den Vermittler nicht zur Wiederherstellung – die Leitlinien können nur die Erhaltung fördern, und die Verpflichtung des Gesetzes über digitale Dienste, die Plattformen bindet, erreicht nur sehr große Plattformen und Suchmaschinen.³ Der Ausschuss hat die gleiche Lücke von der Aufsichtsseite aus festgestellt und sich verpflichtet zu überwachen, inwieweit die Kennzeichnungen in der Praxis bei der weiteren Verarbeitung, beim Vertrieb von Plattformen und bei Anwendungen durch Dritte beibehalten werden, und der Kodex richtet sich an sie durch Verpflichtungen seiner Unterzeichner und nicht durch Pflichten gegenüber Vermittlern: Anbieter verpflichten sich, mit der Wertschöpfungskette zusammenzuarbeiten, damit keine Marken entfernt werden, und Betreiber, mit den Diensten, über die sie Inhalte verbreiten, bestmöglich zusammenzuarbeiten, damit das Label mit ihm reist.¹⁶ analysis

• Die Enforcement-Architektur setzt sich immer noch ab, und daneben entsteht eine kriminelle Schicht. Drei Dinge passieren auf einmal. Erstens wird die Zuweisung auf Unionsebene wie folgt festgelegt: nationale Marktüberwachungsbehörden als Standard, das Amt für künstliche Intelligenz, bei dem das System auf einem KI-Modell mit allgemeinem Verwendungszweck desselben Anbieters aufbaut oder eine benannte sehr große Online-Plattform oder Suchmaschine darstellt oder in diese integriert ist, und der EDSB für die Organe der Union.^3,21 Zweitens ist die nationale Schicht darunter eher ungleichmäßig als gleichmäßig spät. Deutschland hatte die KI-MIG am 29. Juli 2026 in Kraft gesetzt, wobei die Bundesnetzagentur als Marktüberwachungsbehörde fungierte, bevor die Pflichten in Kraft traten; Der italienische Ministerrat billigte die Durchführungsverordnungen zur Benennung von ACN am 4. August 2026, zwei Tage danach; und der tschechische Anpassungsgesetzentwurf – der die ČTÚ bezeichnen und die inländische Straftat wegen Verstoßes gegen Artikel 50 begründen würde – war Mitte September 2026 immer noch nur ein Entwurf im Register des Regierungsamts (seit dem 26. Juni 2026), so dass in der Tschechischen Republik die Zölle sechs Wochen lang ohne die nationalen Aufsichts- und Sanktionsmechanismen galten, wobei ČTÚ nach eigenem Bekunden über seine künftige Rolle agierte. Drittens fügen mehrere Mitgliedstaaten nationale Straftaten für schädliche Deepfakes hinzu, die über die rein administrative Regelung des KI-Gesetzes hinausgehen: Italien durch das Gesetz 132/2025 (neuer Artikel 612quater des Strafgesetzbuchs) und die Tschechische Republik durch das Gesetz Nr. 270/2025 Sb. (neuer § 191a und erweiterter § 181 Absatz 2), in Kraft seit dem 1. Januar 2026 – die strafrechtliche Verfolgung ist im Gegensatz zur administrativen bereits wirksam. Für eine Organisation, die grenzüberschreitend tätig ist, ergibt sich ein Gesamtbild: eine EU-weite Verwaltungspflicht nach Artikel 50, die sich über nationale Aufsichtssysteme erstreckt, die zu unterschiedlichen Zeitpunkten in Kraft treten, und in einer wachsenden Zahl von Staaten nationale strafrechtliche Verbote des schädlichsten Deepfake-Verhaltens.^{25,26,28,29,31,30,27} outlook