← Zurück zum Blog

EU-KI-Verordnung Artikel 50: der vollständige Compliance-Leitfaden 2026 zur Kennzeichnung KI-generierter Inhalte

Am 2. August 2026 wird Artikel 50 der Verordnung (EU) 2024/1689 — der EU-KI-Verordnung — in allen 27 Mitgliedstaaten unmittelbar anwendbar. Ab diesem Datum müssen Anbieter und Betreiber von KI-Systemen synthetische Audio-, Video-, Bild- und Textinhalte in maschinenlesbaren Formaten kennzeichnen und für Deepfakes eine verschärfte Offenlegungspflicht anwenden. Das Zeitfenster für die Compliance ist kurz, die technischen Anforderungen sind nicht trivial und der Sanktionsrahmen reicht bis zu 3 % des weltweiten Jahresumsatzes. Dieser Leitfaden geht jeden Absatz von Artikel 50 durch, den mehrschichtigen Kennzeichnungsansatz, den der Verhaltenskodex vorschreibt, die strukturelle Verschiebung der Beweislast, die Artikel 50 für nicht gekennzeichnete Inhalte schafft (die Authentifizierungsumkehr), die Lücken, die Artikel 50 offenlässt, und wie kryptografische Herkunft sie schließt, sowie einen praxisnahen 90-Tage-Umsetzungsfahrplan für Rechtsabteilungen, Compliance-Verantwortliche und CTOs.

EU-KI-Verordnung Artikel 50 Synthetische Inhalte Kryptografische Herkunft

1. Zeitplan von Artikel 50 — was sich am 2. August 2026 ändert

Die Verordnung (EU) 2024/1689, die EU-KI-Verordnung, ist am 1. August 2024 in Kraft getreten. Die Verordnung hat mehrere über zweieinhalb Jahre verteilte Anwendungstermine, die Anbietern und Betreibern Zeit geben sollen, sich auf jede einzelne Pflicht vorzubereiten. Die meisten materiellen Pflichten, darunter Artikel 50 zur Transparenz synthetischer Inhalte, werden am 2. August 2026 anwendbar — vierundzwanzig Monate nach Inkrafttreten.

Ab diesem Datum müssen Anbieter und Betreiber von KI-Systemen, die auf dem EU-Markt in Verkehr gebracht oder innerhalb der EU verwendet werden, die in Artikel 50 festgelegten Kennzeichnungs- und Offenlegungspflichten erfüllen. Die Pflichten sind in allen 27 Mitgliedstaaten sowie im Europäischen Wirtschaftsraum unmittelbar anwendbar. Das Europäische KI-Büro, das innerhalb der Europäischen Kommission eingerichtet wurde, koordiniert Umsetzung und Durchsetzung, während die nationalen Behörden in jedem Mitgliedstaat die unmittelbare Aufsicht und Sanktionierung übernehmen.

Das Umsetzungsfenster wird durch einen Verhaltenskodex zur Transparenz KI-generierter Inhalte gestützt, der von unabhängigen Vorsitzenden und stellvertretenden Vorsitzenden ausgearbeitet wurde, die vom KI-Büro benannt wurden. Der erste Entwurf des Kodex wurde am 17. Dezember 2025 veröffentlicht. Ein zweiter Entwurf wird für März 2026 erwartet, der endgültige Kodex wird für Juni 2026 erwartet — kurz bevor Artikel 50 zur Anwendung kommt. Der Kodex ist freiwillig, aber Unterzeichner erhalten eine Vermutung der Konformität mit den Pflichten aus Artikel 50, was ihn zu einer faktischen Grundlinie für ernsthafte Compliance-Programme macht.

Die Europäische Kommission bereitet außerdem unverbindliche Leitlinien zu transparenten KI-Systemen vor, die im zweiten Quartal 2026 erwartet werden und den Umfang der rechtlichen Pflichten, die einschlägigen Rechtsdefinitionen, die Ausnahmen und damit zusammenhängende horizontale Fragen klären werden. Gemeinsam bilden der Verhaltenskodex und die Leitlinien den praktischen Rahmen, an dem sich Compliance-Verantwortliche und Rechtsberater orientieren werden, sobald Artikel 50 zur Anwendung kommt.

Dieser Leitfaden behandelt operativ vertieft, was Artikel 50 verlangt: die fünf Absätze des Artikels und was jeder einzelne fordert, wer als Anbieter oder Betreiber gilt (einschließlich der oft übersehenen Situation von Organisationen, die Modelle Dritter über eine API einbinden), den mehrschichtigen Kennzeichnungsansatz, den der Entwurf des Verhaltenskodex vorschreibt, die strukturelle Verschiebung der Beweislast, die Artikel 50 für Inhalte ohne jedes Herkunftssignal schafft, die Lücken, die Artikel 50 selbst nicht adressiert, und wie kryptografische Herkunft die Kennzeichnung ergänzt, den Sanktionsrahmen nach Artikel 99 sowie einen praxisnahen 90-Tage-Umsetzungsfahrplan. Organisationen, die originale Webinhalte mit kryptografischer Herkunft erfassen und versiegeln müssen — die vorgelagerte Schicht, die die nachgelagerte Kennzeichnung nach Artikel 50 ergänzt —, finden weitere Informationen in unserem vollständigen Leitfaden zu digitalen Beweissystemen und in unserer Analyse, warum Screenshots nicht genügen.

2. Anatomie von Artikel 50 — die Absätze (1) bis (5) erklärt

Artikel 50 steht in Kapitel IV der KI-Verordnung („Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“) und enthält fünf eigenständige operative Absätze. Jeder Absatz behandelt eine andere Transparenzsituation, und die Compliance setzt voraus, zu verstehen, welcher Absatz auf welches KI-System anwendbar ist und wie die entsprechende Pflicht in der Praxis aussieht.

Artikel 50 Abs. 1 — unmittelbare Interaktion mit natürlichen Personen

Artikel 50 Abs. 1 verpflichtet Anbieter von KI-Systemen, die zur unmittelbaren Interaktion mit natürlichen Personen bestimmt sind, diese Systeme so zu gestalten, dass die betroffenen natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht aus den Umständen und dem Kontext der Nutzung offensichtlich ist. Das klassische Beispiel ist der Chatbot — ein Kundenservice-Bot, ein virtueller KI-Assistent, eine automatisierte Empfehlungsschnittstelle für Inhalte. Die Pflicht trifft den Anbieter des Systems, also die Stelle, die es entwickelt und in Verkehr bringt. Der Grundgedanke ist Verbraucherschutz: Menschen sollten wissen, ob ihr Gegenüber in einer Interaktion ein Mensch oder eine KI ist, damit sie ihr Verhalten, ihre Erwartungen und die Preisgabe personenbezogener Daten entsprechend anpassen können.

Artikel 50 Abs. 2 — maschinenlesbare Kennzeichnung synthetischer Inhalte durch den Anbieter

Artikel 50 Abs. 2 ist das technische Herzstück der Verordnung für generative KI. Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die eingesetzten technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein und dabei den Stand der Technik, die Besonderheiten der verschiedenen Inhaltstypen und die Umsetzungskosten berücksichtigen. Die Pflicht gilt nicht für KI-Systeme, die eine unterstützende Funktion für die Standardbearbeitung ausüben, für Systeme, die die Eingabedaten oder deren Semantik nicht wesentlich verändern, oder soweit dies gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zulässig ist.

Artikel 50 Abs. 3 — Emotionserkennung und biometrische Kategorisierung

Artikel 50 Abs. 3 gilt für Betreiber von Emotionserkennungssystemen und Systemen zur biometrischen Kategorisierung. Der Betreiber muss die diesen Systemen ausgesetzten natürlichen Personen über deren Betrieb informieren und die personenbezogenen Daten im Einklang mit der DSGVO und sonstigem anwendbaren Recht der EU und der Mitgliedstaaten verarbeiten. Dieser Absatz ist enger gefasst als Abs. 2, gilt aber für eine wachsende Klasse von Anwendungen am Arbeitsplatz, im Einzelhandel und im Sicherheitsbereich. Er gilt nicht, soweit das System gesetzlich zur Aufdeckung, Verhütung oder Verfolgung von Straftaten zugelassen ist.

Artikel 50 Abs. 4 — Deepfake-Offenlegung

Artikel 50 Abs. 4 ist der Absatz zur Deepfake-Offenlegung. Betreiber von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die einen Deepfake darstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Die Offenlegung muss klar und erkennbar erfolgen, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung. Ein zweiter Satz in Artikel 50 Abs. 4 erweitert die Offenlegung auf KI-generierten Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, ein Mensch hat den Inhalt überprüft und die redaktionelle Verantwortung übernommen. Das ist der Absatz, der Redaktionen, Marketingteams und öffentliche Kommunikation am unmittelbarsten betrifft.

Artikel 50 Abs. 5 — horizontale Anforderungen und der Verhaltenskodex

Artikel 50 Abs. 5 legt die horizontalen Anforderungen fest, die über die Absätze 1, 2, 3 und 4 hinweg gelten. Die Informationen müssen den betroffenen natürlichen Personen klar und erkennbar bereitgestellt werden, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung, und müssen den geltenden Barrierefreiheitsanforderungen entsprechen. Der Absatz beauftragt außerdem das KI-Büro, die Ausarbeitung von Verhaltenskodizes auf Unionsebene zu fördern und zu erleichtern, um die wirksame Umsetzung der Pflichten zur Kennzeichnung und Erkennung künstlich erzeugter oder manipulierter Inhalte zu unterstützen. Dies ist die Rechtsgrundlage für den derzeit ausgearbeiteten Verhaltenskodex zur Transparenz KI-generierter Inhalte.

3. Wer ist verpflichtet — Anbieter, Betreiber und die API-Integrator-Falle

Der Anwendungsbereich von Artikel 50 erfasst die gesamte Wertschöpfungskette synthetischer Inhalte, aber die Pflichten verteilen sich unterschiedlich über diese Kette. Compliance-Verantwortliche müssen die Rolle ihrer Organisation genau bestimmen — eine falsch bestimmte Rolle ist eine häufige Ursache für fehlausgerichtete Compliance-Programme.

Anbieter von KI-Systemen mit allgemeinem Verwendungszweck

Ein Anbieter ist nach Artikel 3 Abs. 3 der KI-Verordnung die Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringt oder in Betrieb nimmt. Für die Zwecke von Artikel 50 Abs. 2 sind die erfassten Anbieter jene, deren Systeme synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen. Dazu gehören die großen Foundation-Model-Labore (OpenAI, Anthropic, Google DeepMind, Mistral, Meta usw.), aber auch eine lange Reihe feinabgestimmter und spezialisierter Systeme. Anbieter müssen Kennzeichnungsmechanismen auf Modell- oder Systemebene einbetten, sie über Dokumentation und APIs offenlegen und sicherstellen, dass die Kennzeichnung eine angemessene nachgelagerte Nachbearbeitung übersteht.

Betreiber — Unternehmen, die KI-Systeme mit Publikumsbezug betreiben

Ein Betreiber ist nach Artikel 3 Abs. 4 jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. Zu den von Artikel 50 erfassten Betreibern gehören Medienunternehmen, die KI-gestützte Artikel veröffentlichen, Marketingabteilungen, die Produktbilder erzeugen, Rechtsabteilungen, die synthetische Zusammenfassungen erstellen, öffentliche Verwaltungen, die Chatbots betreiben, und Unternehmen, die generative KI in kundenorientierte Produkte integrieren. Betreiber unterliegen den sichtbaren Offenlegungspflichten: den Nutzer darauf aufmerksam zu machen, dass er mit KI interagiert (Artikel 50 Abs. 1), Deepfakes zu kennzeichnen (Artikel 50 Abs. 4) und KI-generiertem Text von öffentlichem Interesse Offenlegungen hinzuzufügen (ebenfalls Artikel 50 Abs. 4).

Die API-Integrator-Falle

Es gibt eine Kategorie von Organisationen, die ihre Position häufig missversteht: Unternehmen, die generative KI-Modelle Dritter über APIs in ihre eigenen nutzerorientierten Produkte integrieren. Diese Organisationen trainieren keine eigenen Foundation-Modelle und glauben daher möglicherweise, dass die weitreichenden Pflichten aus Artikel 53 zu KI-Modellen mit allgemeinem Verwendungszweck für sie nicht gelten. Das ist in Bezug auf Artikel 53 zutreffend. Sie bleiben jedoch Anbieter eines KI-Systems nach Artikel 50 Abs. 2 — weil das KI-System, wie es in ihrem Produkt eingesetzt wird, synthetische Ausgaben erzeugt, die an Nutzer geliefert werden. Der API-Integrator muss daher sicherstellen, dass die über sein Produkt gelieferten Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als KI-generiert erkennbar sind. Das bedeutet in der Regel, die Kennzeichnungssignale des vorgelagerten Anbieters (Wasserzeichen, Metadaten, Content Credentials) zu bewahren und die eigenen sichtbaren Offenlegungen des Betreibers hinzuzufügen, wo Artikel 50 Abs. 1 oder Abs. 4 dies verlangt. Die Falle ist die falsche Annahme, dass „wir nutzen ja nur die OpenAI-API“ den Integrator von seinen Pflichten befreit. Das tut sie nicht.

Online-Plattformen und Sharing-Dienste

Online-Plattformen und Sharing-Dienste werden für Fragen der Inhaltsmoderation vorrangig durch das Gesetz über digitale Dienste (DSA) geregelt, überschneiden sich aber auf zwei Arten mit Artikel 50. Erstens: Wo eine Plattform generative Funktionen integriert (Metas KI-Bilderzeugung, X' Grok, TikToks KI-Tools), handelt die Plattform selbst sowohl als Anbieter als auch als Betreiber und muss beide Rollen wahrnehmen. Zweitens: Wo eine Plattform KI-generierte Inhalte verbreitet, die auf anderen Systemen erstellt wurden, hat sie Anreize — und wahrscheinlich sich abzeichnende Pflichten aus DSA-Durchführungsrechtsakten —, die von vorgelagerten Anbietern eingebetteten Kennzeichnungssignale sichtbar zu machen. Es sind Änderungen auf Plattformebene im Laufe des Jahres 2026 zu erwarten: Kennzeichnungen, Banner und visuelle Marker, die synthetische Inhalte als Standard-Nutzererlebnis kenntlich machen.

4. Maschinenlesbare Kennzeichnung — der mehrschichtige Ansatz

Artikel 50 Abs. 2 verlangt eine Kennzeichnung, die „maschinenlesbar“ und „als künstlich erzeugt oder manipuliert erkennbar“ ist. Der erste Entwurf des Verhaltenskodex zur Transparenz KI-generierter Inhalte, veröffentlicht am 17. Dezember 2025, bezieht eine ausdrückliche Position dazu, was dies in technischer Hinsicht bedeutet. Der Kodex verwirft die Vorstellung, dass eine einzelne technische Lösung Artikel 50 über alle Inhaltstypen und Anwendungsfälle hinweg erfüllen kann. Stattdessen fördert er einen mehrschichtigen Ansatz, der mehrere unterschiedliche Kennzeichnungstechniken kombiniert.

Sichtbare Offenlegungsmarker

Sichtbare Offenlegungsmarker sind für Menschen lesbare Signale, dass der Inhalt KI-generiert ist. Bei Bildern und Videos bedeutet dies in der Regel ein sichtbares Wasserzeichen, eine Kennzeichnung in der Ecke oder eine Bildunterschrift. Bei Text bedeutet es einen sichtbaren Hinweis in der Benutzeroberfläche, die den Inhalt anzeigt. Bei Audio bedeutet es ein kurzes akustisches Signal am Anfang der Datei. Sichtbare Marker sind einfach umzusetzen und für Endnutzer sofort verständlich, aber sie sind auch leicht zu entfernen — ein Screenshot kann eine Eckkennzeichnung abschneiden, eine erneute Kodierung kann ein Video-Wasserzeichen entfernen und ein Kopieren-Einfügen kann einen Texthinweis verlieren. Sichtbare Marker dienen daher als eine Schicht in einem gestaffelten Verteidigungsansatz, nicht als Gesamtlösung.

Maschinenlesbare Metadaten

Maschinenlesbare Metadaten betten Signale in die Datenstrukturen der Datei ein, wo automatisierte Werkzeuge sie erkennen können, menschliche Nutzer jedoch in der Regel nicht. EXIF-Metadaten für Bilder, ID3-Tags für Audio, MOV/MP4-Metadaten für Video und strukturierte Header für textbasierte Formate können alle KI-generiert-Kennzeichnungen tragen. Die Spezifikation der Coalition for Content Provenance and Authenticity (C2PA) ist der führende Industrierahmen für maschinenlesbare Herkunftsmetadaten, und es wird breit erwartet, dass sie zu einer primären technischen Referenz für die Umsetzung von Artikel 50 wird. Metadaten sind haltbarer als sichtbare Marker, können aber bei Dateikonvertierung, Bildschirmaufnahme oder erneutem Hochladen auf Plattformen dennoch entfernt werden.

Kryptografische Wasserzeichen und Content Credentials

Kryptografische Wasserzeichen und Content Credentials betten Signale in die eigentlichen Inhaltsdaten ein — die Pixelwerte, die Audiowellenform, die Text-Token-Sequenz — mithilfe von Techniken, die gängige Transformationen wie Komprimierung, Größenänderung oder teilweise Bearbeitung überstehen. Diese Methoden sind technisch am robustesten, aber auch am komplexesten umzusetzen und am ehesten bei aggressiven Transformationen zu scheitern. Der Verhaltenskodex erwartet von Anbietern, mindestens eine Form robuster kryptografischer Kennzeichnung zusätzlich zu Metadaten umzusetzen, in Anerkennung dessen, dass keine Methode alle Angriffe übersteht, Kombinationen jedoch die Kosten für die Entfernung der Kennzeichnung erheblich erhöhen.

Robustheit und der Stand der Technik

Artikel 50 Abs. 2 verweist ausdrücklich auf den „allgemein anerkannten Stand der Technik“ als Maßstab für die technischen Lösungen, die Anbieter verwenden müssen. Dies ist ein bewusst bewegliches Ziel — was 2026 als robuster Stand der Technik gilt, wird 2028 und erneut 2030 ein anderes sein, während die Wettläufe bei der Erkennung voranschreiten. Es wird erwartet, dass der Verhaltenskodex auf konkrete technische Normen verweist (wahrscheinlich in Entwicklung bei ISO, ITU-T und dem C2PA-Konsortium) und seine Verweise regelmäßig aktualisiert. Anbieter und Betreiber sollten ihre Compliance-Architekturen mit dieser Entwicklung im Blick gestalten: Kennzeichnungssysteme müssen austauschbar sein, wenn sich der Stand der Technik verschiebt.

5. Deepfake-Offenlegung nach Artikel 50 Abs. 4 — die verschärfte Pflicht

Artikel 50 Abs. 4 hebt Deepfakes für eine verschärfte Offenlegungspflicht hervor. Der Absatz gilt für Betreiber — die Organisationen, die den Deepfake-Inhalt veröffentlichen oder verbreiten — und die Pflicht ist anspruchsvoller als die allgemeine Kennzeichnungspflicht nach Abs. 2.

Definition des Deepfakes in der KI-Verordnung

Artikel 3 Abs. 60 der KI-Verordnung definiert einen Deepfake als einen durch KI erzeugten oder manipulierten Bild-, Audio- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Die Definition ist funktional statt technologisch: Jeder KI-generierte Inhalt, der plausibel mit einer echten Aufnahme eines echten Gegenstands verwechselt werden könnte, ist nach der KI-Verordnung ein Deepfake, unabhängig von der zugrunde liegenden Technik. Dazu gehören die Bildsynthese mit Diffusionsmodellen, das Klonen von Stimmen, das Face-Swapping in Videos, die Ganzkörper-Videosynthese und aufkommende multimodale Erzeugungsmethoden.

Die Offenlegungspflicht — klar, erkennbar, rechtzeitig

Artikel 50 Abs. 4 verlangt vom Betreiber, offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Die Offenlegung muss „klar und erkennbar“ sein — das heißt, dass ein gewöhnlicher Nutzer, der auf den Inhalt trifft, die Offenlegung ohne Verwirrung oder Mühe erkennen kann. Die Offenlegung muss „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung“ erfolgen — das heißt, dass ein Nutzer die Offenlegung vor oder gleichzeitig mit dem Antreffen des Deepfake-Inhalts sehen muss. Sichtbare Marker (ein Banner, eine Eckkennzeichnung, eine Bildunterschrift) sind die typische Umsetzung. Die horizontalen Anforderungen aus Artikel 50 Abs. 5 verstärken dies: Klarheit, Erkennbarkeit, Barrierefreiheit, Rechtzeitigkeit.

KI-generierter Text zu Angelegenheiten von öffentlichem Interesse

Der zweite Satz von Artikel 50 Abs. 4 erweitert die Offenlegungspflicht auf Betreiber von KI-Systemen, die Text erzeugen oder manipulieren, der mit dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. „Öffentliches Interesse“ ist ein weites Konzept, das politische, wirtschaftliche, soziale, wissenschaftliche, ökologische und andere Angelegenheiten von allgemeiner gesellschaftlicher Bedeutung umfasst. KI-gestützter Journalismus, KI-generierte Forschungszusammenfassungen, KI-verfasste politische Kommentare und KI-erzeugte Inhalte zu öffentlichen Angelegenheiten fallen alle in den Anwendungsbereich. Die Ausnahme greift, wenn eine natürliche Person den Inhalt überprüft und die redaktionelle Verantwortung übernommen hat — in diesem Fall wird die KI-Unterstützung zu einem redaktionellen Werkzeug statt zu einer Publikationsquelle, und die Offenlegungspflicht gilt nicht.

Auswirkungen auf Reputation und Redaktion

Obwohl Artikel 50 Abs. 4 technisch weniger eingreifend ist als die Wasserzeichenpflicht nach Abs. 2, hat er erhebliche Auswirkungen auf Reputation und Redaktion. Eine Medienorganisation, die KI-generierte Inhalte ohne ordnungsgemäße Offenlegung veröffentlicht, sieht sich nicht nur regulatorischen Sanktionen ausgesetzt, sondern auch einem Vertrauensverlust der Leser, wenn die KI-Natur später aufgedeckt wird. Umgekehrt setzt eine Medienorganisation, die eine KI-Beteiligung ehrlich offenlegt, ein klares Signal redaktioneller Integrität, das sie von weniger sorgfältigen Wettbewerbern abhebt. Die Compliance-Haltung und die Markenhaltung fallen zusammen: eine klare, vollständige und rechtzeitige Deepfake-Offenlegung ist sowohl eine rechtliche Pflicht als auch ein Wettbewerbsvorteil.

6. Ausnahmen und Grenzfälle

Artikel 50 enthält gezielte Ausnahmen, die Compliance-Verantwortliche sorgfältig zuordnen sollten. Die Ausnahmen sind eng, aber wichtig — sich auf eine Ausnahme zu berufen, die nicht anwendbar ist, ist ein schneller Weg zu einer Sanktionsexposition, während das Übersehen einer anwendbaren Ausnahme unnötige Compliance-Lasten schafft.

Unterstützende Funktionen für die Standardbearbeitung

Artikel 50 Abs. 2 gilt nicht, wenn das KI-System eine unterstützende Funktion für die Standardbearbeitung ausübt oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändert. Diese Ausnahme erfasst Werkzeuge wie Grammatikprüfungen, Rechtschreibprüfungen, einfache Stilvorschläge und routinemäßige Bildverbesserung — Funktionen, bei denen KI die Qualität von durch Menschen verfassten Inhalten verbessert, ohne deren inhaltliche Bedeutung zu verändern. Die Schwelle des „wesentlichen Veränderns“ ist bewusst unscharf und wird im Laufe der Zeit durch die Leitlinien und die Rechtsprechung geklärt. Als praktische Compliance-Heuristik gilt: Wenn die KI-Ausgabe als eigenes Werk des menschlichen Autors präsentiert werden könnte, ohne das Publikum über die Art der Unterstützung zu täuschen, greift wahrscheinlich die Ausnahme für unterstützende Funktionen. Wenn die KI-Ausgabe Inhalte hinzufügt, die der Mensch nicht verfasst hat, oder die Bedeutung erheblich verändert, gelten die Kennzeichnungspflichten.

Offensichtlich künstlerische, satirische oder fiktionale Inhalte

Artikel 50 Abs. 4 sieht vor, dass für Deepfakes, die Teil eines offensichtlich künstlerischen, satirischen, fiktionalen oder analogen Werks sind, die Offenlegungspflicht so angepasst wird, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Die Offenlegung muss weiterhin bestehen, jedoch in einer Form und an einer Stelle, die den künstlerischen oder ausdrucksstarken Wert nicht schmälert. Die Ausnahme ist eng: Sie gilt, wo der künstlerische, satirische oder fiktionale Charakter für einen vernünftigen Betrachter offensichtlich ist. Ein Deepfake, der als Nachrichtenbericht getarnt ist, eine manipulierte politische Aussage oder ein zur Täuschung konstruierter Inhalt qualifizieren sich nicht, unabhängig von einer subjektiven kreativen Absicht. Redaktionelle Karikaturen, animierte Parodien und klar gerahmte satirische Werke qualifizieren sich in der Regel. Die Leitlinien werden voraussichtlich weitere Beispiele und Tests liefern.

Strafverfolgung und strafrechtliche Ermittlungen

Artikel 50 Abs. 2 gilt nicht für KI-Systeme, soweit dies gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zulässig ist. Dies nimmt bestimmte Anwendungen im Bereich der nationalen Sicherheit und Strafverfolgung von der allgemeinen Kennzeichnungspflicht aus. Die Ausnahme soll Szenarien adressieren, in denen eine Kennzeichnungspflicht die operative Wirksamkeit einer zulässigen Strafverfolgungsnutzung beeinträchtigen würde. Der Anwendungsbereich ist eng und an konkrete gesetzliche Ermächtigungen gebunden; kommerzielle KI-Systeme oder solche mit allgemeinem Verwendungszweck werden nicht schon dadurch ausgenommen, dass ihre Ausgaben theoretisch in einer Ermittlung verwendet werden könnten.

Grenzüberschreitende Grenzfälle

Artikel 50 gilt wie der Rest der KI-Verordnung für KI-Systeme, die auf dem EU-Markt in Verkehr gebracht werden oder deren Ausgaben innerhalb der Union verwendet werden. Ein Anbieter aus einem Nicht-EU-Land, der sein System EU-Nutzern zugänglich macht, fällt in den Anwendungsbereich. Ein Betreiber aus einem Nicht-EU-Land, der synthetische Inhalte in die EU verbreitet, fällt ebenfalls in den Anwendungsbereich, wenn die Inhalte EU-Nutzer erreichen. Die grenzüberschreitende Reichweite ähnelt dem DSGVO-Modell und entfaltet eine erhebliche extraterritoriale Wirkung. Compliance-Verantwortliche in multinationalen Organisationen sollten ihre Verbreitungswege für Inhalte abbilden und die Compliance mit Artikel 50 für alle Inhalte umsetzen, die ein EU-Publikum erreichen können, unabhängig davon, wo sie erzeugt werden.

7. Die Authentifizierungsumkehr — die Beweislast verschiebt sich

Artikel 50 führt eine strukturelle Veränderung der Beweislage ein, die über die unmittelbaren Compliance-Pflichten hinausgeht. Diese Veränderung lässt sich am besten als Authentifizierungsumkehr beschreiben: eine Verschiebung dessen, wo die Beweislast liegt, wenn die Echtheit von Inhalten bestritten wird. Das Verständnis dieser Verschiebung ist wesentlich für Organisationen, die digitale Inhalte in jedem Kontext handhaben, in dem die Echtheit später angefochten werden könnte — Rechtsstreitigkeiten, Journalismus, behördliche Eingaben, Markenschutz, interne Ermittlungen.

Die Beweiswelt vor Artikel 50

Bevor Artikel 50 in Kraft tritt, lautete die beweisrechtliche Grundannahme für digitale Inhalte: Ein Inhalt wird als das vermutet, was er zu sein scheint, und eine Partei, die die Echtheit anficht, trägt die Last, Beweise für eine Manipulation vorzulegen. Eine in einem Rechtsstreit vorgelegte Fotografie gilt als Fotografie, sofern die Gegenseite nicht nachweisen kann, dass sie bearbeitet wurde. Ein Video einer Person des öffentlichen Lebens gilt als echt, sofern nicht jemand Beweise für eine Manipulation vorlegt. Der Ankläger trägt die Beibringungslast, und die meisten Echtheitsanfechtungen scheitern, weil das Beibringen von Manipulationsbeweisen in modernen digitalen Pipelines technisch anspruchsvoll und forensisch unsicher ist.

Die Beweiswelt nach Artikel 50

Ab dem 2. August 2026 wird die Rechtslandschaft der Mitgliedstaaten zunehmend die Annahme umfassen, dass alle KI-generierten Inhalte maschinenlesbare Herkunftsmarker tragen. Inhalte, die Marker tragen, weisen sich selbst als KI-generiert aus. Inhalte, die keine Marker tragen, werden strukturell mehrdeutig. Sie könnten sein: (a) echte, von Menschen erzeugte Inhalte oder (b) KI-generierte Inhalte, aus denen die Marker entfernt wurden. Das Entfernen der Marker ist selbst ein Verstoß gegen Artikel 50 (Löschung verpflichtender Transparenzinformationen), und daher wirft jeder Inhalt ohne Marker die Möglichkeit eines Transparenzverstoßes auf. Der Ankläger muss keine Manipulationsbeweise mehr beibringen — das bloße Fehlen von Herkunftsmarkern genügt, um begründete Zweifel zu wecken.

Was dies für Originale bedeutet

Die strukturelle Folge ist, dass Inhalte ohne jedes Herkunftssignal beweisrechtlich verdächtig werden. Eine originale Fotografie, die von einem Journalisten aufgenommen wurde, trägt keinen Artikel-50-Marker, weil Artikel 50 nur KI-generierte Inhalte betrifft. Unter der neuen beweisrechtlichen Grundlinie ist das Fehlen eines positiven KI-Markers jedoch nicht mehr entscheidend. Die Gegenpartei kann argumentieren: „der Inhalt trägt keine KI-Marker, weil sie unter Verstoß gegen Artikel 50 entfernt wurden, um den synthetischen Ursprung zu verschleiern.“ Um das Original zu verteidigen, benötigt die beibringende Partei ein positives Herkunftssignal — einen kryptografischen Nachweis, der belegt, dass der Inhalt zu einem bestimmten Zeitpunkt von einem bestimmten menschlichen Bediener aus einer realen Quelle erfasst wurde, in einer Umgebung, die nicht zur KI-Erzeugung fähig war. Genau das liefern Plattformen für kryptografische Herkunft. Weitere Einzelheiten zur zugrunde liegenden Methodik finden Sie in unserem vollständigen Leitfaden zur ISO-27037-konformen Erfassung von Webbeweisen und in unserer Analyse, warum Screenshots allein nicht genügen.

Die Asymmetrie zwischen Anbietern und echten Inhalten

Die Authentifizierungsumkehr schafft eine Asymmetrie, die Compliance-Verantwortliche erkennen sollten. Anbieter von KI-Systemen gewinnen Schutz durch die Verordnung: Ihre Inhalte sind gekennzeichnet, und die Kennzeichnung schützt sie vor Anfechtungen wegen falscher Zuordnung (das System kann beweisen, was es erzeugt hat und was nicht). Erzeuger echter, originaler Inhalte werden von der Verordnung selbst ohne symmetrischen Schutz gelassen — Artikel 50 schafft weder eine Pflicht noch einen Mechanismus, um Originale als echt zu kennzeichnen. Die Asymmetrie muss durch unabhängige technische Mittel adressiert werden, nämlich durch kryptografische Herkunft, die zum Zeitpunkt der Erfassung auf Originale angewendet wird. Ohne eine solche Herkunft befinden sich Originale in jedem künftigen Echtheitsstreit in einem strukturellen Nachteil gegenüber KI-Ausgaben.

8. Die Herkunftslücke — was Artikel 50 nicht abdeckt

Artikel 50 behandelt eine spezifische Frage: wie KI-generierte Inhalte zu kennzeichnen sind, damit das Publikum weiß, dass sie künstlich sind. Dies ist für die Transparenz notwendig, lässt jedoch eine erhebliche Reihe verwandter Fragen unbeantwortet. Compliance-Verantwortliche und Rechtsberater sollten diese Herkunftslücke sorgfältig abbilden, denn in dieser Lücke ereignen sich die meisten realen Echtheitsstreitigkeiten über Inhalte.

Was Artikel 50 abdeckt

Artikel 50 deckt die Herkunftsrichtung von der KI zum Publikum ab: Er verlangt von KI-Systemen und ihren Betreibern, synthetische Inhalte so zu kennzeichnen, dass das Publikum sie erkennen kann. Dies löst das Problem „ist dieser Inhalt KI-generiert?“ — zumindest, wenn die Kennzeichnung intakt ist und das Publikum aufmerksam ist. Es ist eine nachgelagerte Transparenzschicht, die auf KI-Ausgaben angewendet wird.

Was Artikel 50 nicht abdeckt

Artikel 50 deckt die Richtung von echten Inhalten zu künftigen Streitigkeiten nicht ab. Konkret behandelt er nicht: wie man beweist, dass eine originale Fotografie, ein Video oder ein Dokument echt ist; was geschieht, wenn die Kennzeichnung eines KI-generierten Inhalts entfernt wird; wie man echte Originalinhalte von KI-generierten Inhalten mit entfernten Markern unterscheidet; wie man echte Inhalte gegen Deepfake-Gegenbehauptungen verteidigt („das echte Video der Führungskraft ist der Deepfake; der Deepfake ist das echte Video“); wie man Echtheitsansprüche über jahrzehntelange Aufbewahrungshorizonte verankert; und wie man mit der Herkunft von Inhalten umgeht, die dem Anwendungsdatum von Artikel 50 vorausgehen. Jede dieser Fragen ist für ernsthafte Compliance- und Prozessarbeit von Bedeutung, und keine von ihnen wird durch Artikel 50 allein beantwortet.

Warum die Lücke in der Praxis wichtig ist

Die Herkunftslücke ist wichtig, weil die meisten Echtheitsstreitigkeiten mit hohem Einsatz keine „ist das KI-generiert“-Streitigkeiten sind — es sind „ist das echt, und kannst du es beweisen“-Streitigkeiten. Ein Verleumdungsfall dreht sich darum, ob eine bestimmte Aussage tatsächlich getätigt wurde. Ein Versicherungsanspruch dreht sich darum, ob ein bestimmter Schaden zu einem bestimmten Zeitpunkt bestand. Ein Fall geistigen Eigentums dreht sich darum, ob ein bestimmtes Design an einem bestimmten Datum auf einer bestimmten Website erschien. Ein Strafverfahren dreht sich darum, ob eine bestimmte Online-Kommunikation zwischen bestimmten Parteien stattfand. In jedem Szenario lautet die Frage nicht, ob ein Inhalt KI-generiert ist, sondern ob der vorgelegte echte Inhalt das ist, was er zu sein behauptet. Artikel 50 behandelt diese Fragen nicht, und ihre Beantwortung erfordert eine eigene Herkunftsschicht, die bei der Erfassung des ursprünglichen Inhalts angewendet wird.

Die Lücke mit kryptografischer Herkunft schließen

Das Schließen der Herkunftslücke erfordert eine vorgelagerte Herkunft, die im Moment der Erfassung auf Originale angewendet wird. Zu den technischen Komponenten gehören: kryptografisches Hashing (in der Regel SHA-256) des ursprünglichen Inhalts zum Zeitpunkt der Erfassung; ein Beweiskette-Protokoll, das dokumentiert, wer den Inhalt erfasst hat, wann, mit welchem Werkzeug, in welcher Umgebung; qualifizierte elektronische Zeitstempel nach den Artikeln 41 und 42 eIDAS, die eine gesetzliche Vermutung der Richtigkeit von Datum und Uhrzeit in der gesamten EU begründen; ein unabhängiger Zeitanker (etwa Bitcoin OpenTimestamps), der institutionelle Unabhängigkeit von jedem einzelnen Vertrauensdiensteanbieter bietet; und ein offener Verifizierungsendpunkt, der es jeder Partei ermöglicht, den Beweis später zu prüfen. Diesen vollständigen Stapel liefern Plattformen für kryptografische Herkunft. Die Artikel-50-Transparenz für synthetische Inhalte und die kryptografische Herkunft für Originale sind einander ergänzende Schichten — gemeinsam schützen sie sowohl vor nicht offengelegter KI-Manipulation als auch vor bestrittener Echtheit von Originalen.

9. Herkunft versus Erkennung — warum erkennungsbasierte Verteidigungen scheitern

Angesichts der Herausforderung, KI-generierte von echten Inhalten zu unterscheiden, ziehen Organisationen manchmal erkennungsbasierte Ansätze in Betracht: Werkzeuge, die Inhalte analysieren und vorhersagen, ob sie wahrscheinlich KI-generiert sind. Diese Werkzeuge haben in manchen Arbeitsabläufen eine Rolle, sind aber als primäre Verteidigung gegen Streitigkeiten über synthetische Inhalte strukturell unzureichend. Zu verstehen, warum, ist für jedes Compliance-Programm wesentlich.

Der Wettlauf der Erkennung

KI-Erzeugungsmodelle und KI-Erkennungsmodelle stehen in einem permanenten Wettlauf. Jede Generation von Erkennungsmethoden löst eine entsprechende Generation von Erzeugungsmethoden aus, die der Erkennung entgehen. Die Erkennungsfähigkeit, die 2023 funktionierte, wurde weitgehend durch 2024 trainierte Erzeugungsmodelle überwunden. Die Erkennungsfähigkeit von 2025 wird durch die Erzeugung von 2026 herausgefordert. Dies ist keine vorübergehende Phase, die sich auflösen wird — es ist die strukturelle Dynamik generativer KI. Erkennungsbasierte Verteidigungen haben daher eine inhärente Haltbarkeitsdauer: Ein Echtheitsstreit, der drei Jahre nach der ursprünglichen Erfassung entsteht, kann sich nicht zuverlässig auf Erkennungsmethoden stützen, die zum Zeitpunkt der Erfassung dem Stand der Technik entsprachen, weil sich die Erzeugungsmethoden weiterentwickelt haben.

Falsch-Positive und Falsch-Negative

Erkennungsmethoden erzeugen sowohl Falsch-Positive (echte Inhalte werden als KI-generiert eingestuft) als auch Falsch-Negative (KI-generierte Inhalte werden als echt eingestuft). Beide sind in Beweiskontexten problematisch. Ein Falsch-Positiv bei einer echten, in einem Rechtsstreit vorgelegten Fotografie kann zu ihrem Ausschluss führen. Ein Falsch-Negativ bei einem als Beweismittel vorgelegten Deepfake kann zu einem Fehlurteil führen. Die Fehlerraten selbst der besten Erkennungsmethoden, gemessen an aktuellen Erzeugungsmodellen, sind für Beweisarbeit zu hoch, bei der der Maßstab in der Regel „jenseits vernünftigen Zweifels“ oder das Überwiegen der Beweise ist.

Herkunft als kryptografische Gewissheit

Kryptografische Herkunft erzeugt eine andere Art von Beweis. Sie analysiert den Inhalt nicht, um vorherzusagen, ob er KI-generiert ist. Sie erfasst im Moment der Erfassung einen unveränderlichen kryptografischen Fingerabdruck des Inhalts zusammen mit einem verifizierbaren Zeitstempel und einer Beweiskette. Der Verifizierungsprozess vergleicht später den Fingerabdruck des vorgelegten Inhalts mit dem kryptografischen Nachweis, mit mathematischer Gewissheit — entweder stimmt der Inhalt mit dem Nachweis überein (echt und seit der Erfassung unverändert) oder nicht (seit der Erfassung hat sich etwas geändert). Die Verifizierung hängt nicht vom Stand irgendeiner KI-Erzeugungs- oder -Erkennungstechnologie ab. Es handelt sich um ein geschlossenes kryptografisches System, dessen Sicherheitseigenschaften nicht erodieren, während sich die KI-Fähigkeiten weiterentwickeln.

Das C2PA-Prinzip — „nicht erkennen, sondern verifizieren“

Die Coalition for Content Provenance and Authenticity (C2PA), der führende Industrierahmen für Inhaltsherkunft, formuliert dieses Prinzip unmittelbar: Das Ziel ist nicht, Manipulation zu erkennen, sondern verifizierbare Herkunftsinformationen bereitzustellen, die es dem Publikum ermöglichen, die Echtheit von Inhalten zu beurteilen. Herkunft verschiebt die Frage von „können wir feststellen, ob dies gefälscht ist“ (eine schwierige und zunehmend aussichtslose Frage) hin zu „können wir verifizieren, was wir über den Ursprung dieses Inhalts wissen“ (eine handhabbare kryptografische Frage). Für die Compliance mit Artikel 50 und die breitere Arbeit an der Inhaltsechtheit ist der Herkunftsansatz haltbarer, transparenter und stärker an rechtsstaatlichen Beweismaßstäben ausgerichtet als erkennungsbasierte Alternativen.

10. C2PA — der Industriestandard für Inhaltsherkunft

Die Coalition for Content Provenance and Authenticity (C2PA) ist die führende Industrieinitiative für Standards zur Inhaltsherkunft. 2021 als gemeinsames Projekt der Content Authenticity Initiative (Adobe-geführt) und Project Origin (Microsoft-BBC-NYT-geführt) gegründet, veröffentlicht C2PA eine technische Spezifikation zum Einbetten kryptografischer Herkunftssignale in Mediendateien. Compliance-Verantwortliche, die sich auf Artikel 50 vorbereiten, sollten C2PA auf konzeptioneller Ebene verstehen — es wird breit erwartet, dass es zu einer primären technischen Referenz für den Verhaltenskodex und die Leitlinien wird.

Wie C2PA funktioniert

C2PA definiert ein strukturiertes Manifest, das in Mediendateien (Bilder, Video, Audio und PDF-Dokumente) eingebettet wird und Herkunftsinformationen trägt. Das Manifest enthält Aussagen über den Inhalt (Erfassungsgerät, angewandte Bearbeitungen, KI-Beteiligung, falls vorhanden), die jeweils kryptografisch von dem Akteur signiert werden, der die Aussage trifft. Ein C2PA-Manifest zum Erfassungszeitpunkt aus einer Kamera bestätigt, dass das Bild zu einem bestimmten Zeitpunkt von dieser Kamera stammt. Ein C2PA-Manifest zum Bearbeitungszeitpunkt bestätigt, dass bestimmte Bearbeitungen vorgenommen wurden. Ein KI-Erzeugungsmanifest bestätigt, dass der Inhalt KI-generiert ist, und benennt das System, das ihn erzeugt hat. Die Manifestkette ist kryptografisch signiert, wodurch Manipulationen erkennbar werden.

Verbreitung in der Industrie

C2PA hat erhebliche Unterstützung aus der Industrie. Zu den Mitgliedern des Lenkungsausschusses gehören Adobe, Microsoft, Intel, Sony, BBC, die New York Times, Truepic, Nikon, Canon, Leica, Fujifilm, ARM und OpenAI. Große Kamerahersteller (Sony, Nikon, Canon, Leica) haben C2PA-kompatible Firmware ausgeliefert oder angekündigt. Adobe hat C2PA in Photoshop, Lightroom und Adobe Express integriert. Microsoft hat C2PA in Bing Image Creator integriert. OpenAI hat C2PA in die Ausgaben von DALL·E und Sora integriert. Große Redaktionen (New York Times, BBC, Reuters) führen C2PA-Pilotprojekte in redaktionellen Arbeitsabläufen durch. Die Breite der Verbreitung macht C2PA 2026 zu einem faktischen Industriestandard.

C2PA und die Ausrichtung an Artikel 50

C2PA fügt sich natürlich in die Anforderungen von Artikel 50 Abs. 2 ein. Die Spezifikation bietet maschinenlesbare Kennzeichnung, unterstützt die Erkennung KI-generierter Inhalte, ist über Implementierungen hinweg interoperabel und robust gegenüber vielen gängigen Transformationen (wenn auch nicht allen — ein Screenshot eines C2PA-zertifizierten Bildes verliert das Manifest). Anbieter, die C2PA in ihre generativen KI-Ausgaben integrieren, erfüllen einen erheblichen Teil der Kennzeichnungsanforderungen aus Artikel 50 Abs. 2 von Haus aus. Es wird breit erwartet, dass der Verhaltenskodex zur Transparenz KI-generierter Inhalte auf C2PA als anerkannte technische Lösung verweist, wobei er wahrscheinlich auch alternative Implementierungen zulässt, um keinen einzelnen Industriestandard vorzuschreiben.

Grenzen von C2PA — keine gesetzliche Vermutung

Die Grenze von C2PA aus einer europäischen Compliance-Perspektive besteht darin, dass es keine gesetzliche Vermutung der Echtheit bietet. C2PA-Manifeste werden von Industrieakteuren mit von der Industrie ausgestellten Zertifikaten signiert, nicht von qualifizierten Vertrauensdiensteanbietern nach eIDAS. Ein C2PA-Manifest ist technisch verifizierbar, trägt aber nicht die gesetzliche Vermutung, die ein qualifiziertes elektronisches eIDAS-Siegel oder ein qualifizierter elektronischer Zeitstempel trägt. Für Compliance-Arbeit, bei der die gerichtliche Verwertbarkeit von Bedeutung ist (Rechtsstreitigkeiten, Verwaltungsverfahren, förmliche Streitigkeiten), sollte C2PA mit eIDAS-konformen qualifizierten Siegeln und Zeitstempeln kombiniert oder durch sie ergänzt werden. Der nächste Abschnitt untersucht diese Kombination.

11. Qualifizierte eIDAS-Siegel als Kennzeichnungsformat

Die Verordnung (EU) Nr. 910/2014, die eIDAS-Verordnung, bietet den EU-weiten Rahmen für elektronische Identifizierung und Vertrauensdienste. Zwei Vertrauensdienste überschneiden sich insbesondere mit der Compliance zu Artikel 50: qualifizierte elektronische Siegel (Artikel 35 eIDAS) und qualifizierte elektronische Zeitstempel (Artikel 41 und 42). Für Organisationen, die sich auf Artikel 50 vorbereiten, bieten eIDAS-konforme Vertrauensdienste erhebliche Compliance- und Beweisvorteile gegenüber generischen kryptografischen Signaturen.

Artikel 35 eIDAS — qualifizierte elektronische Siegel

Ein qualifiziertes elektronisches Siegel ist ein elektronisches Siegel, das von einer qualifizierten elektronischen Siegelerstellungseinheit erstellt wird und auf einem qualifizierten Zertifikat für elektronische Siegel beruht, das von einem in der EU-Vertrauensliste geführten qualifizierten Vertrauensdiensteanbieter (QTSP) ausgestellt wurde. Artikel 35 eIDAS bestimmt, dass qualifizierte elektronische Siegel in Verfahren vor den Gerichten aller 27 EU-Mitgliedstaaten die gesetzliche Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunft dieser Daten genießen. Dies ist ein prozessualer Vorteil von erheblichem Wert: Die Partei, die versiegelte Inhalte vorlegt, muss Unversehrtheit und Herkunft nicht positiv beweisen — die Last verlagert sich auf die Gegenpartei, die Vermutung zu widerlegen. Das Siegel automatisiert damit einen erheblichen Teil der Authentifizierung.

Artikel 41 und 42 eIDAS — qualifizierte elektronische Zeitstempel

Ein qualifizierter elektronischer Zeitstempel ist ein elektronischer Zeitstempel, der von einem QTSP ausgestellt wird und die Anforderungen des Artikels 42 eIDAS erfüllt: an die UTC gebunden, in einer manipulationssicheren Weise mit den Daten verknüpft und vom QTSP signiert oder gesiegelt. Artikel 41 bestimmt, dass qualifizierte elektronische Zeitstempel in Verfahren vor den Gerichten aller 27 EU-Mitgliedstaaten die gesetzliche Vermutung der Richtigkeit des von ihnen angegebenen Datums und der Uhrzeit sowie der Unversehrtheit der von ihnen gebundenen Daten genießen. Für die Compliance mit Artikel 50 schaffen qualifizierte Zeitstempel, die zum Zeitpunkt der Erfassung des ursprünglichen Inhalts angewendet werden, einen gerichtsfesten chronologischen Anker, der jedem späteren Streit lange vorausgeht. Für eine tiefere Betrachtung, wie qualifizierte Zeitstempel in der Praxis funktionieren, siehe unseren vollständigen Leitfaden zu qualifizierten eIDAS-Zeitstempeln.

eIDAS mit der Artikel-50-Kennzeichnung kombinieren

Qualifizierte eIDAS-Siegel und -Zeitstempel können neben den Kennzeichnungssignalen aus Artikel 50 Abs. 2 auf denselben Inhalt angewendet werden. Ein KI-Anbieter kann eine gekennzeichnete Ausgabe erzeugen (die Artikel 50 Abs. 2 zur maschinenlesbaren Erkennbarkeit erfüllt), dann die gekennzeichnete Ausgabe mit einem qualifizierten elektronischen Siegel versiegeln (unter Hinzufügung der gesetzlichen eIDAS-Vermutung der Unversehrtheit und Herkunft) und das versiegelte Paket mit einem qualifizierten elektronischen Zeitstempel versehen (unter Hinzufügung der gesetzlichen eIDAS-Vermutung von Datum und Uhrzeit). Das Ergebnis ist ein Inhalt, der gleichzeitig transparent nach Artikel 50, unversehrtheitsgeschützt nach Artikel 35 eIDAS und zeitverankert nach Artikel 41 eIDAS ist. Dieselbe Kombination gilt für echte Originalinhalte, die von Betreibern erfasst werden — das Versiegeln und Zeitstempeln von Originalen zum Zeitpunkt der Erfassung schließt die in Abschnitt 8 beschriebene Herkunftslücke.

Grenzüberschreitende Anerkennung und globale Verankerung

Die gesetzliche eIDAS-Vermutung gilt in der gesamten EU und im EWR. Für Inhalte, die in Nicht-EU-Jurisdiktionen Streitigkeiten ausgesetzt sein könnten, ist eine zusätzliche Verankerung erforderlich. Die Coalition for Content Provenance and Authenticity (C2PA) bietet industrieanerkannte kryptografische Signaturen, die technisch weltweit verifizierbar sind, wenn auch ohne gesetzliche Vermutung. Bitcoin OpenTimestamps bietet einen dezentralen Zeitanker, der institutionell von jedem einzelnen Vertrauensdiensteanbieter unabhängig ist — der verteilte Konsens von Bitcoin macht den Zeitstempel im Wesentlichen unmöglich rückwirkend zu manipulieren. Ein gestaffelter Verteidigungsansatz kombiniert qualifizierte eIDAS-Siegel und -Zeitstempel (für die gesetzliche EU-Vermutung), C2PA-Manifeste (für Industriekompatibilität) und Bitcoin OpenTimestamps (für globale vertrauensfreie Verifizierung). Diese Kombination schützt die Echtheit von Inhalten über die größtmögliche Bandbreite rechtlicher und technischer Kontexte hinweg.

12. Compliance-Architektur im Unternehmen — Kennzeichnung und Herkunft kombiniert

Eine unternehmensweite Compliance-Architektur für Artikel 50 hat zwei Schichten, die zusammenarbeiten: die Kennzeichnungsschicht für KI-generierte Inhalte (nachgelagert, die Artikel 50 unmittelbar erfüllt) und die Herkunftsschicht für echte Originale (vorgelagert, die die Herkunftslücke schließt). Beide Schichten müssen als Teil eines kohärenten Programms gestaltet, umgesetzt und gepflegt werden.

Schicht 1 — Kennzeichnung KI-generierter Inhalte

Die Kennzeichnungsschicht adressiert Artikel 50 Abs. 2 und Artikel 50 Abs. 4 unmittelbar. Für Organisationen, die als KI-Anbieter agieren (einschließlich API-Integratoren, siehe Abschnitt 3), erfordert diese Schicht: maschinenlesbare Kennzeichnung, die in KI-Ausgaben eingebettet ist (in der Regel C2PA-Manifeste, Wasserzeichen oder Metadatensignale); Robustheit über gängige Transformationen hinweg (Komprimierung, Größenänderung, Formatkonvertierung); Bewahrung der Kennzeichnungen vorgelagerter Anbieter bei der Integration von Modellen Dritter; und sichtbare Offenlegungsmechanismen für Deepfakes und KI-generierten Text von öffentlichem Interesse. Die technischen Komponenten werden zunehmend über C2PA und Verweise im Verhaltenskodex standardisiert; die operativen Komponenten erfordern die Integration in Content-Management-Systeme, Publikationsabläufe und redaktionelle Vorlagen.

Schicht 2 — kryptografische Herkunft für Originale

Die Herkunftsschicht adressiert die Herkunftslücke, indem sie echte Originalinhalte zum Zeitpunkt der Erfassung versiegelt. Zu den technischen Komponenten gehören: SHA-256-Hashing des ursprünglichen Inhalts unmittelbar bei der Erfassung; Aufzeichnung der Beweiskette (wer erfasst hat, wann, mit welchem Werkzeug, in welcher Umgebung); qualifizierte elektronische Siegel nach Artikel 35 eIDAS; qualifizierte elektronische Zeitstempel nach den Artikeln 41 und 42 eIDAS; optionale Bitcoin-OpenTimestamps-Verankerung für globale Verifizierung; Teilnahme an einer Append-only-Hashkette für den laufenden Betrieb; und ein offener Verifizierungsendpunkt, der es Dritten ermöglicht, den Beweis zu prüfen. Die Herkunftsschicht ist für Endnutzer unsichtbar, aber für Gerichte, Aufsichtsbehörden, Journalisten und jede Partei mit einem berechtigten Authentifizierungsbedarf verfügbar.

Workflow-Integration und Content-Management

Beide Schichten müssen in die Inhalts-Arbeitsabläufe der Organisation integriert werden. Für KI-generierte Inhalte muss die Kennzeichnung automatisch als Teil der Erzeugungspipeline erfolgen, ohne manuelle Schritte, die übersprungen werden könnten. Für echte Originalinhalte (auf Reportageeinsätzen aufgenommene Fotografien, aufgezeichnete Interviews mit Führungskräften, für Rechtsstreitigkeiten erfasste Webbeweise, für Markenarchive fotografierte Marketing-Assets) muss die Herkunftsversiegelung im Moment der Erfassung erfolgen, idealerweise durch dedizierte forensische Erfassungswerkzeuge, die die kryptografischen Vorgänge automatisieren. Content-Management-Systeme sollten nachverfolgen, welche Inhalte versiegelt wurden und welche nicht, und den Verifizierungsstatus neben den Inhaltsmetadaten sichtbar machen.

Kriterien für die Anbieterauswahl

Bei der Auswahl von Anbietern für die Compliance-Architektur gehören zu den Kriterien: Ausrichtung an Artikel 50 (erfüllt die Kennzeichnung des Anbieters die Verordnung?); eIDAS-Qualifikation (ist der Anbieter oder sein Vertrauenspartner in der EU-Vertrauensliste geführt?); C2PA-Kompatibilität (erzeugt oder verarbeitet der Anbieter C2PA-Manifeste?); Unabhängigkeitsanker (unterstützt der Anbieter Zeitanker über seine eigene Infrastruktur hinaus?); offene Verifizierung (können Dritte Beweise ohne Anbieterkonto prüfen?); Audit-Trails (führt der Anbieter manipulationssichere Protokolle der Vorgänge?); und langfristige Aufbewahrung (übersteht die Architektur des Anbieters das Geschäftsrisiko des Anbieters durch portable, verifizierbare Beweise?). Das Risiko einer Anbieterbindung ist in dieser Kategorie erheblich — Beweise, die für ihre Prüfung den fortgesetzten Betrieb des Anbieters erfordern, verlieren an Wert, wenn der Anbieter den Markt verlässt oder seine Bedingungen ändert.

13. Sanktionen und Durchsetzung nach Artikel 99

Artikel 99 der KI-Verordnung legt den Sanktionsrahmen für Verstöße gegen die gesamte Verordnung fest, einschließlich der Transparenzpflichten aus Artikel 50. Compliance-Verantwortliche sollten den Rahmen an die Risikobereitschaft ihrer Organisation anpassen und angemessen für Investitionen in das Compliance-Programm budgetieren.

Die Sanktionsstufen

Artikel 99 legt drei Sanktionsstufen abhängig von der Art des Verstoßes fest. Die höchste Stufe, die für Verstöße gegen verbotene KI-Praktiken nach Artikel 5 gilt, erlaubt Geldbußen von bis zu 35 Millionen EUR oder bis zu 7 % des weltweiten Jahresgesamtumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Die mittlere Stufe, die für Verstöße gegen die meisten anderen Pflichten der KI-Verordnung einschließlich der Transparenz nach Artikel 50 gilt, erlaubt Geldbußen von bis zu 15 Millionen EUR oder bis zu 3 % des weltweiten Jahresgesamtumsatzes, je nachdem, welcher Betrag höher ist. Die niedrigste Stufe, die für unrichtige, unvollständige oder irreführende Informationen gilt, die Behörden übermittelt werden, erlaubt Geldbußen von bis zu 7,5 Millionen EUR oder bis zu 1 % des weltweiten Jahresgesamtumsatzes, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt in jeder Stufe der jeweils niedrigere Betrag statt des höheren.

Nationale Durchsetzung und das KI-Büro

Die Durchsetzung der Sanktionen nach Artikel 99 obliegt den von jedem Mitgliedstaat benannten zuständigen nationalen Behörden, koordiniert über das Europäische KI-Gremium und unterstützt vom Europäischen KI-Büro bei der Europäischen Kommission. Jeder Mitgliedstaat muss Vorschriften über Sanktionen für Verstöße gegen die KI-Verordnung festlegen und dabei die Art, Schwere, Dauer und Folgen des Verstoßes, die Größe und Wirtschaftskraft des Betreibers sowie etwaige frühere Verstöße berücksichtigen. Das KI-Büro spielt eine koordinierende Rolle, insbesondere bei grenzüberschreitenden Fällen mit großen multinationalen Anbietern und bei Angelegenheiten, die KI-Modelle mit allgemeinem Verwendungszweck betreffen.

Erschwerende und mildernde Faktoren

Bei der Bestimmung der Höhe der Geldbußen berücksichtigen die Behörden eine Reihe von in Artikel 99 festgelegten Faktoren: die Art, Schwere und Dauer des Verstoßes; die Zahl der betroffenen natürlichen Personen; etwaige vom Betreiber ergriffene Maßnahmen zur Minderung des Schadens; frühere Verstöße des Betreibers; den Grad der Zusammenarbeit mit den Behörden; die Art und Weise, wie die Behörden von dem Verstoß Kenntnis erlangt haben; die erzielten finanziellen Vorteile oder vermiedenen Verluste; und alle sonstigen erschwerenden oder mildernden Faktoren. Ein dokumentiertes Compliance-Programm, das einen gutgläubigen Bemühungsnachweis zur Erfüllung der Pflichten aus Artikel 50 belegt, wirkt als mildernder Faktor und kann Geldbußen erheblich verringern, selbst wenn ein Verstoß festgestellt wird.

Praktische Sanktionsexposition

Für ein Unternehmen mit 1 Milliarde EUR weltweitem Jahresumsatz beträgt die maximale mit Artikel 50 zusammenhängende Geldbuße nach Artikel 99 30 Millionen EUR (3 % des Umsatzes, was die feste Obergrenze von 15 Millionen EUR übersteigt). Für ein Unternehmen mit 100 Millionen EUR Umsatz gilt die feste Obergrenze von 15 Millionen EUR (die 3 % des Umsatzes übersteigt). Bei größeren multinationalen Unternehmen dominiert die prozentuale Obergrenze und erzeugt weitaus größere mögliche Expositionen. Der Sanktionsrahmen ist so bemessen, dass er Compliance kosteneffizient macht: Die Kosten für die Umsetzung einer Kennzeichnungs- und Herkunftsinfrastruktur sind gering im Verhältnis zur maximal möglichen Exposition, und ein dokumentiertes Compliance-Programm verringert das Restrisiko erheblich.

14. Sechs Anwendungsfälle mit hohem Einsatz für kryptografische Herkunft

Kryptografische Herkunft, die auf Originalinhalte angewendet wird, ist in vielen Kontexten wertvoll, aber sechs Anwendungsfälle stechen als Anwendungen mit hohem Einsatz hervor, bei denen die Einführung von Artikel 50 den Fall für Herkunft besonders stark macht. Compliance-Verantwortliche und CTOs sollten prüfen, welche davon auf ihre Organisation zutreffen, und entsprechend priorisieren.

Redaktionelle Verifizierung und Deepfake-Abwehr

Der Journalismus sieht sich einer asymmetrischen Bedrohung durch generative KI ausgesetzt. Ein Deepfake eines Politikers, der etwas Kontroverses sagt, kann in Minuten erzeugt werden; die Kosten seiner Widerlegung können enorm sein, und die Widerlegung holt die Verbreitung der ursprünglichen Lüge selten ein. Eine Redaktion, die originales Interviewmaterial, Quelldokumente und Vor-Ort-Berichterstattung mit kryptografischer Herkunft erfasst, verfügt über eine Verteidigung: Wenn ein Deepfake desselben Ereignisses zirkuliert, kann die Redaktion ihr versiegeltes Original mit verifizierbaren Zeitstempeln vorlegen, die dem Auftauchen des Deepfakes vorausgehen, und so nachweisen, welche Version echt ist. Das herkunftsversiegelte Original wird zu einem Verteidigungsmittel für die redaktionelle Integrität der Redaktion.

Markenschutz gegen Deepfakes von Führungskräften

Unternehmenskommunikationsabteilungen sehen sich einem wachsenden Risiko durch Deepfakes ausgesetzt, die auf Führungskräfte abzielen — gefälschte Videoaussagen, die vorgeben, vom CEO zu stammen, gefälschte Audioaufnahmen zu Finanzprognosen, gefälschte, dem CFO zugeschriebene Zitate. Kryptografische Herkunft, die auf echte Kommunikation von Führungskräften angewendet wird (aufgezeichnete Interviews, vorbereitete Erklärungen, Aufzeichnungen von Telefonkonferenzen zu Geschäftszahlen), schafft ein verifizierbares Archiv. Wenn ein Deepfake zirkuliert, kann das Unternehmen rasch seinen versiegelten echten Nachweis mit qualifizierten eIDAS-Zeitstempeln vorlegen und nachweisen, dass der Deepfake nicht die echte Kommunikation ist. Ohne ein solches Archiv befindet sich das Unternehmen in der Lage, ein Negativum beweisen zu müssen — dass die Führungskraft nicht gesagt hat, was der Deepfake vorgibt —, was technisch weitaus schwieriger ist.

Rechtsbeweise in Rechtsstreitigkeiten

Webbeweise in Handelsstreitigkeiten, der Durchsetzung geistigen Eigentums und regulatorischen Angelegenheiten sehen sich zunehmenden Authentifizierungsanfechtungen ausgesetzt, während sich die Deepfake-Fähigkeiten weiterentwickeln. Eine versiegelte forensische Erfassung einer Website zu einem bestimmten Zeitpunkt, mit qualifizierten eIDAS-Siegeln und -Zeitstempeln, erfüllt den modernen Beweismaßstab, der in unserem vollständigen Leitfaden zu digitalen Beweissystemen und in unserem Leitfaden zur ISO-27037-konformen Erfassung von Webbeweisen beschrieben wird. Dieselbe Architektur schützt vor der Gegenbehauptung aus der Artikel-50-Ära, der erfasste Inhalt könnte KI-generiert sein mit entfernten Markern — die eIDAS-versiegelte Herkunft beweist positiv die Erfassung aus einer realen Quelle zu einem bestimmten Zeitpunkt.

Echtheit von Versicherungsansprüchen

Versicherungsansprüche stützen sich häufig auf Fotografien und Videos, die Schäden, Verluste oder Ereignisse dokumentieren. Das Risiko, dass KI-generierte Bilder zur Fälschung oder Aufblähung von Ansprüchen verwendet werden könnten, steigt. Versicherer und Versicherungsnehmer profitieren beide von kryptografischer Herkunft: Versicherer gewinnen einen gerichtsfesten Standard für die Anspruchsdokumentation, und Versicherungsnehmer gewinnen einen Authentifizierungsmechanismus, der ihre echten Ansprüche von betrügerischen Alternativen unterscheidet. Die Herkunftsversiegelung zum Zeitpunkt der Schadensdokumentation (unmittelbar nach dem Ereignis, in Anwesenheit des Schadensregulierers, mit einem forensischen Erfassungswerkzeug) erzeugt einen Nachweis, der späteren Anfechtungen standhält und die Bearbeitung berechtigter Ansprüche beschleunigt.

Kommunikation von Führungskräften und Finanzoffenlegungen

Börsennotierte Unternehmen unterliegen wertpapierrechtlichen Pflichten hinsichtlich der Richtigkeit und Vollständigkeit ihrer öffentlichen Kommunikation. Telefonkonferenzen zu Geschäftszahlen, Investorenpräsentationen, behördliche Eingaben und wesentliche Offenlegungen begründen allesamt wertpapierrechtliche Haftung. Das Risiko von Deepfakes, die vorgeben, vom Unternehmen zu stammen, schafft ein verwandtes Risiko: Ein Deepfake, der eine wesentliche Offenlegung behauptet, könnte den Aktienkurs bewegen, bevor das Unternehmen reagieren kann. Kryptografische Herkunft, die auf echte Kommunikation von Führungskräften angewendet wird, schafft einen verifizierbaren Nachweis, der es dem Unternehmen ermöglicht, seine echten Aussagen rasch zu authentifizieren und Deepfakes zurückzuweisen, wodurch das Zeitfenster der Marktanfälligkeit verringert wird.

Marktplatzangebote und Durchsetzung gegen Fälschungen

E-Commerce-Marktplätze sehen sich zwei verwandten Echtheitsherausforderungen ausgesetzt: gefälschten physischen Waren, die zum Verkauf angeboten werden, und KI-generierten Produktbildern, die nicht existierende oder falsch dargestellte Waren zeigen. Kryptografische Herkunft, die auf echte Markenbilder (verwendet von legitimen Verkäufern) und auf Erfassungen von Durchsetzungsbeweisen (verwendet von Markenschutzteams zur Dokumentation von Fälschungen) angewendet wird, unterstützt beide Richtungen. Markeninhaber können nachweisen, wie ihre echten Produktbilder zu einem bestimmten Zeitpunkt aussahen; Durchsetzungsteams können nachweisen, was gefälschte Angebote zu einem bestimmten Zeitpunkt zeigten, und so Takedown-Maßnahmen und Rechtsverfahren unterstützen. Für eine breitere Betrachtung von Markenschutz-Arbeitsabläufen siehe unseren vollständigen Leitfaden zu Markenschutz-Beweis-Arbeitsabläufen.

15. Umsetzungsfahrplan, FAQ und Fazit

Artikel 50 tritt am 2. August 2026 in Kraft. Für Organisationen, die noch kein strukturiertes Compliance-Programm begonnen haben, ist der praktische Zeitplan kurz. Der folgende Fahrplan gliedert die Umsetzung in drei 30-Tage-Phasen, die eine Organisation innerhalb von 90 Tagen zur Basis-Compliance bringen, wobei die Verfeinerung bis zum Anwendungsdatum und darüber hinaus fortgeführt wird.

Tage 1–30 — Bewertung und Konzeption

Der erste Monat konzentriert sich darauf, die Exposition der Organisation zu verstehen und die Compliance-Architektur zu konzipieren. Zu den wichtigsten Tätigkeiten gehören: die Abbildung aller von der Organisation verwendeten KI-Systeme (APIs Dritter, feinabgestimmte Modelle, eingebettete Funktionen, Werkzeuge zur Inhaltserzeugung); die Einordnung jedes Systems als Anbieterpflicht, Betreiberpflicht oder beides; die Abbildung aller Verbreitungskanäle für Inhalte, die in den Anwendungsbereich der Offenlegung von Text von öffentlichem Interesse nach Artikel 50 Abs. 4 fallen könnten; die Auswahl der technischen Normen und Anbieter für die Kennzeichnungsschicht (in der Regel C2PA-ausgerichtete Werkzeuge mit eIDAS-qualifizierter Versiegelung); die Auswahl der Plattform für die Herkunftsschicht (kryptografische Erfassung für echte Originale); und die Erstellung eines schriftlichen Compliance-Plans mit benannten Verantwortlichen für jede Pflicht.

Tage 31–60 — Umsetzung und Integration

Der zweite Monat konzentriert sich auf die Umsetzung der Architektur und ihre Integration in die operativen Arbeitsabläufe. Zu den wichtigsten Tätigkeiten gehören: die Bereitstellung der Kennzeichnungsschicht für KI-Ausgaben (Wasserzeichen, Metadaten, C2PA-Manifeste, eIDAS-Versiegelung); die Integration der Kennzeichnung in Content-Management-Systeme und Publikationspipelines; die Bereitstellung der Herkunftsschicht für echte Originale (forensische Erfassungswerkzeuge, Versiegelungsinfrastruktur, Teilnahme an der Hashkette); die Schulung von Redaktions-, Marketing-, Rechts- und Compliance-Personal zu den neuen Arbeitsabläufen; die Aktualisierung interner Richtlinien, redaktioneller Leitlinien und Auftragnehmervereinbarungen; und der Beginn des Live-Betriebs beider Schichten parallel zu den bestehenden Arbeitsabläufen.

Tage 61–90 — Verifizierung und Audit-Bereitschaft

Der dritte Monat konzentriert sich darauf, zu verifizieren, dass die Architektur durchgängig funktioniert, und sich auf die behördliche Interaktion vorzubereiten. Zu den wichtigsten Tätigkeiten gehören: durchgängige Tests der Kennzeichnungserhaltung über die Verbreitungskanäle für Inhalte hinweg; durchgängige Tests der Herkunftsverifizierung für versiegelte Originale; die Beauftragung externer Prüfer zur Verifizierung der Compliance-Haltung nach Artikel 50; die Erstellung der Dokumentation, die Behörden anfordern könnten (technische Spezifikationen, Risikobewertungen, Schulungsnachweise, Compliance-Pläne); die Ausrichtung des Programms am endgültigen Verhaltenskodex, sobald dieser veröffentlicht ist; und die Einrichtung fortlaufender Überwachungs- und Reaktionsverfahren für Compliance-Verstöße.

Die folgenden Fragen behandeln die häufigsten praktischen Bedenken, die von Rechtsberatern, Compliance-Verantwortlichen und CTOs bei der Vorbereitung auf Artikel 50 geäußert werden.

Wann beginnt die Anwendung von Artikel 50 der EU-KI-Verordnung?
Artikel 50 wird am 2. August 2026 unmittelbar anwendbar, vierundzwanzig Monate nach dem Inkrafttreten der KI-Verordnung am 1. August 2024. Ab diesem Datum müssen Anbieter und Betreiber von KI-Systemen, die auf dem EU-Markt in Verkehr gebracht werden oder deren Ausgaben innerhalb der Union verwendet werden, die in der Verordnung festgelegten Kennzeichnungs- und Offenlegungspflichten erfüllen. Die Pflichten gelten in allen 27 EU-Mitgliedstaaten sowie in den EWR-Ländern, wobei die Durchsetzung über das Europäische KI-Büro und die einzelnen Behörden der Mitgliedstaaten koordiniert wird.
Was verlangt Artikel 50 von Anbietern von KI-Systemen?
Artikel 50 Abs. 2 verlangt von Anbietern von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherzustellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein und dabei den Stand der Technik berücksichtigen. Die Pflicht gilt nicht für KI-Systeme, die unterstützende Funktionen für die Standardbearbeitung ausüben, oder soweit dies gesetzlich zur Verfolgung von Straftaten zulässig ist. Artikel 50 Abs. 1 verlangt außerdem von Anbietern von KI-Systemen, die zur unmittelbaren Interaktion mit natürlichen Personen bestimmt sind (Chatbots, virtuelle Assistenten), diese Systeme so zu gestalten, dass die Nutzer darüber informiert werden, dass sie mit KI interagieren.
Was verlangt Artikel 50 von Betreibern von KI-Systemen?
Artikel 50 Abs. 4 verlangt von Betreibern, die Deepfakes veröffentlichen (KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen oder Ereignissen ähneln), offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde, und zwar klar und erkennbar, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung. Derselbe Absatz erweitert die Offenlegungspflicht auf KI-generierten Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, ein Mensch hat den Inhalt überprüft und die redaktionelle Verantwortung übernommen. Artikel 50 Abs. 3 verlangt von Betreibern von Emotionserkennungs- oder biometrischen Kategorisierungssystemen, die ausgesetzten natürlichen Personen über den Betrieb des Systems zu informieren.
Sind Organisationen, die KI-Modelle Dritter über eine API einbinden, nach Artikel 50 verpflichtet?
Ja. Organisationen, die generative KI-Modelle Dritter in ihre eigenen nutzerorientierten Produkte integrieren, sind Anbieter eines KI-Systems nach Artikel 50 Abs. 2, auch wenn sie die zugrunde liegenden Foundation-Modelle nicht trainieren. Sie müssen sicherstellen, dass die über ihr Produkt gelieferten Ausgaben als KI-generiert gekennzeichnet sind, in der Regel durch Bewahrung der Kennzeichnungen vorgelagerter Anbieter (Wasserzeichen, Metadaten, Content Credentials) und durch Hinzufügung eigener sichtbarer Offenlegungen. Die Fehlvorstellung, dass „wir nutzen ja nur die OpenAI-API und haben daher keine Pflichten“, ist unzutreffend und kann zu erheblichen Compliance-Fehlern führen.
Was ist der Verhaltenskodex zur Transparenz KI-generierter Inhalte?
Der Verhaltenskodex ist ein freiwilliges Instrument, das von unabhängigen Vorsitzenden und stellvertretenden Vorsitzenden ausgearbeitet wird, die vom Europäischen KI-Büro benannt wurden, und das Anbietern und Betreibern praktische Orientierung dazu bieten soll, wie sie Artikel 50 einhalten. Der erste Entwurf wurde am 17. Dezember 2025 veröffentlicht; ein zweiter Entwurf wird für März 2026 erwartet; der endgültige Kodex wird für Juni 2026 erwartet. Unterzeichner erhalten eine Vermutung der Konformität mit den Pflichten aus Artikel 50. Der erste Entwurf fördert einen mehrschichtigen Ansatz, der sichtbare Offenlegungen mit maschinenlesbaren Techniken (Metadaten, Wasserzeichen) kombiniert, statt sich auf eine einzelne Lösung zu verlassen.
Was bedeutet „maschinenlesbare Kennzeichnung“ in technischer Hinsicht?
Maschinenlesbare Kennzeichnung bedeutet, dass automatisierte Werkzeuge erkennen können, dass ein Inhalt KI-generiert ist, indem sie den Inhalt selbst untersuchen, ohne sich auf für Menschen sichtbare Hinweise zu stützen. Gängige technische Umsetzungen sind: strukturierte Metadaten, die in Dateiheader eingebettet sind (EXIF für Bilder, ID3 für Audio, MOV/MP4-Metadaten für Video); kryptografische Content Credentials (C2PA-Manifeste); und Wasserzeichen, die in die Inhaltsdaten eingebettet sind (Pixeländerungen, Änderungen der Audiowellenform, Text-Token-Sequenzen). Der Verhaltenskodex erwartet von Anbietern, mehrere einander ergänzende Methoden zu verwenden, statt sich auf eine einzelne Technik zu verlassen.
Was ist C2PA und warum ist es für Artikel 50 relevant?
C2PA (Coalition for Content Provenance and Authenticity) ist der führende Industrierahmen für Inhaltsherkunft. Seine Spezifikation definiert strukturierte Manifeste, die in Mediendateien eingebettet werden und signierte Aussagen über Ursprung, Bearbeitungen und KI-Beteiligung von Inhalten tragen. Zu den Mitgliedern gehören Adobe, Microsoft, BBC, NYT, OpenAI, Sony, Nikon, Canon und andere. C2PA ist an den Anforderungen zur maschinenlesbaren Kennzeichnung aus Artikel 50 Abs. 2 ausgerichtet, und es wird breit erwartet, dass der Verhaltenskodex auf C2PA als anerkannte technische Lösung verweist. C2PA bietet keine gesetzliche Vermutung nach EU-Recht (das erfordert qualifizierte eIDAS-Siegel und -Zeitstempel), bietet aber industrieübliche kryptografische Verifizierbarkeit.
Was ist die Authentifizierungsumkehr?
Die Authentifizierungsumkehr ist die strukturelle Verschiebung der Beweislast, die Artikel 50 für die Echtheit von Inhalten schafft. Vor Artikel 50 trug die Partei, die die Echtheit von Inhalten anficht, die Last, Beweise für eine Manipulation vorzulegen. Ab August 2026 werden Inhalte ohne Herkunftsmarker strukturell mehrdeutig: Sie könnten echt sein oder KI-generierte Inhalte mit entfernten Markern (ein Verstoß gegen Artikel 50). Die Gegenpartei kann begründete Zweifel wecken, indem sie einfach auf das Fehlen von Herkunftsmarkern hinweist, ohne positiv Manipulationsbeweise vorzulegen. Um Originale gegen diese Dynamik zu verteidigen, benötigen Erzeuger positive Herkunftssignale — kryptografische Nachweise, die einen realen Ursprung zu einem bestimmten Zeitpunkt belegen.
Was ist die Herkunftslücke?
Die Herkunftslücke ist die Reihe von Echtheitsfragen, die Artikel 50 nicht adressiert. Artikel 50 deckt die Richtung von der KI zum Publikum ab: die Kennzeichnung von KI-Ausgaben, damit das Publikum weiß, dass sie synthetisch sind. Er deckt nicht ab: wie man beweist, dass ein Original echt ist; was geschieht, wenn KI-Marker aus Inhalten entfernt werden; wie man echte Inhalte gegen Deepfake-Gegenbehauptungen verteidigt; wie man die Echtheit über jahrzehntelange Aufbewahrungshorizonte verankert; oder wie man mit der Herkunft von Inhalten umgeht, die Artikel 50 vorausgehen. Das Schließen der Herkunftslücke erfordert vorgelagerte kryptografische Herkunft, die zum Zeitpunkt der Erfassung auf Originale angewendet wird, einschließlich SHA-256-Hashing, qualifizierter elektronischer Siegel und Zeitstempel nach eIDAS und idealerweise eines unabhängigen Zeitankers wie Bitcoin OpenTimestamps.
Was sind die maximalen Sanktionen für Verstöße gegen Artikel 50?
Nach Artikel 99 der KI-Verordnung können Verstöße gegen Transparenzpflichten einschließlich Artikel 50 zu Geldbußen von bis zu 15 Millionen EUR oder bis zu 3 % des weltweiten Jahresgesamtumsatzes des vorangegangenen Geschäftsjahres führen, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt der jeweils niedrigere Betrag. Sanktionen werden von den zuständigen nationalen Behörden in jedem Mitgliedstaat verhängt, wobei die Art, Schwere und Dauer des Verstoßes, der Grad der Zusammenarbeit des Betreibers, ergriffene mildernde Maßnahmen und frühere Verstöße berücksichtigt werden. Ein dokumentiertes Compliance-Programm wirkt als mildernder Faktor.
Gilt Artikel 50 für Nicht-EU-Unternehmen?
Ja, wenn ihre KI-Systeme auf dem EU-Markt in Verkehr gebracht werden oder ihre Ausgaben innerhalb der Union verwendet werden. Wie die DSGVO hat Artikel 50 eine extraterritoriale Reichweite: Ein Anbieter aus einem Nicht-EU-Land, der sein System EU-Nutzern zugänglich macht, fällt in den Anwendungsbereich, und ein Betreiber aus einem Nicht-EU-Land, der synthetische Inhalte in die EU verbreitet, fällt ebenfalls in den Anwendungsbereich, wenn die Inhalte ein EU-Publikum erreichen. Multinationale Organisationen sollten ihre Verbreitungswege für Inhalte abbilden und die Compliance mit Artikel 50 für alle Inhalte umsetzen, die EU-Nutzer erreichen können, unabhängig davon, wo die Inhalte erzeugt werden oder die Organisation ihren Sitz hat.
Wie verhalten sich qualifizierte eIDAS-Siegel und -Zeitstempel zu Artikel 50?
Qualifizierte elektronische eIDAS-Siegel (Artikel 35) und qualifizierte elektronische Zeitstempel (Artikel 41 und 42) begründen in Verfahren vor EU-Gerichten die gesetzliche Vermutung der Unversehrtheit, der Herkunft und der Richtigkeit von Datum und Uhrzeit. Sie können neben den Kennzeichnungssignalen aus Artikel 50 Abs. 2 angewendet werden: Ein KI-Anbieter kann die Ausgabe kennzeichnen (unter Erfüllung der maschinenlesbaren Erkennbarkeit), sie mit einem qualifizierten elektronischen Siegel versiegeln (unter Hinzufügung der Unversehrtheitsvermutung) und sie zeitstempeln (unter Hinzufügung der Datumsvermutung). Dieselbe Kombination gilt für echte Originale: kryptografische Herkunft, die bei der Erfassung angewendet und nach eIDAS versiegelt und zeitgestempelt wird, erzeugt Beweise mit sowohl technischer Unversehrtheit als auch gesetzlicher Vermutung. Für eine tiefere Betrachtung, wie qualifizierte Zeitstempel funktionieren, siehe unseren vollständigen Leitfaden zu qualifizierten eIDAS-Zeitstempeln.
Was ist mit Inhalten, die vor dem 2. August 2026 erstellt wurden?
Artikel 50 gilt für KI-Systeme, die in Verkehr gebracht werden, und für Inhalte, die ab dem Anwendungsdatum erzeugt werden. Inhalte, die vor diesem Datum von KI-Systemen erzeugt wurden, die noch nicht in den Anwendungsbereich fallen, müssen nicht rückwirkend gekennzeichnet werden. Die in Abschnitt 7 beschriebene Authentifizierungsumkehr betrifft jedoch auch bereits bestehende Inhalte: Sobald die beweisrechtliche Grundlinie nach Artikel 50 zur Norm wird, werden bereits bestehende Inhalte ohne Herkunftssignale beweisrechtlich verdächtig. Für Organisationen, die Archive echter Inhalte halten (Redaktionsarchive, Markenasset-Bibliotheken, behördliche Eingaben), ist die rückwirkende Anwendung der Herkunftsversiegelung auf wichtige historische Assets eine gerichtsfeste Praxis, auch wenn Artikel 50 sie nicht verlangt.
Sollten wir erkennungsbasierte oder herkunftsbasierte Werkzeuge verwenden?
Herkunftsbasierte Werkzeuge sind für Echtheitsstreitigkeiten strukturell zuverlässiger. Erkennungsmethoden stehen in einem permanenten Wettlauf mit Erzeugungsmethoden: Jede Generation von Erkennungsfähigkeit wird durch Erzeugungsmethoden der nächsten Generation herausgefordert, die ihr entgehen. Die Erkennung hat daher eine inhärente Haltbarkeitsdauer, insbesondere für Echtheitsstreitigkeiten, die Jahre nach der ursprünglichen Erfassung entstehen. Herkunftsmethoden erzeugen geschlossene kryptografische Systeme, deren Sicherheitseigenschaften nicht erodieren, während sich die KI-Fähigkeiten weiterentwickeln — die Verifizierung ist mathematische Gewissheit, keine statistische Schätzung. Die Erkennung hat in manchen Arbeitsabläufen eine Rolle (rasche Triage, Inhaltsmoderation im großen Maßstab), aber die Herkunft sollte die primäre Verteidigung für Echtheitsarbeit mit hohem Einsatz sein.
Was sind die praktischen Kosten eines Compliance-Programms für Artikel 50?
Die Kosten eines Basis-Compliance-Programms für Artikel 50 — das Kennzeichnung für KI-Ausgaben und kryptografische Herkunft für Originale kombiniert — sind gering im Verhältnis zur maximal möglichen Sanktionsexposition (15 Millionen EUR oder 3 % des weltweiten Umsatzes) und zu den Kosten eines einzigen bestrittenen Echtheitsstreits. Der Umsetzungsaufwand liegt vorrangig in der Workflow-Integration und der Personalschulung statt in der technischen Infrastruktur, die zunehmend als standardisierte Anbieterangebote verfügbar ist. Die risikobereinigte Analyse spricht deutlich dafür, beide Schichten (Kennzeichnung und Herkunft) vor dem Anwendungsdatum im August 2026 umzusetzen, mit fortlaufender Verfeinerung, sobald der Verhaltenskodex und die Leitlinien konkrete Pflichten klären.

Artikel 50 der EU-KI-Verordnung führt eine strukturelle Transformation dessen ein, wie die Echtheit digitaler Inhalte begründet und aufrechterhalten wird. Die Kennzeichnungspflichten für KI-generierte Inhalte sind notwendig, gut konzipiert und durch ein aufkommendes technisches Ökosystem gestützt (C2PA, Wasserzeichenstandards, der Verhaltenskodex). Die strukturelle Folge — die Authentifizierungsumkehr bei der Beweislast — reicht über die unmittelbare Compliance hinaus und formt die Beweislandschaft für alle Inhalte um, die Echtheitsstreitigkeiten ausgesetzt sein könnten. Organisationen, die sich sowohl auf die unmittelbaren Compliance-Pflichten als auch auf die strukturelle Verschiebung vorbereiten, werden besser aufgestellt sein als jene, die sich nur auf die unmittelbaren Kennzeichnungsanforderungen vorbereiten.

GetProofAnchor ist speziell für die kryptografische Herkunftsschicht gebaut, die die Kennzeichnung nach Artikel 50 ergänzt. Die Plattform erfasst originale Webinhalte mit serverseitigem forensischem Playwright, versiegelt das Ergebnis mit SHA-256-Manifest-Hashing, nimmt an einer Append-only-Hashkette teil, wendet qualifizierte elektronische eIDAS-Zeitstempel von einem in der EU-Vertrauensliste geführten qualifizierten Vertrauensdiensteanbieter an und unterstützt optionale Bitcoin-OpenTimestamps-Verankerung für globale vertrauensfreie Verifizierung. Jede Erfassung erzeugt ein Beweis-ZIP, das das gerenderte DOM, das MHTML-Archiv, die SSL/TLS-Zertifikatskette, Netzwerkmetadaten und die vollständige Dokumentation der Beweiskette enthält, mit einem offenen öffentlichen Verifizierungsendpunkt, der es jeder Partei ermöglicht, den Beweis später zu prüfen. Die Architektur schließt die in Abschnitt 8 beschriebene Herkunftslücke und bietet gerichtliche Verwertbarkeit über EU- und globale Jurisdiktionen hinweg in der Beweiswelt nach Artikel 50.

Ob Sie sich für GetProofAnchor oder eine andere Plattform entscheiden — die zentrale strategische Entscheidung besteht darin, beide Schichten umzusetzen — Kennzeichnung für KI-Ausgaben und Herkunft für echte Originale — vor dem Anwendungsdatum im August 2026. Das Compliance-Fenster ist kurz, die technischen Anforderungen sind inzwischen klar definiert, und die strukturellen Vorteile, ein dokumentierter früher Anwender zu sein, sind erheblich. Für eine tiefere Betrachtung verwandter Themen siehe unseren vollständigen Leitfaden zu digitalen Beweissystemen, unsere Analyse, warum Screenshots nicht genügen, und unseren vollständigen Leitfaden zur ISO-27037-konformen Erfassung von Webbeweisen.

Bauen Sie die kryptografische Herkunftsschicht für Ihre Originale auf.

GetProofAnchor erfasst und versiegelt originale Webinhalte mit SHA-256-Manifest-Hashing, einer Append-only-Hashkette, qualifizierten elektronischen eIDAS-Zeitstempeln und optionaler Bitcoin-OpenTimestamps-Verankerung. Kostenlose Anmeldung, sofortige Verifizierung, gerichtsfest in allen 27 EU-Mitgliedstaaten.

Keine Kreditkarte. eIDAS-konforme Zeitstempel von einem qualifizierten Vertrauensdiensteanbieter, der in der EU-Vertrauensliste geführt wird.