Seit dem 2. August 2026 gelten in der gesamten Europäischen Union verbindliche Transparenzpflichten für Künstliche Intelligenz. Wer Chatbots einsetzt, Bilder generieren lässt oder Texte mit KI-Unterstützung veröffentlicht, muss sich seither an klare Regeln halten. Grundlage ist Artikel 50 der europäischen KI-Verordnung (AI Act, Verordnung (EU) 2024/1689).
Anders als oft verkürzt dargestellt, schreibt der Artikel keine pauschale Kennzeichnungspflicht für „alle KI-Inhalte“ vor, sondern differenziert nach Rolle – Anbieter oder Betreiber – und nach Anwendungsfall: Ob und wie ein Hinweis erfolgen muss, hängt davon ab, ob ein System mit Menschen interagiert, synthetische Inhalte erzeugt oder ob es sich um Deepfakes beziehungsweise Texte von öffentlichem Interesse handelt.
Dieser Artikel erklärt, was die Kennzeichnungspflicht konkret bedeutet, für wen sie gilt, wo die Ausnahmen liegen und welche Konsequenzen bei Verstößen drohen.
Was ist die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht ist Teil der europäischen KI-Verordnung (EU AI Act) und in Artikel 50 geregelt. Sie verpflichtet Anbieter und Betreiber bestimmter KI-Systeme dazu, offenzulegen, wenn Inhalte durch künstliche Intelligenz erstellt oder verändert wurden oder wenn Nutzerinnen und Nutzer mit einem KI-System statt mit einem Menschen interagieren. Konkret bedeutet das: Chatbots müssen als solche erkennbar sein, synthetisch erzeugte Audio-, Bild-, Video- oder Textinhalte müssen technisch maschinenlesbar markiert werden, und insbesondere Deepfakes sowie Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, müssen klar als KI-generiert gekennzeichnet werden. Es handelt sich dabei nicht um eine pauschale Kennzeichnungspflicht für jeden mit KI erstellten Text oder jedes Bild, sondern um abgestufte Transparenzmaßnahmen je nach Situation und Risiko.
Warum gibt es die KI-Kennzeichnungspflicht?
Hintergrund der Regelung ist ein einfaches Ziel: Menschen sollen erkennen können, wann sie mit Künstlicher Intelligenz interagieren oder wann Inhalte, die ihnen begegnen, künstlich erzeugt oder verändert wurden. Der Gesetzgeber reagiert damit auf eine Entwicklung, die in den letzten Jahren immer deutlicher wurde: KI-generierte Texte, Bilder, Videos und Audioinhalte sind mittlerweile kaum noch von menschengemachten Inhalten zu unterscheiden.
Das birgt mehrere Risiken, denen Artikel 50 gezielt entgegenwirken soll:
- Täuschung verhindern: Nutzer sollen nicht unbemerkt glauben, mit einem Menschen zu sprechen, wenn tatsächlich ein Chatbot antwortet.
- Desinformation eindämmen: Deepfakes und KI-generierte Inhalte lassen sich gezielt zur Fälschung von Personen, Ereignissen oder Aussagen einsetzen, etwa in politischen Debatten.
- Vertrauen in öffentliche Kommunikation erhalten: Bei Inhalten von öffentlichem Interesse soll nachvollziehbar bleiben, ob und in welchem Umfang KI an der Entstehung beteiligt war.
- Informierte Entscheidungen ermöglichen: Wer weiß, dass ein Inhalt KI-generiert ist, kann ihn entsprechend einordnen und kritischer bewerten.
Wer ist von der Kennzeichnungspflicht betroffen?
Der AI Act unterscheidet grundlegend zwischen zwei Rollen, an die unterschiedliche Pflichten anknüpfen:
- Anbieter (Art. 3 Nr. 3): Unternehmen, die ein KI-System entwickeln oder entwickeln lassen und es unter eigenem Namen auf den Markt bringen. Das sind OpenAI, Google, Adobe, Midjourney, aber auch jedes Unternehmen, das ein eigenes KI-Produkt anbietet oder ein Modell unter eigenem Namen weiterverkauft.
- Betreiber (Art. 3 Nr. 4): Unternehmen, die ein bestehendes KI-System in eigener Verantwortung nutzen, etwa zur Erstellung von Inhalten oder in internen Workflows. Das betrifft die weit überwiegende Mehrheit der Unternehmen, die etwa ChatGPT, Midjourney oder ähnliche Tools von Drittanbietern einsetzen.
Für die meisten Unternehmen, die KI-Tools im Alltag nutzen, ist vor allem die Betreiber-Rolle relevant. Rein private, nicht-berufliche Nutzung fällt ausdrücklich nicht unter die Verordnung.
Welche KI-Inhalte fallen unter die Kennzeichnungspflicht?
Gemäß Art. 50 KI-VO gilt die KI-Kennzeichnungspflicht für:
- Deepfakes: Mit KI generierte oder manipulierte Bild-, Audio- und Videoinhalte, die Personen, Gegenstände, Orte oder Ereignisse so täuschend echt nachahmen, dass der Eindruck entsteht, sie könnten in der Realität existieren und somit einer Person fälschlicherweise als wahrheitsgemäß erscheinen.
- Öffentlichkeitswirksame Texte: KI-generierte Texte von öffentlichem Interesse (z. B. Zeitungsartikel, Teile einer wissenschaftlichen Arbeit, Pressemitteilungen), die ohne menschliche Überprüfung oder redaktionelle Bearbeitung veröffentlicht werden.
Die 3 Transparenzpflichten für Betreiber
Artikel 50 der EU-KI-Verordnung unterscheidet vier Transparenzkonstellationen, zwei davon adressieren den Betreiber direkt. Für den typischen Unternehmensalltag sind das vor allem die Kennzeichnung von Deepfakes sowie bestimmten Texten (beide Absatz 4). Ergänzend, aber selten relevant, kommt die Informationspflicht bei Biometrie- und Emotionserkennung (Absatz 3) hinzu.
1. Deepfakes (Bild, Video, Audio) – Art. 50 Abs. 4
Was verlangt wird: Deepfakes müssen als KI-generiert oder KI-manipuliert offengelegt werden, wenn sie realen Personen, Gegenständen, Orten oder Ereignissen täuschend ähneln und das Publikum sie fälschlicherweise für echt halten könnte. Die Kennzeichnung muss klar und für Betroffene rechtzeitig erkennbar sein.
Beispiele: Face-Swaps oder Stimmklone, fotorealistische KI-Models oder virtuelle Influencer, KI-generierte „Kundenstimmen“ oder Testimonials, realistisch wirkende Produktfotos mit KI-Personen, virtuell möblierte Wohnungen, manipulierte Videoaufnahmen echter Ereignisse.
Ausnahme: Reine technische Optimierung wie Zuschnitt, Belichtungs- oder Farbkorrektur, Rauschreduzierung, Skalierung oder Komprimierung, solange die Kernaussage des Bildes nicht verändert wird. Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder ähnlichen Werken reicht ein dezenter Hinweis auf die KI-Nutzung, solange er den Genuss des Werks nicht stört.
2. KI-Texte zu Themen von öffentlichem Interesse (Art. 50 Abs. 4)
Was verlangt wird: Wer KI-generierte oder KI-manipulierte Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, muss dies offenlegen, es sei denn, der Text wurde einer echten menschlichen redaktionellen Prüfung unterzogen und eine Person oder Organisation trägt dafür die redaktionelle Verantwortung. Die Kennzeichnung muss spätestens zum Zeitpunkt der Veröffentlichung klar erkennbar sein und darf nicht in AGB, Impressum oder versteckten Menüs verschwinden.
Beispiele: Automatisch veröffentlichte Nachrichtenartikel ohne Redaktion, KI-generierte News-Zusammenfassungen, unredigierte Beiträge zu Politik, Gesundheit oder Wirtschaft.
Ausnahme: Wird der Text vor Veröffentlichung inhaltlich geprüft und redaktionell verantwortet, entfällt die Kennzeichnungspflicht. Rein werbliche oder unternehmensbezogene Texte wie Produktbeschreibungen, Landingpages oder klassische Marketing-Blogposts fallen in der Regel ohnehin nicht unter diese enge Pflicht, solange sie nicht als unabhängige Berichterstattung auftreten.
3. Emotionserkennungssysteme und Systeme zur biometrischen Kategorisierung (Art. 50 Abs. 3)
Was verlangt wird: Wer ein System einsetzt, das Emotionen erkennt oder Personen anhand biometrischer Daten kategorisiert (z. B. nach vermuteter Herkunft, Geschlecht oder Zustand), muss die betroffenen Personen darüber informieren, dass sie einem solchen System ausgesetzt sind.
Beispiele: Videoanalyse im Handel, KI-gestützte Bewerbungsverfahren, Emotionsanalyse in Callcentern.
Ausnahme: Nicht erfasst sind Systeme, die gesetzlich zur Aufdeckung, Verhütung oder Untersuchung von Straftaten zugelassen sind
Was NICHT kennzeichnungspflichtig ist
In folgenden Fällen besteht in der Regel keine Kennzeichnungspflicht:
- KI-generierte Bilder, die erkennbar künstlerisch, stilisiert oder comichaft sind, sowie Icons, Infografiken und abstrakte Grafiken.
- KI-Texte, die redaktionell geprüft und von einem Menschen verantwortet werden (z. B. KI-Entwurf plus redaktionelle Überarbeitung).
- Nicht-öffentliche, rein interne oder private Nutzung von KI-Inhalten.
- Rein technische Bildbearbeitung wie Freistellen, Farbkorrektur oder gewöhnliche Retusche, sofern der Inhalt dadurch nicht wesentlich verändert wird
- Interne Präsentationen und Dokumente, die nicht entsprechend veröffentlicht werden
- KI-Unterstützung bei der normalen Bearbeitung eines bestehenden Inhalts, wenn die Eingabe bzw. deren Aussagegehalt nicht wesentlich verändert wird (z. B. Reale Produktfotos vor einem lediglich KI-generierten Hintergrund)
KI-Bilder kennzeichnen: Praxisbeispiele für Unternehmen
Diese KI-generierten Bilder sind kennzeichnungspflichtig
Bild 1: Fotorealistisches Foto einer Fotografin in einer Weinberglandschaft. Sowohl Person als auch Ort sind komplett KI-generiert, wirken aber realistisch genug, um real zu erscheinen.
Bild 2: KI-generiertes Kunden-Testimonial mit erfundenem Gesicht, erfundener Person und erfundenem Zitat. Die Darstellung suggeriert eine echte Kundenstimme, obwohl weder die Person noch die Aussage real sind.
Bild 3: KI-generiertes Bild des überschwemmten Marienplatzes. Der reale Ort wird mit einem Ereignis kombiniert, das nie stattgefunden hat, wodurch der Eindruck eines echten Geschehens entsteht.
Bild 3: Vollständig KI-generiertes Bild, in dem der Sessel deutlich hochwertiger dargestellt wird, als er tatsächlich ist. Kaufrelevante Merkmale wie Qualität, Größe oder Ausstattung dürfen durch KI nicht verfälscht werden. Hier drohen zwei Risiken gleichzeitig: die Kennzeichnungspflicht nach Art. 50 KI-VO und eine wettbewerbsrechtliche Abmahnung wegen Irreführung. Ein „KI-generiert“-Label macht eine inhaltlich falsche Produktdarstellung nicht automatisch zulässig.
Diese KI-generierten Bilder sind NICHT kennzeichnungspflichtig
Bild 5: Illustrierte Fotografin in Landschaft im Comic-Stil. Die Darstellung ist erkennbar gezeichnet und nicht fotorealistisch, daher besteht keine Verwechslungsgefahr mit einem echten Foto.
Bild 6: Ein echtes Foto mit KI-gestützter Belichtungs- oder Farbkorrektur, ohne inhaltliche Veränderung. Es handelt sich um reine technische Standardbearbeitung, die Kernaussage des Bildes bleibt unverändert.
Bild 7: Reale Tasse mit Firmenlogo vor unscharfem, KI-generiertem Hintergrund. Das Produkt selbst ist unverändert und originalgetreu abgebildet, der Hintergrund wurde lediglich zu ästhetischen Zwecken angepasst. Solche geringfügigen Anpassungen beeinträchtigen die Wahrnehmung der Authentizität nicht wesentlich, daher besteht regelmäßig keine Kennzeichnungspflicht.
Bild 8: Abstrakte Tech- und Marketing-Icon-Collage. Die Darstellung ist eindeutig als symbolhafte Grafik erkennbar und nicht als realistisches Foto, daher besteht keine Täuschungsgefahr.
Wie müssen KI-Inhalte gekennzeichnet werden?
Der AI Act schreibt keine bestimmte Methode vor, stellt aber drei Anforderungen an jede Kennzeichnung: Sie muss klar, unterscheidbar und spätestens bei der ersten Wahrnehmung des Inhalts erkennbar sein. Zusätzlich sollte Barrierefreiheit beachtet werden. Seit Juni 2026 stellt die EU-Kommission dafür drei standardisierte, kostenlose Icons bereit:
- „AI GENERATED“ für vollständig KI-erzeugte Inhalte,
- „AI MODIFIED“ für Mischformen aus menschlicher und KI-Bearbeitung sowie
- ein allgemeines „AI“-Basis-Icon.
Wer diese Icons nutzt, muss nicht separat begründen, warum die eigene Kennzeichnung „gleichwertig“ ist.
Weitere Risiken jenseits der KI-Kennzeichnungspflicht
1. Wettbewerbsrecht und Werbung
Produktbilder dürfen durch KI nicht so verändert werden, dass kaufrelevante Eigenschaften falsch dargestellt werden. Zeigt ein KI-generiertes Bild ein Produkt hochwertiger, größer oder funktionsreicher, als es tatsächlich ist, drohen zwei Risiken gleichzeitig: die Kennzeichnungspflicht nach Art. 50 KI-VO und eine wettbewerbsrechtliche Abmahnung wegen Irreführung. Ein „KI-generiert“-Label macht eine inhaltlich falsche Produktdarstellung dabei nicht automatisch zulässig.
2. Urheberrecht
Rein KI-generierte Texte, Bilder und Logos genießen in Deutschland grundsätzlich keinen urheberrechtlichen Schutz, da nach § 2 Abs. 2 UrhG eine persönliche geistige Schöpfung eines Menschen vorausgesetzt wird. Praktische Folge: Wettbewerber können reine KI-Ergebnisse häufig legal übernehmen oder abwandeln. Schutz kann nur entstehen, wenn ein Mensch das Ergebnis in erheblichem Maße kreativ weiterbearbeitet. Dieser menschliche Beitrag sollte entsprechend dokumentiert werden.
3. Bußgelder
Verstöße gegen die Transparenzpflichten aus Artikel 50 können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.
Haftung bei Influencer-Kooperationen: Wer trägt die KI-Kennzeichnungspflicht?
Bei KI-generierten Kooperationsinhalten ist meist der Influencer selbst der „Betreiber“ im Sinne der KI-Verordnung. Wer beruflich postet und Kooperationen eingeht, ist unmittelbar zur KI-Kennzeichnung nach Art. 50 AI Act verpflichtet. Für die klassische Werbekennzeichnung (UWG) kann daneben auch das beauftragende Unternehmen haften, da es die Kampagne beauftragt und von der Werbung profitiert. Wer mit Agenturen oder Creatorn zusammenarbeitet, sollte deshalb vertraglich absichern: eine Offenlegungspflicht des Dienstleisters bei jedem KI-Einsatz, klare Vorgaben zu Formulierung und Platzierung der Kennzeichnung, ein Verbot, technische KI-Markierungen zu entfernen, sowie eine Freistellungsklausel für den Fall, dass KI-Einsatz verschwiegen wird.
Wichtig: Die KI-Kennzeichnung ersetzt die Werbekennzeichnung nicht. Ein Beitrag mit KI-generiertem Werbeinhalt braucht beide Hinweise gleichzeitig.
Checkliste für die Praxis: KI-Inhalte richtig kennzeichnen
- Prüfen, ob ein Inhalt in eine der drei Pflichtkategorien fällt: Deepfake, unredigierter Text zu öffentlichem Interesse, Biometrie/Emotionserkennung.
- Bei KI-Textentwürfen: immer redaktionell prüfen und die Freigabe klar einer verantwortlichen Person zuordnen.
- Bei realistisch wirkenden KI-Bildern mit Personen, Orten oder Ereignissen: im Zweifel kennzeichnen.
- Kennzeichnung fest in den Inhalt einbetten, nicht nur in Bildunterschrift oder Begleittext – sonst geht sie bei Screenshots oder Downloads verloren.
- Nach Möglichkeit die offiziellen EU-Icons „AI“ / „AI GENERATED“ / „AI MODIFIED“ nutzen.
- Produktbilder zusätzlich auf wettbewerbsrechtliche Irreführung prüfen.
- Vorgaben zur Kennzeichnung auch mit externen Partnern und Influencern vertraglich regeln.
Frequently Asked Questions
Fragen & Antworten zum Thema KI-Kennzeichnungspflicht:
Nein, das ist ein weit verbreitetes Missverständnis. Der AI Act will verhindern, dass Menschen über Ursprung oder Echtheit von Inhalten getäuscht werden, deshalb greifen die Pflichten nur bei bestimmten Anwendungsfällen wie Deepfakes oder veröffentlichten KI-Texten von öffentlichem Interesse. Wer KI zum Beispiel nur für interne Dokumente oder Besprechungsprotokolle nutzt, unterliegt dadurch in der Regel keiner Kennzeichnungspflicht.
KI-generierte Texte, die der Information der Öffentlichkeit dienen, müssen als solche kenntlich gemacht werden, etwa durch einen sichtbaren und für Screenreader lesbaren Hinweis. Die Pflicht entfällt nur, wenn eine echte menschliche Überprüfung mit der Möglichkeit zur Änderung oder Ablehnung stattfindet und eine klar identifizierbare Person die redaktionelle Verantwortung übernimmt. Eine reine Rechtschreibprüfung reicht dafür nicht aus.
Deepfakes sind KI-generierte oder wesentlich manipulierte Bild, Video oder Audioinhalte, die realen Personen, Orten, Gegenständen, Einrichtungen oder Ereignissen ähneln und so realistisch wirken, dass sie als echt erscheinen könnten. Der Begriff wird weit ausgelegt und erfasst auch Elemente, die real existierenden Dingen nur ähneln oder plausibel erscheinen könnten. Ob ein Inhalt als Deepfake gilt, hängt zudem vom Kontext ab: bei fiktionalen Produktionen oder Werbung kann mangels Täuschungspotential ein anderer Maßstab gelten.
