KI-Kennzeichnungspflicht 2026: Pflichten, Ausnahmen & Praxisfälle

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act. Eine allgemeine Pflicht, sämtliche mit künstlicher Intelligenz erstellten oder bearbeiteten Inhalte offenzulegen, ist damit nicht verbunden. Ob eine Kennzeichnung nötig ist, entscheidet sich am Inhalt, am Verwendungszweck, am möglichen Täuschungspotenzial und an der Rolle des beteiligten Unternehmens.

Rechtsgrundlage ist die Verordnung EU 2024/1689. Im Juli 2026 hat die Europäische Kommission Leitlinien zur Anwendung der Transparenzpflichten nachgeschoben, die Anbieter, Betreiber, Systeme und Inhalte genauer abgrenzen.

Fünf Konstellationen, auf die es ankommt

Praktisch relevant sind fünf Situationen.

1. Ein Mensch kommuniziert direkt mit einer KI, etwa über Chatbot, Voicebot oder Avatar – ein Fall, der mit dem wachsenden Anteil KI-gestützter Kaufprozesse zunehmend auch im E-Commerce Bedeutung gewinnt.
2. Ein Bild, Video oder Audiofile ist als Deepfake einzuordnen und wird professionell veröffentlicht.
3. Ein KI-System erstellt oder verändert einen Text, mit dem die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informiert werden soll.
4. Ein Unternehmen setzt Emotionserkennung oder biometrische Kategorisierung ein.
5. Und schließlich die Anbieterseite: Wer ein generatives System bereitstellt, muss dessen Ausgaben technisch erkennbar und maschinenlesbar markieren.

Eine kompakte amtliche Übersicht liefert die Bundesnetzagentur zu den Transparenzpflichten nach Artikel 50, die europäische Kurzfassung steht in den Quick Facts der Kommission. Beide machen deutlich, dass je nach Situation völlig unterschiedliche Pflichten greifen.

Für gewöhnliche Produktbeschreibungen, interne Dokumente, unveröffentlichte Entwürfe oder rein sprachliche Korrekturen sieht Artikel 50 in aller Regel keine sichtbare Kennzeichnung vor. Wettbewerbsrecht, Datenschutz, Urheberrecht und Persönlichkeitsrecht gelten davon unabhängig weiter.

Der Begriff meint mehr als ein Hinweisschild

Gemeint sind Transparenzvorgaben, die Menschen erkennen lassen sollen, wann sie mit einem KI-System sprechen oder wann Inhalte künstlich erzeugt beziehungsweise manipuliert wurden. Das geht über sichtbare Zusätze wie „Mit KI erstellt“ hinaus und umfasst auch technische Markierungen, maschinenlesbare Herkunftsinformationen und Informationspflichten bei direkter Kommunikation.

In ihren Fragen und Antworten zu Artikel 50 trennt die Kommission fünf Stränge:

1. Transparenz bei direkter Interaktion
2. technische Markierung synthetischer Ausgaben
3. Information bei Emotionserkennung und biometrischer Kategorisierung
4. sichtbare Offenlegung von Deepfakes
5. Offenlegung bestimmter KI-Texte zu Themen von öffentlichem Interesse

Für alle gilt derselbe Qualitätsmaßstab: Der Hinweis muss klar, verständlich, unterscheidbar und barrierefrei sein und spätestens bei der ersten Interaktion oder ersten Wahrnehmung erfolgen.

Anbieter, Betreiber und die Rollenfrage im Agenturgeschäft

Der EU AI Act unterscheidet vor allem zwischen Anbietern und Betreibern.

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen oder eigener Marke auf den Markt. Wer ein generatives System anbietet, muss es so bauen, dass künstlich erzeugte oder manipulierte Ausgaben technisch erkennbar sind: über Metadaten, Herkunftsnachweise, digitale Signaturen, Wasserzeichen oder Markierungsstandards. Die Anforderung an Wirksamkeit, Zuverlässigkeit, Robustheit und Interoperabilität steht in Artikel 50 Absatz 2. Ergänzend gibt es den Verhaltenskodex zur Transparenz von KI-generierten Inhalten, der Anbieter bei der technischen Markierung und Betreiber bei der sichtbaren Kennzeichnung unterstützt. Die Teilnahme ist freiwillig, die Pflichten aus Artikel 50 bleiben davon unberührt.

Betreiber setzen ein System in eigener Verantwortung beruflich oder geschäftlich ein. In diese Rolle rutscht ein Unternehmen schnell: beim KI-Motiv für die Kampagne, beim Voicebot in der Hotline, beim veröffentlichten KI-Video, bei automatisiert erstellten Texten mit gesellschaftlichem Bezug, bei Emotionserkennung im Kundenkontakt.

Im Agenturgeschäft fallen die Rollen typischerweise auseinander. Die Agentur betreibt das System, das die Bilder erzeugt, das beauftragende Unternehmen verantwortet Freigabe, Veröffentlichung und Wettbewerbsrecht. Wer das erst nach dem Launch klärt, klärt es zu spät. Eine praxisnahe Einordnung für Agenturen, Händler und Unternehmen bietet der Leitfaden der IHK Nord Westfalen.

Der Werkzeugeinsatz allein löst nichts aus

Artikel 50 knüpft an Fallgruppen an, nicht an das verwendete Werkzeug. Dass eine KI beteiligt war, genügt für sich genommen nicht. Ein Text wird also nicht dadurch kennzeichnungspflichtig, dass eine KI die Gliederung vorgeschlagen, Rechtschreibfehler beseitigt, Formulierungen geglättet, übersetzt, interne Informationen zusammengefasst, Varianten erzeugt oder die Meta-Beschreibung getextet hat. Auch Fotorealismus macht aus einem Bild noch keinen Deepfake. Es kommt darauf an, ob das Motiv realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und dadurch fälschlicherweise als authentisch durchgehen kann. In ihren Erläuterungen zu Artikel 50 stellt die Kommission ausdrücklich klar, dass nicht sämtliche KI-Inhalte sichtbar gekennzeichnet werden müssen.

Chatbots müssen sich zu erkennen geben

Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die betroffene Person von der KI-Interaktion erfährt. Betroffen sind Chatbots auf Websites, Assistenten in Kundenportalen, automatisierte Support-Chats, Voicebots in Telefonhotlines, virtuelle Verkaufsassistenten, Terminvereinbarungssysteme und digitale Avatare.

Formal adressiert Artikel 50 Absatz 1 den Anbieter. Verantwortlich dafür, dass der Hinweis in der ausgelieferten Oberfläche tatsächlich sichtbar wird, ist in der Praxis trotzdem der Betreiber, denn die wenigsten Bots laufen im Auslieferungszustand.

Entbehrlich ist die Offenlegung, wenn für eine angemessen informierte und aufmerksame Person offensichtlich ist, dass sie mit einer Maschine spricht. Auf diese Ausnahme sollte man sich nur stützen, wenn die künstliche Natur wirklich eindeutig zutage tritt. Die Anforderungen an interaktive Systeme erläutert die Bundesnetzagentur im Detail.

Bewährte Formulierungen sind „Sie kommunizieren mit einem KI-System“, „Dieser Chat wird von einem automatisierten KI-Assistenten geführt“ oder in der Hotline „Sie sprechen mit einem automatisierten Voicebot“. Der Hinweis gehört an den Anfang und muss dort sichtbar oder hörbar sein. Ein Satz im Impressum, in der Datenschutzerklärung oder in den AGB erfüllt die Pflicht regelmäßig nicht. Und wenn das Gespräch später an einen Menschen übergeben wird, sollte auch dieser Wechsel erkennbar sein.

Die Deepfake-Definition und ihre Grenzen

Artikel 3 Nummer 60 des EU AI Act definiert den Deepfake als durch KI erzeugten oder manipulierten Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise authentisch oder wahr erscheinen kann.

In der Prüfung müssen mehrere Merkmale zusammenkommen: Der Inhalt stammt aus einem KI-System oder wurde wesentlich verändert. Er ähnelt etwas real Existierendem. Er kann den Eindruck erwecken, tatsächlich so entstanden zu sein. Und seine künstliche Herkunft ist für das Publikum nicht ohne Weiteres erkennbar.

Das erfundene Fantasiemotiv fällt damit heraus. Ein fotorealistisches Bild einer Landschaft, die es nicht gibt, bleibt außerhalb der Definition, solange es keine reale Situation nachahmt und nicht als Dokumentaraufnahme präsentiert wird. Kritisch wird es, sobald eine reale Person scheinbar etwas sagt, das sie nie gesagt hat, oder ein reales Produkt in einer erfundenen Anwendungssituation auftaucht, die wie ein echter Test wirkt. Weitere Beispiele sammelt die Analyse der IT-Recht-Kanzlei zu KI-Bildern und Deepfakes im Online-Shop.

Vier Fälle aus der Kampagnenpraxis

An der Grenze zwischen gewöhnlichem KI-Bild und kennzeichnungspflichtigem Deepfake entscheidet sich für Marketingabteilungen fast alles.

Erfundenes Kampagnenmotiv

Die Agentur generiert eine futuristische Fantasiestadt für eine Markenaktion. Kein realer Ort, keine Behauptung über ein tatsächliches Ereignis. Eine freiwillige Kennzeichnung kann als Transparenzsignal sinnvoll sein, aus der Deepfake-Regelung folgt sie nicht.

Virtuelle Person mit scheinbar echter Erfahrung

Ein fotorealistischer virtueller Mensch hält ein reales Produkt in die Kamera und berichtet von seinen Erfahrungen damit. Hier entsteht echtes Täuschungspotenzial, und neben der Deepfake-Regelung kommt das Verbot irreführender Werbung ins Spiel. Ein Hinweis wie „Die dargestellte Person wurde künstlich erzeugt“ gehört sichtbar ins Motiv. eRecht24 ordnet solche Fälle ausführlich ein.

Reales Produkt vor künstlichem Hintergrund

Der Artikel selbst bleibt unangetastet, Eigenschaften, Größe, Farbe und Funktion werden nicht verändert. Daraus entsteht nach aktueller Auslegung kein Deepfake. Die Frage bleibt, ob das Gesamtbild eine falsche Vorstellung über Produkt, Einsatzort oder ein tatsächliches Ereignis weckt. Die IT-Recht-Kanzlei zeigt an Shop-Beispielen, wo die Linie verläuft.

Erfundenes Produktergebnis

Ein KI-Video zeigt, wie ein Reinigungsmittel eine verkrustete Fläche in Sekunden blitzblank putzt. Dieser Versuch hat nie stattgefunden. Die Darstellung wirkt wie ein authentischer Produkttest, und selbst ein korrekter KI-Hinweis macht die Werbeaussage nicht zulässig. Neben Artikel 50 ist deshalb das Wettbewerbsrecht zu prüfen.

Form und Zeitpunkt der Offenlegung

Wer Deepfakes erzeugt oder manipuliert, muss offenlegen, dass der Inhalt künstlich erstellt oder verändert wurde. Artikel 50 Absatz 4 und 5 verlangt eine klare, deutlich unterscheidbare, barrierefreie und mediengerechte Offenlegung, spätestens bei der ersten Wahrnehmung. Zur Ausgestaltung äußern sich die Leitlinien der Kommission.

Bei Bildern gehört der Hinweis ins Motiv, direkt darunter oder in unmittelbare Nähe. Je nach Fall passt „Dieses Bild wurde mit KI erzeugt“, „Diese Darstellung wurde durch KI verändert“ oder „Die abgebildete Person ist nicht real“.

Videos brauchen eine erkennbare Einblendung am Anfang oder während der betreffenden Sequenz, bei längeren Formaten auch wiederholt. Der Satz am Ende einer langen Videobeschreibung reicht nicht, weil das Video längst ohne diesen Kontext gesehen und weitergereicht wird.

Bei synthetischen Stimmen und manipulierten Aufnahmen funktioniert ein gesprochener Hinweis vor dem Inhalt am besten: „Die folgende Stimme wurde künstlich erzeugt.“

Offensichtlich künstlerische, kreative, satirische oder fiktive Werke dürfen zurückhaltender gekennzeichnet werden, damit die Darstellung nicht beschädigt wird. Erkennbar bleiben muss der künstliche Ursprung jedoch auch dort.

EU-Symbole: freiwillig, aber nützlich

Die Kommission stellt Symbole für verschiedene Arten KI-generierter und KI-manipulierter Inhalte bereit, verwendbar bei Bild, Video, Audio und Text. Informationen und Downloads liegen auf der Seite Quick Facts: Transparency rules for AI systems. Ihre Nutzung ist freiwillig, und das Symbol allein trägt die Compliance nicht. Ob die Kennzeichnung klar, rechtzeitig, verständlich und barrierefrei ankommt, bleibt eine eigene Prüfung.

Plattformhinweise sind kein Freibrief

Die sozialen Netzwerke bieten inzwischen eigene KI-Labels an. Wer sie nutzt, hat einen Teil der Arbeit erledigt, aber nicht die Verantwortung abgegeben. Zu kontrollieren bleibt, ob der Hinweis schon bei der ersten Wahrnehmung sichtbar ist, ob er in der mobilen Ansicht lesbar bleibt, ob er eine Weiterverbreitung übersteht, ob er zwischen vollständig erzeugten und nur bearbeiteten Inhalten unterscheidet, ob er der tatsächlichen Veränderung entspricht und ob er barrierefrei ist. Hinzu kommen die Nutzungsbedingungen der Plattformen, die neben den gesetzlichen Anforderungen stehen und teilweise strenger sind. Diese zusätzliche Ebene beleuchtet der eRecht24-Beitrag zu KI-Inhalten und Urheberrecht.

Texte zu Angelegenheiten von öffentlichem Interesse

Eine eigene Pflicht trifft Texte, die ein KI-System erzeugt oder verändert hat und die veröffentlicht werden, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Geregelt ist das in Artikel 50 Absatz 4.

Darunter fallen je nach Kontext politische und gesellschaftliche Entwicklungen, Wahlen und demokratische Prozesse, öffentliche Gesundheit, Krisen und Katastrophen, öffentliche Sicherheit, Umwelt- und Klimathemen, wirtschaftliche Entwicklungen von breiter Bedeutung, staatliche Entscheidungen, öffentliche Infrastruktur und amtliche Informationen.

Der durchschnittliche Blogartikel oder Newsletter ist damit nicht gemeint. Maßgeblich ist, ob der Text die Öffentlichkeit über etwas informieren soll, das für die gesellschaftliche Meinungsbildung oder das öffentliche Leben Gewicht hat. Zur Abgrenzung äußert sich die Kommission in ihren Fragen und Antworten.

Die Ausnahme, auf die es für Redaktionen ankommt

Die Offenlegungspflicht entfällt, wenn der Text einer menschlichen Überprüfung unterzogen wurde, eine natürliche oder juristische Person die redaktionelle Verantwortung trägt und diese Kontrolle substanziell war statt nur formal.

Korrekturlesen genügt dafür nicht. Wer freigibt, muss den Sachverhalt verstanden haben, Quellen geprüft, Tatsachenbehauptungen bewertet und die Möglichkeit haben, den Text zu ändern oder ganz zu verwerfen. Entscheidend ist die Entscheidungshoheit über Inhalt, Quellen, Aussagen und Veröffentlichung. Die Einzelheiten stehen in den Leitlinien zu Artikel 50 und den FAQ der Kommission.

Für Agenturen ist das der praktisch wichtigste Satz des ganzen Artikels: Ein KI-unterstützter Fachbeitrag braucht keine Kennzeichnung, solange eine qualifizierte Redaktion den Inhalt vollständig prüft und die Veröffentlichung verantwortet.

Ein bestimmtes Freigabeformular schreibt das Gesetz nicht vor. Sinnvoll ist es trotzdem, festzuhalten, wer wann geprüft hat, welche Primärquellen herangezogen und welche Tatsachenbehauptungen kontrolliert wurden, was geändert wurde, wer freigegeben hat und wer die Veröffentlichung verantwortet. Dazu die archivierte Endfassung, die eingesetzten Systeme und der Umfang ihrer Beteiligung. Der Nebeneffekt: Beiträge, die diesen Weg gehen, sind besser belegt und zitierfähiger.

Produktbeschreibungen bleiben in der Regel außen vor

Was ein Online-Shop über ein Produkt schreibt, betrifft normalerweise keine Angelegenheit von öffentlichem Interesse. Eine sichtbare Kennzeichnung nach Artikel 50 Absatz 4 erübrigt sich deshalb meist, wenn die KI Produktmerkmale strukturiert, Herstellerangaben zusammenfasst, übersetzt, Formulierungen verbessert oder Varianten für verschiedene Produktseiten erzeugt. Die IHK Nord Westfalen ordnet diesen und weitere Praxisfälle entsprechend ein. Inhaltliche Freiheit folgt daraus nicht. Erfundene Prüfsiegel, nicht vorhandene Produkteigenschaften, generierte Kundenbewertungen, falsche Lieferzusagen, ausgedachte Testergebnisse und manipulierte Vorher-Nachher-Bilder bleiben unzulässig, mit oder ohne KI-Label. Darauf weist die IT-Recht-Kanzlei ausdrücklich hin.

Interne Dokumente

Memos, Entwürfe, Ideensammlungen und Abstimmungsunterlagen werden nicht veröffentlicht, um die Öffentlichkeit zu informieren. Sie fallen daher nicht unter die Kennzeichnungspflicht für öffentlich relevante Texte. Das ändert sich, sobald ein internes Papier später veröffentlicht, an Presseverteiler geschickt oder einem großen externen Empfängerkreis zugänglich gemacht wird. Unabhängig von Artikel 50 spielen bei internen Anwendungen Datenschutz, Informationssicherheit, der Schutz von Geschäftsgeheimnissen, Arbeitsrecht, betriebliche Mitbestimmung, vertragliche Verschwiegenheit und Dokumentationspflichten hinein. Das Zusammenspiel von KI-Verordnung und Datenschutzrecht skizziert der Überblick des BfDI.

Emotionserkennung und biometrische Kategorisierung

Wer Systeme einsetzt, die aus Gesichtsausdruck, Stimme, Bewegung oder anderen biometrischen Merkmalen emotionale Zustände oder Kategorien ableiten, muss die betroffenen Personen über deren Betrieb informieren. Die Pflicht steht in Artikel 50 Absatz 3. Davon streng zu trennen ist die Zulässigkeit. Bestimmte Einsatzformen sind komplett verboten, etwa Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen. Eine Übersicht dazu führt die Bundesnetzagentur in ihren Fragen und Antworten.

Zwei Ebenen, die oft verwechselt werden

Die technische Markierung betrifft in erster Linie Anbieter generativer Systeme. Synthetische Ausgaben sollen maschinenlesbar erkennbar sein, über Herkunftsmetadaten, kryptografische Nachweise, digitale Signaturen, robuste Wasserzeichen oder offene Standards.

Die sichtbare Offenlegung betrifft dagegen konkrete Anwendungsfälle wie Deepfakes und öffentlich relevante Texte. Sie soll dafür sorgen, dass ein Mensch den künstlichen Ursprung sofort bemerkt. Unsichtbare Metadaten erfüllen diese Betreiberpflicht nicht, sie ergänzen sie höchstens. Den Unterschied arbeitet der Verhaltenskodex zur Transparenz von KI-Inhalten im Detail heraus.

Praxisübersicht

Weitere Unternehmensbeispiele enthält der Praxisleitfaden der IHK Nord Westfalen.

Vom Systeminventar zur Freigabeschleife

Am Anfang steht eine Bestandsaufnahme: Welche KI-Systeme laufen tatsächlich in Marketing, Vertrieb, Kundenservice, Personal, Kommunikation und internen Prozessen, inklusive der Tools, die einzelne Teams auf eigene Faust abonniert haben? Für jedes davon ist zu klären, ob das Unternehmen als Anbieter, Betreiber, Importeur, Händler oder Auftraggeber auftritt.

Danach lassen sich die Inhalte den Fallgruppen des Gesetzes zuordnen: interaktive Systeme, synthetische Medien, Deepfakes, öffentlich relevante Texte, Emotionserkennung, biometrische Kategorisierung. Für jede Gruppe sollten abgestimmte Formulierungen bereitliegen, sonst erfindet jede Abteilung ihre eigenen Hinweise.

Bei Fachartikeln, Presseinformationen und gesellschaftlich relevanten Inhalten muss festgelegt sein, wer Quellen prüft, Tatsachen freigibt und die Veröffentlichung verantwortet. Technische Herkunftsinformationen sollten Export, Bearbeitung und Upload überleben, denn Metadaten gehen in der Produktionskette gern verloren.

Agenturverträge regeln idealerweise, wer über den KI-Einsatz entscheidet, wer prüft, wer kennzeichnet, wer technische Nachweise speichert, wer freigibt und wer bei Fehlern informiert wird. Schulungsbedarf besteht vor allem in Marketing, Social Media, Kundenservice, Redaktion, Unternehmenskommunikation, Einkauf, Personalabteilung sowie Datenschutz und Compliance. Material dafür stellt der KI-Service-Desk der Bundesnetzagentur bereit.

Vor der Veröffentlichung reichen dann wenige Prüffragen. Spricht jemand direkt mit einem KI-System? Kann ein Bild, Video oder Audioinhalt als authentische Darstellung von etwas Realem verstanden werden? Wurde der Inhalt erzeugt oder wesentlich manipuliert? Informiert ein KI-Text über eine Angelegenheit von öffentlichem Interesse, und hat ihn jemand substanziell geprüft? Wer verantwortet die Veröffentlichung, greift der Hinweis bei der ersten Wahrnehmung, und ist er mobil wie barrierefrei zugänglich?

Bußgelder bis 15 Millionen Euro

Verstöße gegen die Transparenzpflichten können nach Artikel 99 des EU AI Act mit Geldbußen bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden. Welche Obergrenze greift, hängt unter anderem von der Unternehmensgröße und den gesetzlichen Berechnungsregeln ab.

In die Bemessung fließen Art und Schwere des Verstoßes ein, seine Dauer, die Zahl der betroffenen Personen, der entstandene Schaden, der Grad der Verantwortung, die Kooperation mit den Behörden, frühere Verstöße, die wirtschaftliche Leistungsfähigkeit und die Maßnahmen zur Schadensbegrenzung. Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein, für kleine und mittlere Unternehmen gelten Sonderregelungen.

Die Bundesnetzagentur als zentrale Stelle

Seit Juli 2026 übernimmt die Bundesnetzagentur die zentrale Rolle bei der Umsetzung der KI-Verordnung in Deutschland: als Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle. Grundlage ist das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, die Einzelheiten nennt die Pressemitteilung vom 29. Juli 2026. In bereits regulierten Bereichen kommen Fachbehörden hinzu, je nach Anwendung etwa Datenschutzaufsichts-, Medienaufsichts- oder Finanzaufsichtsbehörden.

Zeitplan

Die Verordnung EU 2024/1689 trat am 1. August 2024 in Kraft. Anwendbar wurden die Transparenzpflichten aus Artikel 50 am 2. August 2026, seither gelten die Regeln für interaktive Systeme, maschinenlesbare Markierungen, Deepfakes, öffentlich relevante KI-Texte, Emotionserkennung und biometrische Kategorisierung. Den Beginn der Anwendung bestätigte die Kommission in ihrer Mitteilung vom 31. Juli 2026.

Andere Teile des AI Act folgen eigenen Fristen. Anforderungen an bestimmte Hochrisiko-Systeme greifen nach aktueller Planung teils erst ab Dezember 2027 oder August 2028. Den Stand führt die Kommission auf ihrer Seite zum Regulierungsrahmen für künstliche Intelligenz.

FAQ