Die KI-Kennzeichnungspflicht nach Artikel 50 der EU-KI-Verordnung (AI Act) gilt seit dem 2. August 2026. Sie verlangt einen Hinweis bei Chatbots, bei täuschend echten Bildern, Videos und Tonaufnahmen (Deepfakes) und bei KI-Texten zu Themen von öffentlichem Interesse, die kein Mensch vorher geprüft hat. Für die meisten Texte eines Unternehmens heißt das: kein Label.
Voraussetzung ist, dass ein Mensch den Inhalt vor der Veröffentlichung prüft und die Firma dafür geradesteht. Was genau darunterfällt, wer handeln muss, wie der Hinweis aussieht und was ein Verstoß kostet, steht hier. Grundlage sind der Verordnungstext und die Leitlinien der EU-Kommission zu Artikel 50.
Inhaltsverzeichnis
- Was muss nach dem AI Act gekennzeichnet werden?
- Muss man KI-Texte kennzeichnen?
- Wann entfällt die Kennzeichnung bei KI-Texten?
- Was gilt für Chatbots auf der Website?
- Was gilt für KI-Bilder und Videos?
- Wie muss die KI-Kennzeichnung aussehen?
- Ab wann gilt die Pflicht, und gilt sie rückwirkend?
- Was droht bei einem Verstoß?
- Fazit
- Quellen
- Häufige Fragen
Was muss nach dem AI Act gekennzeichnet werden?
Gekennzeichnet werden Gespräche mit einer KI, täuschend echte KI-Bilder, -Videos und -Tonaufnahmen sowie KI-Texte zu Themen von öffentlichem Interesse, die niemand redaktionell verantwortet. Dazu kommt eine technische Markierung, die aber nicht der Nutzer setzt, sondern der Hersteller des KI-Werkzeugs.
| Fall | Wer muss handeln | Was verlangt ist |
|---|---|---|
| Gespräch mit einer KI (Chatbot, Telefonassistent) | Anbieter des Systems (Art. 50 Abs. 1) | Hinweis, dass man mit einer KI spricht, spätestens bei der ersten Interaktion |
| KI-erzeugte Inhalte aller Art | Anbieter des Werkzeugs (Art. 50 Abs. 2) | maschinenlesbare Markierung, etwa Wasserzeichen oder Metadaten |
| Deepfakes (Bild, Video, Ton) | Betreiber, also wer das Werkzeug nutzt (Art. 50 Abs. 4) | sichtbarer Hinweis, dass der Inhalt künstlich erzeugt oder verändert ist |
| KI-Texte zu Themen von öffentlichem Interesse | Betreiber (Art. 50 Abs. 4) | sichtbarer Hinweis, entfällt bei menschlicher Prüfung und redaktioneller Verantwortung |
Die Unterscheidung zwischen Anbieter und Betreiber entscheidet, wer was tun muss. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung nutzt. Wer im Büro mit Langdock, ChatGPT oder Copilot arbeitet, ist Betreiber. Um Wasserzeichen und Metadaten muss er sich nicht kümmern, das ist Sache des Herstellers. Seine Pflichten sind der sichtbare Hinweis bei Deepfakes und bei bestimmten Texten. Die beiden übrigen Betreiberpflichten aus Artikel 50 betreffen Emotionserkennung und biometrische Kategorisierung und kommen im Büroalltag kaum vor.
Muss man KI-Texte kennzeichnen?
Nur in einem engen Fall: Der Text wird veröffentlicht, er soll informieren, und sein Thema ist von öffentlichem Interesse. Selbst dann entfällt der Hinweis, wenn ein Mensch den Text vor der Veröffentlichung inhaltlich geprüft hat und eine Person oder ein Unternehmen die redaktionelle Verantwortung trägt.
Veröffentlicht heißt: für einen unbestimmten Kreis von Lesern. Interne Texte, Mails an Kunden und Nachrichten in geschlossenen Gruppen fallen nicht darunter. Als Themen von öffentlichem Interesse zählen die Leitlinien Politik, Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umwelt und Verbraucherschutz auf, dazu jede wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklung, über die öffentlich debattiert wird. Die Kommission nennt Beispiele für beide Seiten:
Kennzeichnung nötig (ohne menschliche Prüfung)
- KI-Zusammenfassung eines Zeitungsartikels über einen Ratsbeschluss
- mit KI bearbeiteter Ratgeber, der Diäten bei einer Krankheit vergleicht
- Berichte börsennotierter Unternehmen an Anleger
Keine Kennzeichnung nötig
- Werbe- und Produkttexte ohne Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit
- ein Gutachten für einen einzelnen Mandanten
- Antworten eines Chatbots an die Person, die gefragt hat
- Romane und andere fiktionale Texte
Der Fachartikel im Firmenblog steht in keiner der beiden Listen. Ein Text über eine neue Sicherheitslücke oder ein neues Gesetz kann aber gut als öffentliches Interesse gelten. Verlässlicher als die Frage, ob das Thema öffentlich genug ist, ist deshalb die Ausnahme im nächsten Abschnitt.
Wann entfällt die Kennzeichnung bei KI-Texten?
Die Kennzeichnung entfällt, wenn zwei Bedingungen gemeinsam erfüllt sind: Ein Mensch hat den Text vor der Veröffentlichung inhaltlich geprüft, und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung. Das Unternehmen selbst kann diese Person sein.
- Inhaltliche Prüfung: Jemand mit Fachwissen liest den Text bewusst und prüft die Fakten. Den Faktencheck nennen die Leitlinien ausdrücklich eine Mindestanforderung. Wer prüft, muss freigeben, ändern oder ablehnen können.
- Redaktionelle Verantwortung: Wer letztlich rechtlich geradesteht, ist mit Namen und Kontakt auffindbar, etwa im Impressum.
Nicht ausreichend sind laut Kommission eine Rechtschreibprüfung, eine bloße Redaktionsrichtlinie, eine automatisierte Prüfung und ein flüchtiges Durchwinken. Und die Ausnahme fällt weg, wenn eine KI den Text nach der Freigabe noch wesentlich verändert.
Ein Programm, das ein anderes Programm prüft, ist keine Redaktion.
Das betrifft vor allem automatische Abläufe: KI-Texte, die ohne menschliche Freigabe als Newsletter, Social-Media-Beitrag oder Website-Meldung erscheinen. Für sie greift die Ausnahme nicht. Wer solche Abläufe hat, braucht dort entweder einen Menschen vor der Veröffentlichung oder einen sichtbaren Hinweis.
Praxis-Tipp
Halten Sie fest, wer einen KI-Text geprüft und freigegeben hat und wann. Die Leitlinien verlangen keine Dokumentation, der Verhaltenskodex der EU zu KI-Inhalten sieht aber interne Abläufe und Nachweise vor. Ein Feld „geprüft von“ im Redaktionsplan reicht dafür.
So halten wir es bei HÖLL: Unsere Blogartikel entstehen mit KI-Unterstützung. Bevor einer erscheint, prüft ihn ein Mensch auf Fakten und Aussagen, und die HÖLL Office GmbH steht als Herausgeberin im Impressum. Deshalb tragen unsere Artikel kein KI-Label.
Was gilt für Chatbots auf der Website?
Ein Chatbot muss spätestens bei der ersten Interaktion klar sagen, dass hier eine KI antwortet. Einmal zu Beginn des Gesprächs reicht. Die Pflicht trifft den Anbieter des Systems, und Anbieter ist auch, wer einen Chat selbst entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt.
Den häufigen Fall, dass ein Unternehmen einen Chat auf Basis eines fremden Sprachmodells unter eigener Marke auf die Website stellt, behandeln die Leitlinien nicht ausdrücklich. Praktisch spielt das kaum eine Rolle: Der Hinweis kostet einen Satz im Chatfenster. Nicht genügen laut Kommission ein pauschaler Satz wie „Dienste auf dieser Website nutzen KI“, ein Verweis auf „Sprachmodelle“ oder die bloße Bezeichnung „Assistent“. Ohne Hinweis geht es nur, wenn für einen aufmerksamen Nutzer ohnehin offensichtlich ist, dass er mit einer Maschine spricht. Darauf sollte man sich bei einem Chatfenster nicht verlassen.
Praxis-Tipp
Ein Hinweis, der reicht, steht als erste Nachricht im Chat: „Sie schreiben mit einem KI-Assistenten. Er kann sich irren. Verbindliche Auskünfte bekommen Sie von unserem Team.“ Dazu der Weg zum Menschen, als Telefonnummer oder Kontaktformular.
Was gilt für KI-Bilder und Videos?
Ein KI-Bild braucht einen Hinweis, wenn es ein Deepfake ist. Das Gesetz versteht darunter einen durch KI erzeugten oder veränderten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Ob jemand täuschen wollte, spielt keine Rolle.
Eine erkennbar gezeichnete Illustration fällt deshalb in aller Regel nicht darunter. Ein KI-Produktfoto, das die Ware schöner zeigt, als sie ist, dagegen schon, ebenso ein realistischer KI-Avatar des Geschäftsführers. Kleine Eingriffe wie Licht, Farbe oder ein aufgeräumter Hintergrund machen aus einem echten Foto noch keinen Deepfake.
Wie muss die KI-Kennzeichnung aussehen?
Der Hinweis muss klar und unterscheidbar sein und spätestens dann erscheinen, wenn jemand den Inhalt zum ersten Mal sieht oder mit der KI spricht. Er muss auffallen, verständlich und barrierefrei sein. Versteckt in den AGB, in einem Menü oder in einer Fußnote genügt er nicht.
- Bei Texten: nahe der Überschrift oder direkt an dem Teil, den die KI erzeugt hat.
- Bei Bildern: auf dem Bild oder unmittelbar daneben, etwa „KI-generiert“ in der Bildunterschrift.
- Bei Videos: am Anfang, bei längeren Videos auch wiederholt.
- Bei Chatbots: einmal zu Beginn des Gesprächs.
Der Verhaltenskodex der EU schlägt dafür ein gemeinsames Symbol mit der Aufschrift „AI“ oder ein gleichwertiges Label vor. Wasserzeichen und Metadaten, die ein KI-Werkzeug selbst einbettet, ersetzen den sichtbaren Hinweis nicht.
Ab wann gilt die Pflicht, und gilt sie rückwirkend?
Die Pflichten aus Artikel 50 gelten seit dem 2. August 2026, für den Chatbot-Hinweis und für den Hinweis bei Deepfakes und Texten ohne Aufschub. Der Digital Omnibus hat nur für die technische Markierung durch die Hersteller eine Übergangsfrist geschaffen: Für KI-Werkzeuge, die schon vor dem 2. August 2026 auf dem Markt waren, gilt sie ab dem 2. Dezember 2026.
Rückwirkend gilt die Pflicht nicht. Inhalte, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden, müssen nicht nachträglich gekennzeichnet werden. Die Kommission empfiehlt es aber, wo es ohne großen Aufwand geht. Wer einen älteren KI-Text erst jetzt veröffentlicht, muss ihn nach den neuen Regeln behandeln.
KI-Kennzeichnung im eigenen Unternehmen prüfen
- Gibt es einen Chatbot oder Telefonassistenten? Dann steht der Hinweis in der ersten Nachricht.
- Gibt es Abläufe, die KI-Texte ohne menschliche Freigabe veröffentlichen? Dann einen Menschen davorsetzen oder kennzeichnen.
- Prüft bei KI-Texten jemand die Fakten, bevor sie erscheinen? Wer das ist, steht im Redaktionsplan.
- Zeigen KI-Bilder echte Mitarbeitende, Produkte oder Räume, die so nicht existieren? Dann braucht das Bild ein Label.
- Steht im Impressum, wer für die Inhalte verantwortlich ist?
- Steht die Kennzeichnung in der KI-Richtlinie, und kennen die Mitarbeitenden die Regel?
Die letzte Frage ist die wichtigste, weil die Pflicht im Alltag an den Mitarbeitenden hängt, die Texte und Bilder erzeugen. Wie eine solche Regel in eine KI-Nutzungsrichtlinie fürs Unternehmen kommt, steht dort. Wie Teams lernen, KI sicher und rechtskonform einzusetzen, zeigt HÖLL aus Baden-Baden im KI-Trainingsprogramm für Unternehmen. Die Schulung selbst ist seit Februar 2025 Pflicht, mehr dazu im Artikel zur KI-Kompetenzpflicht nach Artikel 4.
Was droht bei einem Verstoß?
Verstöße gegen Artikel 50 können mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Für große Unternehmen gilt der höhere der beiden Werte, für kleine und mittlere Unternehmen der niedrigere.
300.000 €
wären bei einem Mittelständler mit 10 Millionen Euro Jahresumsatz die Obergrenze, nicht 15 Millionen: Für KMU zählen 3 Prozent, wenn das weniger ist. Quelle: Art. 99 AI Act, Leitlinien der EU-Kommission zu Art. 50
In Deutschland überwacht die Bundesnetzagentur die Regeln. Das KI-Marktüberwachungsgesetz ist seit dem 29. Juli 2026 in Kraft. Unabhängig vom AI Act kann ein KI-Bild, das ein Produkt falsch zeigt, außerdem irreführende Werbung nach dem UWG sein.
Fazit
Die KI-Kennzeichnungspflicht ist enger, als viele denken. Ein Unternehmen, das KI-Texte vor der Veröffentlichung von einem Menschen prüfen lässt und im Impressum für seine Inhalte geradesteht, braucht dafür kein Label. Pflicht ist der Hinweis im Chatbot und bei Bildern, Videos und Stimmen, die jemand für echt halten könnte. Die Lücke liegt meist dort, wo etwas automatisch veröffentlicht wird. Den Datenschutz regelt der AI Act nicht, er kommt hinzu: Was die DSGVO beim KI-Einsatz verlangt, steht im Artikel KI und DSGVO. Wer seine KI-Projekte von der Plattform bis zur Richtlinie aus einer Hand aufsetzen will, findet bei den IT-Lösungen von HÖLL den Einstieg.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 60, Art. 50, Art. 99: eur-lex.europa.eu
- EU-Kommission: Leitlinien zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen (Art. 50), insbesondere Rn. 10–16, 32–38, 113–117, 130–138, 141–143, 152–154: digital-strategy.ec.europa.eu
- EU-Kommission: Code of Practice on Transparency of AI-Generated Content: digital-strategy.ec.europa.eu
- Bundesnetzagentur: Verhaltenskodex zur Transparenz KI-generierter Inhalte: bundesnetzagentur.de
- CMS: Wettbewerbsrechtliche Zulässigkeit von KI-gestützter Werbung: cms.law
Stand: 13. November 2026. Dieser Artikel ersetzt keine Rechtsberatung.
Häufige Fragen
Muss ich E-Mails an Kunden kennzeichnen, die ich mit KI geschrieben habe?
Nein. Die Kennzeichnungspflicht für Texte gilt nur für Veröffentlichungen an einen unbestimmten Kreis von Lesern. Eine Mail an einen Kunden ist keine Veröffentlichung.
Gilt die Pflicht auch für Texte, die nur teilweise mit KI geschrieben sind?
Ja, auch von KI überarbeitete Texte können darunterfallen. Eines der Beispiele der Kommission ist ein mit KI bearbeiteter Ratgeber. Entscheidend bleibt, ob ein Mensch den fertigen Text vor der Veröffentlichung inhaltlich geprüft hat.
Muss ich selbst ein Wasserzeichen in KI-Inhalte einbauen?
Nein. Die maschinenlesbare Markierung ist Pflicht der Hersteller von KI-Werkzeugen. Wer die Werkzeuge nutzt, muss nur den sichtbaren Hinweis setzen, wo das Gesetz ihn verlangt.
Gilt die KI-Kennzeichnung auch für LinkedIn- und Instagram-Beiträge?
Ja, für Beiträge in sozialen Netzwerken gelten dieselben Regeln: Hinweis bei Deepfakes und bei Texten zu Themen von öffentlichem Interesse ohne menschliche Prüfung. Die Plattformen haben zusätzlich eigene Regeln und Labels.
Wer kontrolliert die KI-Kennzeichnung in Deutschland?
Die Bundesnetzagentur. Sie ist nach dem KI-Marktüberwachungsgesetz, in Kraft seit dem 29. Juli 2026, die zuständige Marktüberwachungsbehörde.
