12 MIN.
KI-Inhalte kennzeichnen: Was Unternehmen seit August 2026 wirklich beachten müssen
Sie sehen gerade einen Platzhalterinhalt von Youtube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSeit dem 2. August 2026 gelten neue Transparenzpflichten aus dem europäischen AI Act. Viele Unternehmen sind deshalb verunsichert. Müssen sie künftig sämtliche KI-Inhalte kennzeichnen? Betrifft das auch einfache Social-Media-Texte, Produktbeschreibungen oder Bilder aus einem KI-Generator?
Nein, Unternehmen müssen nicht pauschal sämtliche KI-Inhalte kennzeichnen. Entscheidend ist nicht allein, ob KI beteiligt war. Entscheidend ist, welche Art von Inhalt veröffentlicht wird, ob er täuschend echt wirken kann und ob ein Mensch die Verantwortung dafür übernimmt.
Genau darin liegt der wichtigste Punkt: Ein KI-Hinweis ersetzt keinen funktionierenden Prüfprozess.
KI-Inhalte kennzeichnen: Seit wann gelten die neuen Regeln?
Die zentralen Transparenzpflichten stehen in Artikel 50 des europäischen AI Acts. Sie gelten seit dem 2. August 2026 und betreffen bestimmte interaktive KI-Systeme, generative KI-Anwendungen, Deepfakes sowie KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse. Die Verordnung unterscheidet zwischen Anbietern und Betreibern von KI-Systemen.
Anbieter entwickeln ein KI-System oder bringen es unter ihrem eigenen Namen auf den Markt. Betreiber sind Unternehmen, Behörden, Selbstständige oder andere Organisationen, die ein KI-System im beruflichen Zusammenhang einsetzen.
Ein Unternehmen, das ChatGPT, einen KI-Bildgenerator oder einen KI-Avatar für sein Marketing verwendet, kann daher als Betreiber des jeweiligen Systems gelten. Einzelne Beschäftigte gelten dabei normalerweise nicht als eigenständige Betreiber, wenn sie das System im Auftrag und unter der Verantwortung ihres Unternehmens nutzen.
Für Unternehmen stellt sich damit nicht nur die Frage, welches Tool eingesetzt wird. Sie müssen auch prüfen, was mit diesem Tool erstellt wird und wie der fertige Inhalt anschließend veröffentlicht wird.
Viele Unternehmen denken bei der neuen Kennzeichnungspflicht in zwei einfachen Kategorien:
Mit KI erstellt oder ohne KI erstellt.
Diese Einteilung ist jedoch zu ungenau. Schon heute steckt KI in zahlreichen Anwendungen, ohne dass Nutzer sie bewusst als KI-Werkzeug wahrnehmen. Rechtschreibprogramme korrigieren Texte automatisch. Bildbearbeitungsprogramme entfernen Hintergründe. Videosoftware optimiert Tonspuren. Übersetzungsprogramme übertragen Texte in andere Sprachen.
Stattdessen sollten Unternehmen andere Fragen stellen:
- Kommuniziert eine Person direkt mit einem KI-System?
- Könnte ein künstlicher Inhalt fälschlicherweise für echt gehalten werden?
- Informiert ein Text die Öffentlichkeit über ein relevantes gesellschaftliches Thema?
- Wurde der Inhalt fachlich und redaktionell durch einen Menschen geprüft?
Diese Fragen führen deutlich näher an die tatsächlichen Transparenzpflichten heran.
Wann muss ein KI-Chatbot gekennzeichnet werden?
Menschen sollen erkennen können, wenn sie direkt mit einem KI-System kommunizieren. Das betrifft zum Beispiel Chatbots, KI-Agenten, Sprachassistenten und digitale Avatare.
Die Information muss spätestens zu Beginn der ersten Interaktion klar und verständlich erfolgen. Nur wenn für eine durchschnittlich informierte Person offensichtlich ist, dass sie mit einer KI interagiert, kann ein zusätzlicher Hinweis entfallen. Die EU-Kommission empfiehlt jedoch, diese Ausnahme zurückhaltend auszulegen.
Unternehmen, die einen externen Chatbot einbinden, sollten deshalb kontrollieren, ob die Information tatsächlich beim Start des Chats angezeigt wird. Sie sollten sich nicht automatisch darauf verlassen, dass der jeweilige Tool-Anbieter alles korrekt umgesetzt hat.
Muss jedes KI-Bild gekennzeichnet werden?
Nein. Ein KI-generiertes Bild ist nicht automatisch ein kennzeichnungspflichtiger Deepfake.
Ob Unternehmen solche KI-Inhalte kennzeichnen müssen, hängt vor allem davon ab, ob das Bild eine reale oder realistisch vorstellbare Person, einen Ort, ein Objekt, ein Unternehmen oder ein Ereignis nachbildet und dabei fälschlicherweise authentisch wirken kann.
Ein Deepfake liegt nach der Definition des AI Acts insbesondere dann vor, wenn Bild-, Audio- oder Videoinhalte bestehenden oder plausibel existierenden Personen, Objekten, Orten oder Ereignissen ähneln und von Betrachtern irrtümlich für echt oder wahr gehalten werden könnten.
Dazu können beispielsweise folgende Inhalte gehören:
- Ein KI-Video zeigt einen Geschäftsführer mit Aussagen, die er nie gemacht hat.
- Die Stimme einer realen Mitarbeiterin wird künstlich geklont.
- Eine Person wird in eine Situation oder an einen Ort gesetzt, an dem sie nie war.
- Eine angeblich echte Veranstaltung wird fotorealistisch dargestellt, obwohl sie nie stattgefunden hat.
- Eine Immobilie oder ein Produkt wird mit Eigenschaften gezeigt, die es in Wirklichkeit nicht besitzt.
In diesen Fällen müssen Unternehmen die KI-Inhalte kennzeichnen, weil bei Betrachtern der Eindruck entstehen könnte, die Darstellung sei echt. Eine unsichtbare Markierung in den Dateidaten genügt dafür nicht. Die Kennzeichnung muss ohne zusätzliche technische Hilfsmittel wahrnehmbar sein.
Anders kann es bei offensichtlich fiktionalen, satirischen oder künstlerischen Werken aussehen. Auch hier kann eine Offenlegung erforderlich sein. Sie darf jedoch so gestaltet werden, dass sie die Wahrnehmung des Werks nicht unnötig beeinträchtigt.
Wann müssen Unternehmen KI-Inhalte kennzeichnen, die im Marketing verwendet werden?
Ein abstrakter Hintergrund, eine Fantasielandschaft oder eine deutlich stilisierte Illustration muss nicht automatisch als Deepfake gekennzeichnet werden.
Der Kontext ist entscheidend.
Ein Bild eines schwebenden Schlosses über einer Wolkenlandschaft wird kaum jemand für eine dokumentarische Aufnahme halten. Ein fotorealistisches Bild des vermeintlichen neuen Firmensitzes könnte dagegen einen falschen Eindruck erwecken, wenn das dargestellte Gebäude gar nicht existiert.
Auch ohne ausdrückliche Kennzeichnungspflicht darf Werbung nicht irreführend sein. Ein KI-Hinweis macht eine falsche Darstellung nicht automatisch zulässig.
Zeigt eine Werbeanzeige ein Produkt mit Funktionen, die es tatsächlich nicht besitzt, bleibt die Aussage problematisch. Dass das Bild mit KI erstellt wurde, ändert nichts an seiner möglichen Täuschungswirkung.
KI-Inhalte kennzeichnen: Was gilt für Blogartikel und Informationstexte?
Bei Texten wird es besonders interessant.
Nicht jeder mit ChatGPT vorbereitete Blogartikel braucht automatisch einen KI-Hinweis. Eine Kennzeichnung wird nach Artikel 50 insbesondere dann relevant, wenn ein Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Ob Unternehmen solche KI-Inhalte kennzeichnen müssen, kann insbesondere bei den folgenden Themen relevant werden:
Ein rein werblicher Text über ein neues Produkt oder eine gewöhnliche Social-Media-Caption fällt nicht automatisch in diese Kategorie. Ein ausführlicher Artikel über Gesundheit, Recht, Verbraucherschutz oder politische Entwicklungen kann dagegen sehr wohl betroffen sein.
Für Unternehmen gibt es allerdings eine entscheidende Ausnahme.
Wurde der Inhalt durch einen Menschen fachlich überprüft oder redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, muss der Text nach Artikel 50 grundsätzlich nicht als KI-generiert gekennzeichnet werden.
KI-Inhalte kennzeichnen oder prüfen: Reicht eine kurze menschliche Kontrolle aus?
Nein, ein Text gilt nicht bereits als fachlich geprüft, nur weil ein Mitarbeiter ihn geöffnet, überflogen oder auf Rechtschreibfehler kontrolliert hat.
Die EU-Kommission unterscheidet ausdrücklich zwischen einer substanziellen menschlichen Prüfung und einer rein formalen Kontrolle.
Eine ausreichende menschliche Prüfung umfasst beispielsweise:
- Aussagen und Zahlen kontrollieren
- Quellen auf Vertrauenswürdigkeit prüfen
- fachliche Fehler korrigieren
- missverständliche Aussagen überarbeiten
- unbelegte Behauptungen entfernen
- den Inhalt an den tatsächlichen Kontext anpassen
- den Text inhaltlich freigeben oder ablehnen
Eine reine Rechtschreibprüfung, eine Grammatik-Korrektur oder eine oberflächliche Durchsicht reicht hingegen nicht aus. Auch ein automatisierter Faktencheck ersetzt keine fachkundige menschliche Kontrolle.
Die wichtigste Unterscheidung lautet deshalb:
Ein Mensch hat den Text gesehen, ist nicht dasselbe wie: Ein Mensch hat den Inhalt geprüft.
Wer KI-generierte Inhalte veröffentlicht, sollte klar festlegen, welche Person die fachliche Prüfung übernimmt und wer am Ende für die Veröffentlichung verantwortlich ist.
Brauchen Social-Media-Posts einen KI-Hinweis?
Auch bei Social Media gilt, Unternehmen müssen nicht automatisch alle KI-Inhalte kennzeichnen. Eine gewöhnliche Caption benötigt nicht allein deshalb einen Hinweis, weil sie mit KI vorbereitet wurde.
Das Gleiche gilt grundsätzlich für:
Anders kann die Bewertung ausfallen, wenn der Beitrag einen kennzeichnungspflichtigen Deepfake enthält oder die Öffentlichkeit ungeprüft über ein Thema von öffentlichem Interesse informiert.
Ein politischer Beitrag, eine ungeprüfte Gesundheitsinformation oder ein vermeintlich echtes KI-Video einer bekannten Person sollte deshalb deutlich kritischer geprüft werden als eine Caption über neue Öffnungszeiten.
KI-Inhalte kennzeichnen: Warum technische Markierungen allein nicht ausreichen
Für Unternehmen, die KI-Inhalte kennzeichnen müssen, ist diese Unterscheidung besonders wichtig: Eine technische Markierung ersetzt keinen sichtbaren Hinweis für die Nutzer. Ein häufiger Irrtum besteht darin, technische Markierungen und sichtbare Hinweise gleichzusetzen.
Anbieter generativer KI-Systeme müssen ihre Systeme grundsätzlich so gestalten, dass künstlich erzeugte oder manipulierte Texte, Bilder, Videos und Audiodateien maschinenlesbar markiert und technisch erkannt werden können. Ausnahmen gelten unter anderem für unterstützende Standardbearbeitungen, die den ursprünglichen Inhalt oder seine Bedeutung nicht wesentlich verändern.
Diese technische Markierung richtet sich vor allem an Plattformen, Software und Prüfsysteme.
Eine sichtbare Kennzeichnung richtet sich dagegen an Menschen.
Bei einem Deepfake reicht es deshalb nicht aus, dass irgendwo unsichtbare Metadaten hinterlegt wurden. Der Betrachter muss erkennen können, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Für Unternehmen bedeutet das: Nur weil ein KI-Tool technische Informationen in eine Datei integriert, ist die eigene Transparenzpflicht nicht automatisch erfüllt.
Warum ein pauschaler KI-Hinweis nicht ausreicht
Unternehmen könnten versucht sein, vorsorglich sämtliche KI-Inhalte zu kennzeichnen und unter jeden Beitrag denselben allgemeinen Hinweis zu setzen:
„Dieser Inhalt wurde mit Unterstützung künstlicher Intelligenz erstellt.“
Das kann freiwillig sinnvoll sein. Es löst aber nicht das eigentliche Problem.
Ein solcher Hinweis sagt nichts darüber aus:
- ob der Inhalt fachlich korrekt ist
- ob die verwendeten Quellen zuverlässig sind
- ob Rechte realer Personen verletzt werden
- ob eine Werbung irreführend ist
- ob personenbezogene Daten sicher verarbeitet wurden
- ob ein Mensch die Veröffentlichung verantwortet
Ein falscher Inhalt wird nicht richtig, nur weil darunter „KI-generiert“ steht.
Umgekehrt ist ein sorgfältig recherchierter und fachlich geprüfter Inhalt nicht automatisch problematisch, nur weil KI bei der Strukturierung oder Formulierung geholfen hat.
Transparenz ist wichtig. Sie darf aber nicht zu einem bedeutungslosen Standardaufkleber werden, der die eigentliche Qualitätskontrolle ersetzt.
Der bessere Weg: Ein klarer KI-Freigabeprozess
Unternehmen brauchen keine komplizierte neue Bürokratie. Sie benötigen einen nachvollziehbaren Ablauf, mit dem sie entscheiden können, wann sie KI-Inhalte kennzeichnen müssen und wann eine menschliche Prüfung ausreicht.
Vor jeder Veröffentlichung sollten vier Fragen beantwortet werden:
Wer KI-Inhalte kennzeichnen möchte, sollte deshalb nicht nur auf das verwendete Tool schauen, sondern vor allem auf den Inhalt, den Kontext und die mögliche Täuschungswirkung.
Es sollte eindeutig festgelegt sein, wer Fakten und Quellen kontrolliert, Änderungen vornimmt und den Inhalt zur Veröffentlichung freigibt.
Eine einfache interne Dokumentation kann zusätzlich festhalten:
- verwendetes KI-Tool
- Art der KI-Unterstützung
- verantwortliche prüfende Person
- Datum der Prüfung
- wesentliche Änderungen
- finale Freigabe
So entsteht ein nachvollziehbarer Prozess, ohne dass für jeden Social-Media-Post eine umfangreiche Akte angelegt werden muss.
Wie sollte eine Kennzeichnung formuliert sein?
Muss ein Inhalt gekennzeichnet werden, sollte der Hinweis verständlich und beim ersten Kontakt sichtbar oder hörbar sein.
Müssen Unternehmen nachträglich ihre älteren KI-Inhalte kennzeichnen?
Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nach den aktuellen Leitlinien grundsätzlich nicht rückwirkend gekennzeichnet werden.
Die EU-Kommission empfiehlt jedoch eine freiwillige nachträgliche Kennzeichnung, wenn dies sinnvoll und ohne unverhältnismäßigen Aufwand möglich ist.
Für bestimmte generative KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, besteht außerdem eine begrenzte Übergangsfrist. Die technische Pflicht zur maschinenlesbaren Markierung muss bei diesen Systemen erst ab dem 2. Dezember 2026 erfüllt werden.
Welche Strafen drohen bei Verstößen?
Verstöße gegen die Transparenzpflichten können teuer werden.
Der AI Act sieht Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorherigen Geschäftsjahres vor. Bei kleinen und mittleren Unternehmen muss die Verhältnismäßigkeit berücksichtigt werden.
Das bedeutet nicht, dass jeder fehlende Hinweis automatisch mit einer Millionenstrafe endet. Die möglichen Bußgelder zeigen aber, dass Unternehmen das Thema nicht einfach ignorieren sollten.
Wichtiger als Angst vor Strafen ist ein sinnvoller interner Umgang mit KI. Wer weiß, welche Systeme eingesetzt werden, Inhalte fachlich kontrolliert und Verantwortlichkeiten festlegt, reduziert Risiken deutlich.
KI-Inhalte kennzeichnen oder menschlich prüfen?
Diese beiden Maßnahmen sind kein Gegensatz.
Bei bestimmten Inhalten ist eine sichtbare Kennzeichnung verpflichtend. Das betrifft vor allem Deepfakes, direkte KI-Interaktionen und bestimmte ungeprüfte Informationstexte zu Themen von öffentlichem Interesse.
In vielen anderen Fällen ist eine Kennzeichnung nicht vorgeschrieben. Dann bleibt trotzdem die Pflicht, Inhalte sorgfältig, wahrheitsgemäß und rechtlich zulässig zu gestalten.
Ein freiwilliger Hinweis kann zusätzlich Vertrauen schaffen. Er sollte jedoch niemals als Ersatz für fachliche Kontrolle verstanden werden.
