Seit dem 2. August 2026 gelten neue Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Deshalb sollten Unternehmen prüfen, ob sie beispielsweise Chatbots, künstlich erzeugte Stimmen, realistisch wirkende KI-Bilder oder Deepfake-Videos kennzeichnen müssen.
Nicht jeder Einsatz von ChatGPT, Bildgeneratoren oder anderen KI-Tools ist automatisch kennzeichnungspflichtig. Entscheidend sind der konkrete Anwendungsfall und die Rolle des Unternehmens: Entwickelt oder vertreibt es ein KI-System selbst, oder setzt es ein fremdes System im eigenen Betrieb ein?
Die Anforderungen ergeben sich vor allem aus Artikel 50 der europäischen KI-Verordnung, dem sogenannten AI Act. Sie gelten seit dem 2. August 2026.
Mehr zum AI Act: Einen Überblick über Ziele, Risikoklassen, Pflichten und betroffene Unternehmen finden Sie in unserem Beitrag „AI Act: Die EU reguliert künstliche Intelligenz (KI)“.
Das Wichtigste in Kürze
Unternehmen sollten eine Kennzeichnung insbesondere prüfen, wenn sie:
- Chatbots oder KI-Sprachassistenten einsetzen,
- realistisch wirkende KI-Bilder, Videos oder Stimmen veröffentlichen,
- Deepfakes verbreiten,
- KI-generierte Texte zu Themen von öffentlichem Interesse veröffentlichen,
- Systeme zur Emotionserkennung oder biometrischen Kategorisierung verwenden.
Unternehmen müssen nicht jeden mit KI erstellten Text kennzeichnen. Prüft ein Mensch den Inhalt fachlich und redaktionell und übernimmt eine Person oder Organisation die Verantwortung für die Veröffentlichung, kann eine Ausnahme greifen.
Sie möchten den AI Act grundsätzlich einordnen? Unser Überblick erklärt die wichtigsten Risikoklassen, Pflichten und Anforderungen für Unternehmen: „AI Act: Die EU reguliert künstliche Intelligenz (KI)“.
Müssen Chatbots und KI-Telefonassistenten gekennzeichnet werden?
Unternehmen müssen Menschen grundsätzlich darauf hinweisen, wenn sie direkt mit einem KI-System interagieren – sofern dies nicht bereits offensichtlich ist. Dabei muss die Information klar und spätestens bei der ersten Interaktion erfolgen.
Geeignete Hinweise sind zum Beispiel: „Sie kommunizieren mit einem KI-gestützten Assistenten.“ oder „Dieses Gespräch wird von einem KI-Sprachassistenten geführt.“
Ein Hinweis, der nur im Impressum oder in der Datenschutzerklärung steht, ist für die unmittelbare Kommunikation nicht ausreichend deutlich.
Außerdem sollten Unternehmen prüfen, wer die Kennzeichnung technisch umsetzen muss. Denn die Verordnung unterscheidet zwischen Anbietern eines KI-Systems und Unternehmen, die ein solches System einsetzen.
Welche KI-Bilder, Videos und Stimmen müssen gekennzeichnet werden?
KI-generierte oder manipulierte Bilder, Videos und Stimmen können täuschend echt wirken. Unternehmen sollten deshalb prüfen, ob eine Kennzeichnung erforderlich ist.
Besonders bei sogenannten Deepfakes sollten Unternehmen die Kennzeichnung genau prüfen. Dabei handelt es sich um KI-generierte oder manipulierte Bilder, Audioaufnahmen oder Videos. Sie ähneln realen Personen, Orten, Gegenständen oder Ereignissen und können dadurch fälschlich authentisch wirken.
Typische Beispiele sind:
- ein künstlich erzeugtes Video der Geschäftsführung,
- die täuschend echte Nachahmung einer realen Stimme,
- ein KI-Bild einer Veranstaltung, die nie stattgefunden hat,
- ein manipuliertes Video, in dem einer Person falsche Aussagen zugeschrieben werden.
Allerdings ist nicht jede Bildbearbeitung automatisch ein Deepfake. Übliche Anpassungen von Helligkeit, Farbe oder Bildausschnitt fallen in der Regel nicht darunter.
Kritisch wird es vor allem dann, wenn künstlich erzeugte oder veränderte Inhalte wie eine authentische Aufnahme wirken.
Müssen mit KI erstellte Texte gekennzeichnet werden?
Nein, nicht grundsätzlich.
Die Kennzeichnungspflicht betrifft insbesondere KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Eine Ausnahme kann gelten, wenn:
- ein Mensch den Inhalt redaktionell prüft und
- eine Person oder Organisation die Verantwortung für die Veröffentlichung übernimmt.
Für Unternehmen bedeutet das deshalb: Ein mit KI vorbereiteter Text muss nicht allein deshalb gekennzeichnet werden, weil ein KI-Werkzeug an der Erstellung beteiligt war.
Dennoch sollten Unternehmen KI-Inhalte nicht ungeprüft übernehmen. Stattdessen sollten sie die Inhalte fachlich kontrollieren, bei Bedarf überarbeiten und nachvollziehbar freigeben.
Das betrifft beispielsweise:
- Website-Texte,
- Pressemitteilungen,
- Social-Media-Beiträge,
- Produktbeschreibungen,
- Newsletter,
- Kundeninformationen.
Enthält ein Beitrag zusätzlich ein realistisch wirkendes KI-Bild oder KI-Video, muss dieser Bestandteil gesondert bewertet werden.
Wie muss ein KI-Inhalt gekennzeichnet werden?
Die Information muss klar, verständlich und gut wahrnehmbar sein. Deshalb sollte die Kennzeichnung direkt dort erscheinen, wo Menschen den Inhalt sehen, hören oder verwenden.
Mögliche Formulierungen sind:
- „KI-generiert“
- „Mit künstlicher Intelligenz erstellt“
- „Bild teilweise mit KI verändert“
- „Stimme künstlich erzeugt“
- „Dieses Video enthält KI-generierte Inhalte“
- „Sie kommunizieren mit einem KI-System“
Bei Videos sollten Unternehmen den Hinweis bereits zu Beginn einblenden. Bei Bildern sollte er unmittelbar am Motiv oder in der Bildbeschreibung stehen. Bei künstlichen Stimmen empfiehlt sich zudem ein gesprochener Hinweis am Anfang.
Zusätzlich müssen Anbieter bestimmter generativer KI-Systeme maschinenlesbare Markierungen ermöglichen. Diese technische Pflicht unterscheidet sich jedoch von der sichtbaren Information für Menschen.
Was sollten Unternehmen jetzt tun?
1. KI-Anwendungen erfassen
Unternehmen sollten zunächst dokumentieren, welche KI-Systeme sie einsetzen.
Dabei sollten sie auch Funktionen innerhalb bereits vorhandener Software, externe Chatbots sowie Anwendungen beauftragter Agenturen berücksichtigen.
2. Anwendungsfälle prüfen
Für jedes System sollte geklärt werden:
- Kommuniziert die KI direkt mit Menschen?
- Erzeugt die KI realistisch wirkende Bilder, Videos oder Stimmen?
- Veröffentlicht das Unternehmen damit Texte zu Themen von öffentlichem Interesse?
- Findet eine nachvollziehbare redaktionelle Kontrolle statt?
3. Kennzeichnungen festlegen
Unternehmen sollten für Chatbots, Bilder, Videos und Audiodateien einheitliche Hinweise und feste Platzierungen festlegen.
4. Verantwortlichkeiten regeln
Unternehmen sollten klar festlegen, wer KI-Inhalte prüft, freigibt und über eine Kennzeichnung entscheidet.
5. Beschäftigte sensibilisieren
Zudem sollten Mitarbeitende wissen, welche KI-Anwendungen das Unternehmen zulässt, wann eine Kennzeichnung erforderlich sein kann und wie sie KI-Ergebnisse prüfen.
Klare interne Regeln helfen dabei, Fehler zu vermeiden und KI verantwortungsvoll einzusetzen.
Unternehmen sollten ihre KI-Anwendungen erfassen, Anwendungsfälle bewerten und klare Regeln für Kennzeichnung und Verantwortung festlegen.
Schnellcheck: Ist eine Kennzeichnung erforderlich?
Interagiert eine Person mit einer KI, ohne dass dies offensichtlich ist?
Dann ist grundsätzlich ein Hinweis erforderlich.
Wirkt ein KI-Bild, Video oder Audio wie eine echte Aufnahme?
Dann muss eine Kennzeichnung als künstlich erzeugter oder manipulierter Inhalt geprüft werden.
Informiert ein KI-generierter Text über ein Thema von öffentlichem Interesse?
Dann kann eine Kennzeichnungspflicht bestehen.
Wurde der Text fachlich und redaktionell geprüft und verantwortlich freigegeben?
Dann kann die Ausnahme für redaktionell kontrollierte Inhalte greifen.
Hat eine Agentur den Inhalt erstellt?
Auch dann sollte das veröffentlichende Unternehmen die Kennzeichnung prüfen.
Fazit
Die KI-Kennzeichnungspflicht verlangt keine pauschale Kennzeichnung jedes KI-Einsatzes. Entscheidend ist vielmehr, ob Menschen mit einem KI-System interagieren oder künstlich erzeugte Inhalte irrtümlich für authentisch halten könnten.
Deshalb sollten Unternehmen ihre KI-Anwendungen erfassen, klare Verantwortlichkeiten schaffen und verbindliche Regeln für Prüfung, Freigabe und Kennzeichnung festlegen. Dadurch reduzieren sie rechtliche Risiken und stärken zugleich das Vertrauen ihrer Kundschaft, Beschäftigten und Geschäftspartner.
Die IHK Erfurt unterstützt Unternehmen dabei, die Anforderungen des AI Acts einzuordnen und künstliche Intelligenz verantwortungsvoll einzusetzen.
Mehr zum AI Act: Welche weiteren Pflichten, Risikoklassen und Anforderungen für Unternehmen gelten, erfahren Sie in unserem Überblick „AI Act: Die EU reguliert künstliche Intelligenz (KI)“.
Hinweis: Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine rechtliche Beratung im Einzelfall.
Häufige Fragen zur KI-Kennzeichnung
Seit wann gilt die KI-Kennzeichnungspflicht? Die Transparenzpflichten nach Artikel 50 des AI Acts gelten seit dem 2. August 2026.
Muss jeder mit KI erstellte Text gekennzeichnet werden? Nein. Entscheidend sind der Inhalt, der Verwendungszweck und die menschliche redaktionelle Kontrolle.
Muss ein Chatbot gekennzeichnet werden? Grundsätzlich müssen Menschen darüber informiert werden, wenn sie mit einem KI-System interagieren und dies nicht offensichtlich ist.
Muss ein KI-generiertes Werbebild gekennzeichnet werden? Eine Kennzeichnung ist insbesondere dann zu prüfen, wenn das Bild wie eine authentische Aufnahme einer realen Person, eines Produkts, eines Ortes oder eines Ereignisses wirkt.
Reicht ein automatisches Plattformlabel aus? Nicht unbedingt. Unternehmen sollten prüfen, ob der Hinweis im konkreten Zusammenhang klar, verständlich und gut wahrnehmbar ist.