Eine allgemeine KI-Kennzeichnungspflicht gibt es nicht
Künstliche Intelligenz ist in vielen Betrieben längst Teil des Arbeitsalltags. Unternehmer nutzen KI etwa für Texte, Bilder, Präsentationen, Social-Media-Inhalte, Kundenanfragen oder zur Unterstützung interner Abläufe.
Ab dem 2. August 2026 treten weitere Bestimmungen des europäischen AI Acts in Kraft. Dazu zählen auch neue Transparenzpflichten für bestimmte KI-Systeme und künstlich erzeugte Inhalte.
Für viele Selbstständige und kleine Unternehmen stellt sich daher die Frage: Muss künftig jeder mit ChatGPT formulierte Text gekennzeichnet werden? Braucht jedes KI-Bild einen Hinweis? Und was gilt bei Chatbots auf der eigenen Website?
Wichtig ist: Eine allgemeine Kennzeichnungspflicht für alle Inhalte, die mithilfe künstlicher Intelligenz entstanden sind, gibt es nicht. Entscheidend ist, wie die KI eingesetzt wird und ob für Nutzer ein Risiko besteht, über die Herkunft oder Echtheit eines Inhalts getäuscht zu werden.
Was bedeutet KI-Kennzeichnungspflicht?
Der EU AI Act soll den Einsatz künstlicher Intelligenz innerhalb der Europäischen Union sicherer und nachvollziehbarer machen. Ein wichtiger Bestandteil davon ist Transparenz.
Menschen sollen erkennen können, wenn sie direkt mit einem KI-System kommunizieren oder wenn Inhalte künstlich erzeugt beziehungsweise wesentlich verändert wurden.
Je nach Anwendung können unterschiedliche Pflichten gelten. Dabei wird unter anderem unterschieden zwischen:
- Unternehmen, die KI-Systeme entwickeln oder anbieten,
- und Unternehmen, die solche Systeme im beruflichen oder geschäftlichen Alltag verwenden.
Für EPU und KMU ist daher nicht nur entscheidend, welches Programm eingesetzt wird. Ebenso wichtig ist, wofür die KI verwendet wird und wie das Ergebnis anschließend veröffentlicht oder eingesetzt wird.
Welche Regelungen gelten ab August 2026?
Die Transparenzpflichten nach Artikel 50 des EU AI Acts gelten ab dem 2. August 2026.
Unternehmen sollten sich deshalb rechtzeitig einen Überblick verschaffen, in welchen Bereichen sie bereits künstliche Intelligenz nutzen. Dazu zählen beispielsweise:
- KI-Chatbots auf Websites,
- automatisch erstellte Texte,
- künstlich generierte Bilder,
- bearbeitete Videos,
- synthetische Stimmen,
- KI-Avatare,
- Analyse- und Recruiting-Tools,
- oder Software, die reale Inhalte automatisch verändert.
Gerade bei Programmen, die bereits in bestehende Systeme integriert sind, ist der Einsatz von KI nicht immer sofort erkennbar.
Müssen Texte aus ChatGPT gekennzeichnet werden?
Nicht jeder Text, der mit ChatGPT oder einem vergleichbaren Tool erstellt wurde, muss automatisch mit einem KI-Hinweis versehen werden. Unternehmerinnen und Unternehmer sind verunsichert, was jetzt wirklich gilt.
„Viele Selbständige sind derzeit verunsichert und fragen sich, ob künftig jeder mit KI erstellte Inhalt gekennzeichnet werden muss. Entscheidend ist jedoch nicht allein, ob KI verwendet wurde, sondern wie sie eingesetzt wird. Gerade für EPU und KMU ist wichtig, jetzt klare interne Regeln zu schaffen, Inhalte weiterhin sorgfältig zu prüfen und dort transparent zu kennzeichnen, wo es tatsächlich erforderlich ist.“
Das betrifft in der Regel auch typische Unternehmensinhalte wie:
- Website-Texte,
- Newsletter,
- Blogbeiträge,
- Social-Media-Postings,
- Produktbeschreibungen,
- Werbeanzeigen,
- oder interne Unterlagen.
Wird KI beispielsweise für erste Entwürfe, Formulierungshilfen, Übersetzungen oder zur Ideenfindung eingesetzt und wird das Ergebnis anschließend von einem Menschen geprüft und überarbeitet, besteht nicht allein deshalb eine sichtbare Kennzeichnungspflicht.
Andere Maßstäbe können jedoch gelten, wenn Texte automatisiert veröffentlicht werden und die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen. Hier spielen insbesondere die redaktionelle Kontrolle und die Verantwortung für den veröffentlichten Inhalt eine wichtige Rolle.
Für Betriebe gilt daher weiterhin: Auch wenn KI bei der Erstellung unterstützt, bleibt das Unternehmen für die Richtigkeit und Qualität seiner Inhalte verantwortlich.
Wann müssen KI-Bilder und KI-Videos gekennzeichnet werden?
Besonders aufmerksam sollten Unternehmer bei realistisch wirkenden Bildern, Videos und Audiodateien sein.
Wenn künstlich erzeugte oder manipulierte Inhalte den Eindruck erwecken, dass eine reale Person etwas gesagt oder getan hat, ein Ereignis tatsächlich stattgefunden hat oder eine dargestellte Situation echt ist, kann es sich um einen sogenannten Deepfake handeln.
Typische Beispiele sind:
- ein künstlich erzeugtes Video einer realen Person,
- eine KI-Stimme, die einer bestimmten Person täuschend ähnlich klingt,
- das realistische Bild eines Ereignisses, das nie stattgefunden hat,
- oder eine manipulierte Aufnahme, die eine reale Situation verfälscht darstellt.
In solchen Fällen muss erkennbar gemacht werden, dass der Inhalt künstlich erzeugt oder verändert wurde.
Bei offensichtlich fiktiven, satirischen, künstlerischen oder stark stilisierten Inhalten kann der Hinweis weniger prominent gestaltet werden. Vollständig entfallen muss er deshalb jedoch nicht automatisch.
Was gilt bei KI-generierten Werbebildern?
Viele Unternehmen verwenden bereits KI-generierte Bilder für Websites, Social Media oder Kampagnen. Nicht jedes dieser Bilder ist automatisch kennzeichnungspflichtig.
Ein abstraktes Motiv, eine Illustration oder ein klar erkennbares Fantasiebild ist anders zu beurteilen als ein fotorealistisches Bild, das wie eine echte Aufnahme wirkt.
Vor der Veröffentlichung sollten sich Unternehmen unter anderem folgende Fragen stellen:
- Wird eine reale Person täuschend echt dargestellt?
- Könnte das Bild mit einer echten Aufnahme verwechselt werden?
- Wird ein Produkt oder eine Leistung gezeigt, die in dieser Form gar nicht existiert?
- Könnten Kund einen falschen Eindruck von einem Ergebnis, einem Ort oder einer Situation erhalten?
- Wurde ein reales Ereignis künstlich nachgestellt?
Unabhängig von der KI-Verordnung gelten weiterhin andere rechtliche Vorgaben, etwa zum Schutz von Persönlichkeitsrechten, Datenschutz, Urheberrecht und irreführender Werbung.
Auch wenn ein Bild nach dem AI Act nicht gekennzeichnet werden muss, darf es Kund daher nicht in die Irre führen.
Wie müssen Chatbots auf Websites gekennzeichnet werden?
Setzt ein Unternehmen auf seiner Website einen KI-gestützten Chatbot ein, müssen Nutzer grundsätzlich darüber informiert werden, dass sie mit einem KI-System kommunizieren.
Ein solcher Hinweis sollte klar, verständlich und bereits zu Beginn des Gesprächs erkennbar sein.
Mögliche Formulierungen sind beispielsweise:
„Sie chatten mit einem KI-gestützten Assistenzsystem.“
oder:
„Dieser Chat wird teilweise durch künstliche Intelligenz unterstützt.“
Ist aufgrund der Gestaltung und des gesamten Nutzungskontexts eindeutig erkennbar, dass es sich um einen automatisierten Assistenten handelt, kann eine zusätzliche Information in bestimmten Fällen entbehrlich sein. Aus Gründen der Transparenz ist eine eindeutige Kennzeichnung dennoch empfehlenswert.
Ein Hinweis, der ausschließlich in den Datenschutzbestimmungen oder im Impressum versteckt ist, wird in der Regel nicht ausreichen.
Welche technischen Kennzeichnungen kommen auf Unternehmen zu?
Anbieter bestimmter generativer KI-Systeme müssen künftig dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte auch technisch erkannt werden können.
Dafür können beispielsweise eingesetzt werden:
- Metadaten,
- digitale Wasserzeichen,
- oder andere maschinenlesbare Markierungen.
Diese Pflicht richtet sich in erster Linie an die Entwickler und Anbieter der jeweiligen KI-Systeme.
Unternehmen, die solche Inhalte weiterverwenden, sollten vorhandene technische Kennzeichnungen jedoch nicht bewusst entfernen oder unbrauchbar machen.
Was gilt bei Emotionserkennung und biometrischen Systemen?
Besondere Transparenzpflichten gelten außerdem beim Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung.
Solche Anwendungen versuchen etwa, anhand von Stimme, Gesichtsausdruck, Bewegung oder anderen Merkmalen Rückschlüsse auf Emotionen, Verhalten oder bestimmte Kategorien zu ziehen.
Werden derartige Systeme eingesetzt, müssen betroffene Personen grundsätzlich darüber informiert werden.
Für klassische Websites und Werbekampagnen spielt diese Regelung zwar häufig keine zentrale Rolle. Relevant kann sie jedoch beispielsweise in folgenden Bereichen werden:
- Recruiting,
- Zugangskontrollen,
- Videoüberwachung,
- Kundenservice,
- Marktforschung,
- oder automatisierte Verhaltensanalysen.
Unternehmen sollten daher prüfen, welche Funktionen in eingesetzten Softwarelösungen tatsächlich enthalten und aktiviert sind.
Muss unter jedem Beitrag „Erstellt mit KI“ stehen?
Nein. Eine pauschale Verpflichtung, jeden Beitrag mit Formulierungen wie „KI-generiert“ oder „Erstellt mit ChatGPT“ zu kennzeichnen, besteht nicht.
Entscheidend sind vielmehr mehrere Faktoren:
- Welche Art von Inhalt wurde erstellt?
- Wie realistisch wirkt der Inhalt?
- Könnten Menschen getäuscht werden?
- Wurde der Inhalt menschlich geprüft?
- Gibt es eine redaktionell verantwortliche Person?
- Betrifft der Inhalt ein Thema von öffentlichem Interesse?
- Liegt einer der im EU AI Act ausdrücklich genannten Anwendungsfälle vor?
Wird KI nur als Werkzeug eingesetzt und bleibt die menschliche Kontrolle bestehen, ist die Situation anders zu beurteilen als bei vollständig automatisierten und ungeprüften Veröffentlichungen.
Wie kann eine Kennzeichnung formuliert werden?
Der EU AI Act schreibt nicht für jeden Fall eine bestimmte Standardformulierung vor. Der Hinweis muss jedoch klar, verständlich und leicht wahrnehmbar sein.
Je nach Anwendung kommen beispielsweise folgende Hinweise infrage:
- „Dieses Bild wurde mithilfe künstlicher Intelligenz erstellt.“
- „Diese Darstellung ist KI-generiert und zeigt keine reale Situation.“
- „Dieses Video enthält künstlich erzeugte Inhalte.“
- „Die verwendete Stimme wurde mit KI erstellt.“
- „Sie kommunizieren mit einem KI-gestützten Assistenten.“
Die Information sollte direkt beim jeweiligen Inhalt oder zu Beginn einer Interaktion angebracht werden. Sie sollte nicht erst über mehrere Unterseiten oder versteckte Rechtstexte auffindbar sein.
Sieben Schritte für EPU und KMU
Unternehmer:innen müssen nicht vorsorglich jeden Inhalt kennzeichnen. Sie sollten den Einsatz von KI im eigenen Betrieb jedoch systematisch überprüfen.
1. KI-Anwendungen erfassen
Erstellen Sie eine Liste aller verwendeten KI-Tools. Berücksichtigen Sie dabei auch KI-Funktionen, die bereits in Grafikprogrammen, Office-Lösungen, CRM-Systemen, Website-Plugins oder Analyseprogrammen eingebaut sind.
2. Verwendungszweck dokumentieren
Halten Sie fest, ob die KI intern, im Kundenkontakt, zur Texterstellung, für Bilder und Videos, im Recruiting oder zur Unterstützung von Entscheidungen eingesetzt wird.
3. Verantwortlichkeiten festlegen
Es sollte klar geregelt sein, wer KI-generierte Inhalte kontrolliert und vor der Veröffentlichung freigibt.
4. Menschliche Prüfung sicherstellen
KI-Inhalte sollten unter anderem auf sachliche Fehler, falsche Behauptungen, Markenrichtlinien, Datenschutz, Urheberrechte und mögliche Täuschungen geprüft werden.
5. Chatbots deutlich kennzeichnen
Prüfen Sie, ob Nutzer sofort erkennen können, dass sie mit einem KI-System kommunizieren.
6. Realistische Inhalte genauer kontrollieren
Fotorealistische Bilder, Videos und Stimmen bergen ein höheres Täuschungsrisiko und sollten besonders sorgfältig geprüft werden.
7. Interne KI-Richtlinien erstellen
Legen Sie fest, welche Tools verwendet werden dürfen, welche Daten nicht eingegeben werden sollen, wann eine Kennzeichnung notwendig ist und wer letztlich die Verantwortung trägt.
KI-Kompetenz ist jetzt wichtig
Der EU AI Act beschäftigt sich nicht nur mit der Kennzeichnung von Inhalten. Unternehmen sollen auch dafür sorgen, dass jene Personen, die mit KI-Systemen arbeiten, über ausreichende Kenntnisse verfügen.
Mitarbeiter sollten daher wissen:
- wie KI-Systeme grundsätzlich funktionieren,
- welche Fehler und Halluzinationen auftreten können,
- welche Ergebnisse überprüft werden müssen,
- welche vertraulichen Daten nicht eingegeben werden dürfen,
- wann Transparenz notwendig ist,
- und wer für das Endergebnis verantwortlich bleibt.
Gerade für kleinere Betriebe bedeutet das nicht zwingend umfangreiche Schulungsprogramme. Wichtig ist vielmehr, dass klare Abläufe, Zuständigkeiten und grundlegende Regeln vorhanden sind.
Fazit: Keine Kennzeichnungspflicht für alles, aber Handlungsbedarf für Unternehmen
Ab August 2026 muss nicht jeder KI-unterstützte Text und nicht jedes künstlich erstellte Bild automatisch gekennzeichnet werden.
Die neuen Transparenzpflichten betreffen vor allem klar definierte Fälle. Dazu zählen insbesondere:
- die direkte Kommunikation mit KI-Systemen,
- realistisch wirkende Deepfakes,
- bestimmte automatisch erzeugte Texte zu Themen von öffentlichem Interesse,
- sowie Emotionserkennung und biometrische Kategorisierung.
Für EPU und KMU ist es daher entscheidend, den eigenen KI-Einsatz zu kennen und nachvollziehbar zu organisieren.
Wer Inhalte fachlich prüft, Verantwortlichkeiten festlegt und KI transparent einsetzt, reduziert rechtliche Risiken und stärkt gleichzeitig das Vertrauen von Kund, Mitarbeiter und Geschäftspartner.
Hinweis: Dieser Beitrag bietet einen allgemeinen Überblick und ersetzt keine individuelle rechtliche Beratung.