EU AI Act: Wann Chatbots und Deepfakes in Deutschland klar gekennzeichnet werden müssen

Für Unternehmen, Behörden, Plattformen und Medien in Deutschland wird die Kennzeichnung von KI-Inhalten zu einer konkreten Rechts- und Organisationsfrage. Maßgeblich ist nicht nur, was ein System leisten kann, sondern ob Menschen erkennen, dass sie mit künstlich erzeugten oder manipulierten Inhalten in Kontakt kommen. Der EU AI Act schafft dafür einheitliche Transparenzpflichten in der EU und wird in Deutschland vor allem dort relevant, wo Kommunikation, Kundenkontakt und öffentliche Information zusammenlaufen.

Pflichten zur Kennzeichnung von KI-Inhalten

Der EU AI Act enthält Transparenzpflichten für bestimmte Anwendungen, die Menschen direkt betreffen. Dazu gehören vor allem Systeme, die mit Personen interagieren, sowie Inhalte, die künstlich erzeugt oder wesentlich verändert wurden. Der Grundgedanke ist einfach: Nutzer sollen eine informierte Entscheidung treffen können und nicht im Unklaren darüber bleiben, ob ein Mensch, ein System oder eine manipulierte Darstellung mit ihnen kommuniziert.

Für die Praxis heißt das nicht, dass jede technische Unterstützung im Hintergrund einzeln offengelegt werden muss. Entscheidend ist vielmehr, ob das System nach außen sichtbar mit Personen interagiert oder ob ein Inhalt den Eindruck echter menschlicher Aussagekraft oder Authentizität erzeugen kann. Deshalb kommt es stark auf den Nutzungskontext an: Ein interner Entwurfstext ist anders zu bewerten als ein öffentlich verbreitetes Video, eine Kundenhotline oder ein automatisierter Support im Onlineshop.

Transparenzregeln für Chatbots und Deepfakes

Bei Chatbots ist der zentrale Punkt, dass Menschen grundsätzlich darüber informiert werden müssen, wenn sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Ein klarer Hinweis zu Beginn eines Chats, in einer Begrüßungsnachricht oder an vergleichbarer Stelle kann dafür ausreichen. Ziel ist keine komplizierte juristische Belehrung, sondern eine verständliche Offenlegung, die Missverständnisse vermeidet.

Für Deepfakes gelten noch sensiblere Maßstäbe. Wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder so verändert werden, dass der Eindruck realer Ereignisse, Aussagen oder Handlungen entsteht, ist eine Kennzeichnung regelmäßig erforderlich. Gerade in sozialen Medien, im Marketing, in Schulungen oder in der Unternehmenskommunikation kann das wichtig werden. Eine gut sichtbare Einblendung, ein Begleittext oder technische Kennzeichnungen in Metadaten können Teil einer sauberen Umsetzung sein, wobei die konkrete Form zum Medium passen sollte.

Was Unternehmen bei KI-Kommunikation beachten müssen

Unternehmen sollten die Kennzeichnung nicht erst am Ende eines Projekts prüfen. Sinnvoll ist ein früher Blick auf alle Kontaktpunkte, an denen externe Personen KI-Inhalte sehen, hören oder lesen. Dazu zählen Chatfenster, Voicebots, Produktbeschreibungen, automatisierte E-Mails, Social-Media-Beiträge, Werbemittel, Schulungsvideos und Presseinhalte. Wer erst kurz vor der Veröffentlichung reagiert, übersieht oft Schnittstellen zwischen Technik, Recht, Marketing und Datenschutz.

Praktisch hilfreich ist eine interne Einteilung in drei Gruppen: erstens Systeme mit direkter Interaktion, zweitens synthetische oder manipulierte Medieninhalte und drittens unterstützende Werkzeuge ohne unmittelbare Außenwirkung. Für jede Gruppe lassen sich Standards festlegen, etwa Textbausteine für Hinweise, Freigabeprozesse, Dokumentationspflichten und Zuständigkeiten. Zusätzlich sollten Mitarbeitende wissen, wann aus einer hilfreichen Automatisierung eine kennzeichnungspflichtige Kommunikation wird. Besonders relevant ist das in Bereichen, in denen Vertrauen, Authentizität und Verbraucherschutz eine große Rolle spielen.

Hinweise zur EU-AI-Act-Umsetzung in Deutschland

Der AI Act ist eine EU-Verordnung und gilt daher nicht erst nach einer vollständigen nationalen Umsetzung wie eine klassische Richtlinie. Dennoch ist für Deutschland wichtig, wie Aufsicht, Zuständigkeiten und Verfahren konkret organisiert werden. Für viele Transparenzpflichten ist vor allem der gestaffelte Anwendungsbeginn entscheidend. Die Verordnung ist bereits in Kraft, zahlreiche zentrale Anforderungen, darunter wesentliche Transparenzregeln für bestimmte KI-Systeme, werden aber erst ab dem 2. August 2026 praktisch verbindlich anwendbar.

Wer in Deutschland arbeitet, sollte sich jedoch nicht nur auf dieses Datum verlassen. Schon heute können andere Rechtsgebiete Transparenz verlangen, etwa im Verbraucherrecht, im Wettbewerbsrecht, im Medienrecht oder bei irreführender Werbung. Das bedeutet: Auch wenn einzelne Pflichten des AI Act erst später greifen, kann eine fehlende Offenlegung bereits jetzt problematisch sein, wenn Nutzer über die Herkunft eines Inhalts oder den Charakter einer Kommunikation getäuscht werden könnten.

Deshalb ist es sinnvoll, Kennzeichnung als Teil einer breiteren Governance zu behandeln. Dazu gehören klare Verantwortlichkeiten, eine Übersicht über eingesetzte Tools, Prüfungen neuer Anwendungsfälle und Vorgaben für externe Dienstleister. Ebenso wichtig ist eine verständliche Sprache: Hinweise sollten weder versteckt noch technisch überladen sein. Wer Nutzern klar mitteilt, dass sie mit einem automatisierten System sprechen oder künstlich erzeugte Inhalte sehen, reduziert rechtliche Risiken und stärkt zugleich die Nachvollziehbarkeit digitaler Kommunikation.

In Deutschland wird die Frage der Kennzeichnung damit vor allem zu einer Frage guter Vorbereitung. Für Chatbots und Deepfakes zeichnet sich ein klarer Maßstab ab: Transparenz ist kein optionales Extra, sondern ein zentraler Bestandteil rechtssicherer Kommunikation. Der EU AI Act gibt dafür den Rahmen vor, während Unternehmen schon jetzt gut beraten sind, ihre Prozesse so auszurichten, dass Hinweise sichtbar, verständlich und im jeweiligen Nutzungskontext angemessen erfolgen.