Neue KI-Regeln ab August: Was bei Chatbots, Deepfakes und Texten jetzt Pflicht wird

Stand: 22.07.2026, 06:30 Uhr

Kommentare

Uns auf Google folgen

Ab dem 2. August 2026 gelten zentrale Transparenzpflichten des europäischen AI Act. Nutzer sollen erkennen können, wenn sie mit einer KI interagieren oder wenn Inhalte künstlich erzeugt oder manipuliert wurden.

Brüssel – Ab dem 2. August 2026 gelten zentrale Transparenzpflichten des europäischen AI Act. Nutzer sollen erkennen können, wenn sie mit einer KI interagieren oder wenn bestimmte Inhalte künstlich erzeugt oder manipuliert wurden.

Content-Partnerschaft

Dieser Artikel entstand in einer Content-Partnerschaft mit Business Punk

Eine pauschale Kennzeichnungspflicht für jeden KI-Inhalt gibt es allerdings nicht. Der AI Act unterscheidet zwischen den Anbietern von KI-Systemen und den Unternehmen oder Personen, die deren Ergebnisse veröffentlichen. Zudem gelten für Chatbots, Deepfakes und Texte unterschiedliche Regeln.

Anbieter interaktiver KI-Systeme müssen Nutzer grundsätzlich darüber informieren, dass sie mit einer Maschine kommunizieren. Eine zusätzliche Kennzeichnung ist nur dann entbehrlich, wenn für einen verständigen Nutzer offensichtlich ist, dass er es mit einer KI zu tun hat.

Die Vorgabe betrifft unter anderem Chatbots, Sprachassistenten und digitale Kundenberater. Auch beim Einsatz von Emotionserkennung und biometrischer Kategorisierung müssen Betroffene grundsätzlich informiert werden.

KI-Inhalte brauchen eine technische Markierung

Anbieter generativer KI-Systeme müssen künstlich erzeugte oder manipulierte Bilder, Videos, Audiodateien und Texte technisch erkennbar machen. Der AI Act verlangt robuste, maschinenlesbare Kennzeichnungen.

Das muss nicht zwingend ein sichtbares Wasserzeichen sein. Je nach Inhalt können Metadaten, Herkunftsnachweise oder andere technische Markierungen eingesetzt werden. Die EU-Kommission hat dazu einen freiwilligen Verhaltenskodex sowie Leitlinien für Unternehmen veröffentlicht.

Ausgenommen sind Systeme, die Inhalte lediglich geringfügig bearbeiten oder nur Standardfunktionen wie Rechtschreibkorrekturen ausführen. Entscheidend ist, ob das KI-System einen Inhalt tatsächlich erzeugt oder wesentlich verändert.

Deepfakes müssen offengelegt werden

Wer einen Deepfake veröffentlicht, muss grundsätzlich darauf hinweisen, dass das Material künstlich erzeugt oder manipuliert wurde. Das gilt für realistisch wirkende Bilder, Videos und Audioaufnahmen.

Für künstlerische, kreative, satirische oder fiktionale Werke gelten erleichterte Anforderungen. Die Kennzeichnung darf so gestaltet werden, dass sie die Darstellung oder den Genuss des Werkes nicht unangemessen beeinträchtigt. Die Pflicht verschwindet dadurch aber nicht vollständig.

Für KI-Texte gelten engere Regeln

Nicht jeder mit KI erstellte Text benötigt einen sichtbaren Hinweis. Eine Offenlegungspflicht besteht vor allem dann, wenn ein künstlich erzeugter oder manipulierter Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Dazu können journalistische Beiträge, politische Inhalte oder andere gesellschaftlich relevante Veröffentlichungen gehören. Interne Texte, einfache Produktbeschreibungen oder gewöhnliche Geschäftskorrespondenz werden nicht automatisch erfasst.

Eine Kennzeichnung kann entfallen, wenn der Text einen echten Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und eine Person oder ein Unternehmen die redaktionelle Verantwortung übernimmt. Ein bloßes oberflächliches Gegenlesen dürfte dafür kaum ausreichen. Unternehmen sollten nachvollziehbar festhalten, wer den Inhalt geprüft und freigegeben hat.

Die Regeln gelten ab August ohne allgemeine Schonfrist

Die Transparenzpflichten nach Artikel 50 werden am 2. August 2026 anwendbar. Eine allgemeine Übergangsfrist bis Dezember 2026 für bereits verfügbare Chatbots oder generative KI-Systeme sieht der AI Act nicht vor.

Andere Übergangsregelungen betreffen vor allem Hochrisiko-Systeme oder bestimmte bereits eingesetzte Anwendungen. Bei älteren Hochrisiko-Systemen kann entscheidend sein, ob sie nach dem Stichtag wesentlich verändert werden.

Für die Kennzeichnung von Chatbots und generativen Inhalten sollten Unternehmen dagegen grundsätzlich mit dem 2. August planen.

KI-Kompetenz ist bereits Pflicht

Ein Teil des AI Act gilt bereits seit dem 2. Februar 2025. Dazu gehören das Verbot bestimmter besonders riskanter KI-Praktiken und die Verpflichtung, für ausreichende KI-Kompetenz im Unternehmen zu sorgen.

Unternehmen müssen sicherstellen, dass Beschäftigte, die KI-Systeme einsetzen oder überwachen, über ausreichendes Wissen verfügen. Dabei zählen der konkrete Einsatzzweck, die Risiken und die Vorkenntnisse der Mitarbeiter.

Ein bestimmtes Seminar oder ein formelles Schulungsregister schreibt der AI Act nicht vor. Aus Compliance-Gründen ist es dennoch sinnvoll, Schulungen, Leitlinien und Zuständigkeiten zu dokumentieren.

Nicht jede Finanz-KI ist Hochrisiko

Eine KI-Anwendung wird nicht allein deshalb zum Hochrisiko-System, weil sie in einer Finanzabteilung eingesetzt wird. Programme, die Rechnungen sortieren, Forecasts erstellen oder Unternehmensdaten analysieren, fallen in der Regel nicht automatisch in diese Kategorie.

Anders sieht es aus, wenn KI Entscheidungen über natürliche Personen beeinflusst. Systeme zur Bonitäts- oder Kreditwürdigkeitsprüfung können ebenso als Hochrisiko gelten wie bestimmte Anwendungen bei Lebens- und Krankenversicherungen.

Reine Betrugserkennung ist dagegen ausdrücklich von der Hochrisiko-Einstufung im Bereich der Kreditwürdigkeitsprüfung ausgenommen. Für betroffene Systeme gelten umfangreiche Anforderungen, darunter Risikomanagement, Dokumentation, Protokollierung, Datenqualität und menschliche Aufsicht.

Bundesnetzagentur übernimmt zentrale Rolle

In Deutschland soll vor allem die Bundesnetzagentur die Marktüberwachung des AI Act koordinieren. Dort entsteht ein zentrales Kompetenz- und Koordinierungszentrum für künstliche Intelligenz.

Weitere Behörden bleiben in ihren jeweiligen Fachgebieten beteiligt. Das BSI wird wegen seiner Cybersicherheitskompetenz weiterhin eine wichtige Rolle spielen, ist aber nicht die alleinige oder allgemeine Aufsichtsbehörde für sämtliche KI-Anwendungen. Der Bundesrat billigte das deutsche Durchführungsgesetz am 10. Juli 2026.

Business Punk Check

Der AI Act führt keine einfache Regel nach dem Prinzip „KI drin, Label drauf“ ein. Er verteilt unterschiedliche Pflichten auf Anbieter, Betreiber und Veröffentlichende.

Chatbots müssen ihre Nutzer informieren. Generative Systeme müssen Inhalte technisch erkennbar machen. Deepfakes brauchen grundsätzlich eine Offenlegung. Bei Texten hängt die sichtbare Kennzeichnung dagegen vom Inhalt, dem öffentlichen Interesse und der redaktionellen Kontrolle ab.

Für Unternehmen beginnt das Problem deshalb nicht erst beim Label. Wer nicht weiß, welche KI-Systeme im eigenen Betrieb verwendet werden, welche Inhalte sie erzeugen und wer dafür verantwortlich ist, kann die Regeln kaum einhalten.

Die wichtigsten Schritte sind eine vollständige KI-Inventur, klare Freigabeprozesse und dokumentierte Zuständigkeiten. Unternehmen sollten außerdem prüfen, ob ihre Anbieter die technischen Kennzeichnungspflichten erfüllen und ob eigene Inhalte sichtbar offengelegt werden müssen.

Die größte Gefahr ist nicht die Höhe eines möglichen Bußgeldes. Sie liegt darin, dass KI längst produktiv eingesetzt wird, während intern niemand genau weiß, wo sie arbeitet, welche Entscheidungen sie beeinflusst und wer am Ende dafür haftet.