Kategorie: KI und Recht

Warum der AI Act Ihr Unternehmen nicht ausbremst und was Sie wirklich umsetzen müssen

35 Millionen Euro Bußgeld oder 7 Prozent des weltweiten Jahresumsatzes. Mit dieser Zahl wird derzeit fast jeder Vortrag, jedes Webinar und jeder Newsletter zur KI-Verordnung eröffnet. Die Botschaft, die bei vielen Geschäftsführern hängen bleibt, lautet dann sinngemäß, dass man KI im Unternehmen besser verbietet, bevor man sich die Finger verbrennt. Genau diese Schlussfolgerung ist falsch. Sie ist rechtlich falsch, weil die Höchstbeträge der AI Verordnung auf Konstellationen zielen, mit denen ein normales mittelständisches Unternehmen praktisch nie in Berührung kommt. Und sie ist unternehmerisch falsch, weil ein KI-Verbot die Nutzung nicht beendet, sondern nur in den unkontrollierten Bereich verschiebt. Die Mitarbeiter nutzen ChatGPT dann eben über das private Handy, und das ist die einzige Variante, bei der Sie als Unternehmen wirklich ein Problem bekommen.

In meiner Beratungspraxis erlebe ich seit Monaten zwei Extreme. Auf der einen Seite Unternehmen, die aus Angst vor dem AI Act gar nichts tun und jede KI-Initiative einfrieren. Auf der anderen Seite Unternehmen, in denen längst jeder zweite Mitarbeiter mit KI-Tools arbeitet, ohne dass die Geschäftsführung davon weiß. Beide Wege sind riskant. Der richtige Weg liegt dazwischen, und er ist deutlich einfacher, als die Schlagzeilen vermuten lassen.

Dieser Beitrag zeigt, was die KI-Verordnung von normalen Unternehmen tatsächlich verlangt, wo die echten Fehlerquellen liegen und wie sich das Ganze in der Praxis umsetzen lässt.

Was die KI-Verordnung eigentlich regelt

Die Verordnung (EU) 2024/1689, meist KI-Verordnung, AI Act oder AI Verordnung genannt, ist kein Verbotsgesetz. Sie ist Produktsicherheitsrecht. Der europäische Gesetzgeber hat sich für einen risikobasierten Ansatz entschieden. Je gefährlicher ein KI-System für Gesundheit, Sicherheit oder Grundrechte ist, desto strenger sind die Pflichten. Am oberen Ende stehen die verbotenen Praktiken nach Art. 5 KI-VO, etwa Social Scoring, die gezielte Ausnutzung der Schwächen besonders schutzbedürftiger Personen oder die Emotionserkennung am Arbeitsplatz. Darunter liegen die Hochrisiko-Systeme nach Art. 6 KI-VO in Verbindung mit Anhang III, zu denen unter anderem KI-Systeme für die Personalauswahl, für die Kreditwürdigkeitsprüfung oder für den Betrieb kritischer Infrastrukturen gehören. Für bestimmte Systeme mit Täuschungspotenzial, etwa Chatbots und KI-generierte Inhalte, gelten Transparenzpflichten nach Art. 50 KI-VO. Alles andere, und das ist die große Mehrheit der im Alltag genutzten Anwendungen, bleibt weitgehend unreguliert.

Genauso wichtig wie die Risikoklasse ist die Rolle, die Ihr Unternehmen einnimmt. Die KI-Verordnung unterscheidet insbesondere zwischen Anbietern, die ein KI-System entwickeln und auf den Markt bringen, und Betreibern, die ein fremdes System lediglich in eigener Verantwortung nutzen. Der volle Pflichtenkatalog mit Risikomanagement, technischer Dokumentation und Konformitätsbewertung trifft die Anbieter. Wer als Steuerkanzlei, Agentur oder Händler ein fertiges Tool wie ChatGPT, Microsoft Copilot oder ein Buchhaltungstool mit KI-Funktion einsetzt, ist regelmäßig nur Betreiber. Und die Betreiberpflichten sind überschaubar. Im Kern verlangt Art. 4 KI-VO seit dem 2. Februar 2025, dass die Mitarbeiter, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Hinzu kommen die Transparenzpflichten nach Art. 50 KI-VO, die ab (bzw. seit, falls Sie den Text etwas später erst lesen) dem 2. August 2026 durchsetzbar werden, und nur in den seltenen Fällen, in denen tatsächlich ein Hochrisiko-System betrieben wird, die erweiterten Betreiberpflichten nach Art. 26 KI-VO.

Damit steht der zeitliche Rahmen fest. Die Verbote und die Schulungspflicht gelten seit Februar 2025, die Pflichten für Anbieter großer KI-Modelle seit August 2025, und die Vollanwendung einschließlich der Hochrisiko-Pflichten beginnt am 2. August 2026. Wer diesen Beitrag liest und noch nichts unternommen hat, ist also spät dran, aber nicht zu spät.

Die Bußgelder, nüchtern betrachtet

Art. 99 KI-VO staffelt die Bußgelder in drei Stufen. Verstöße gegen die verbotenen Praktiken des Art. 5 KI-VO können mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden. Verstöße gegen die meisten übrigen Pflichten, etwa die Hochrisiko-Anforderungen oder die Transparenzpflichten, mit bis zu 15 Millionen Euro oder 3 Prozent. Falsche oder irreführende Angaben gegenüber den Behörden kosten bis zu 7,5 Millionen Euro oder 1 Prozent. Das klingt dramatisch, und genau so soll es klingen, denn die Beträge sind als Abschreckung für die großen Anbieter kalkuliert.

Für den Mittelstand relativiert sich das Bild erheblich. Art. 99 Abs. 6 KI-VO ordnet für kleine und mittlere Unternehmen einschließlich Start-ups ausdrücklich an, dass jeweils der niedrigere der beiden Beträge die Obergrenze bildet, also der Prozentsatz vom Umsatz statt des Millionenbetrags. Bei einem Unternehmen mit 5 Millionen Euro Jahresumsatz liegt die absolute Obergrenze selbst für den schwersten denkbaren Verstoß damit bei 350.000 Euro, für die praktisch relevanteren Pflichtverletzungen bei 150.000 Euro. Und das sind Obergrenzen, keine Regelbeträge. Die Bemessungskriterien in Art. 99 Abs. 7 KI-VO, darunter Schwere und Dauer des Verstoßes, Vorsatz oder Fahrlässigkeit, Kooperationsbereitschaft und getroffene Abhilfemaßnahmen, folgen derselben aufsichtsrechtlichen Logik wie Art. 83 DSGVO. Wer als Ersttäter fahrlässig gehandelt hat, kooperiert und den Verstoß schnell abstellt, landet weit unterhalb der Obergrenzen.

Hinzu kommt die Durchsetzungsrealität. Ein öffentlich bekanntes Bußgeldverfahren nach der KI-Verordnung gegen ein deutsches oder österreichisches Unternehmen gibt es bislang nicht. Das deutsche Durchführungsgesetz, das die zuständige Aufsichtsbehörde endgültig festlegt, befindet sich noch im Gesetzgebungsverfahren. Die Behörden werden ihre Praxis, wie schon bei der DSGVO, zunächst mit Hinweisen, Anhörungen und Abhilfeaufforderungen beginnen, bevor die ersten nennenswerten Bußgelder verhängt werden. Das ist ausdrücklich kein Freifahrtschein. Wer ab August 2026 ein Hochrisiko-System ohne jede Dokumentation betreibt, hat einen leicht nachweisbaren Verstoß und sollte nicht darauf wetten, dass ihn niemand findet. Aber es ist eben auch kein Grund, die KI-Nutzung im Unternehmen aus Angst einzustellen. Der Gesetzgeber wollte die Nutzung von KI in Europa nicht einschränken, sondern ihr einen sauberen Rahmen geben. Wer sich innerhalb dieses Rahmens bewegt, und das ist für normale Geschäftsmodelle ohne großen Aufwand möglich, hat vom AI Act nichts zu befürchten.

Der eigentliche Risiko heißt nicht AI Act, sondern Schatten-KI

Wenn ich mir die KI-Vorfälle ansehe, die in Unternehmen tatsächlich passieren, dann sind das fast nie Verstöße gegen die KI-Verordnung. Es sind Datenschutzverstöße, Verletzungen von Verschwiegenheitspflichten. Der typische Fall sieht so aus. Ein Mitarbeiter möchte eine unangenehme Kundenmail schneller beantworten, kopiert die komplette Korrespondenz einschließlich Namen, Vertragsdaten und Beschwerdegrund in die kostenlose Version von ChatGPT und lässt sich eine Antwort formulieren. Der Chef weiß davon nichts. Der Mitarbeiter meint es nicht böse, er will nur effizient arbeiten.

Rechtlich passiert in diesem Moment eine ganze Menge, nur eben nichts, was primär die KI-Verordnung betrifft. Es werden personenbezogene Daten ohne Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO an einen Drittanbieter übermittelt. Es fehlt der Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, den die kostenlosen Privatkundenversionen der gängigen Tools gar nicht vorsehen. Es liegt eine Übermittlung in ein Drittland vor, die an Art. 44 ff. DSGVO zu messen ist. Und je nach Inhalt der Eingabe werden Geschäftsgeheimnisse im Sinne des § 2 Nr. 1 GeschGehG preisgegeben, deren Schutz voraussetzt, dass das Unternehmen angemessene Geheimhaltungsmaßnahmen nachweisen kann. Ein Unternehmen, das die KI-Nutzung weder geregelt noch geschult hat, kann genau diesen Nachweis nicht führen.

Für die Haftungsfrage ist die Entscheidung des EuGH vom 05.12.2023 in der Sache Deutsche Wohnen (C-807/21) wichtig. Danach kann ein DSGVO-Bußgeld unmittelbar gegen das Unternehmen verhängt werden, ohne dass der Verstoß einer konkreten Person zugerechnet werden muss. Voraussetzung bleibt aber ein Verschulden des Unternehmens, also Vorsatz oder Fahrlässigkeit. Genau hier entscheidet sich, ob der Alleingang eines Mitarbeiters auf das Unternehmen durchschlägt. Wer eine verbindliche KI-Richtlinie erlassen, die Mitarbeiter nachweisbar geschult und geeignete Tools bereitgestellt hat, kann bei einem einzelnen weisungswidrigen Vorfall gut vertreten, dass es am eigenen Verschulden fehlt. Wer dagegen gar keine Regeln aufgestellt hat, dem wird man das Organisationsdefizit selbst als Fahrlässigkeit vorhalten. Das ist der entscheidende Punkt, der in der ganzen Bußgelddebatte untergeht. Nicht die KI-Nutzung ist das Risiko, sondern die ungeregelte KI-Nutzung.

Und noch etwas wird in der Praxis häufig übersehen. Ein pauschales KI-Verbot löst dieses Problem nicht, es verschärft es. Die Mitarbeiter hören nicht auf, KI zu nutzen, sie hören nur auf, darüber zu reden. Statt der vom Unternehmen kontrollierten Business-Version mit Auftragsverarbeitungsvertrag und deaktiviertem Training läuft dann alles über private Accounts. Aus anwaltlicher Sicht ist von Verbotsstrategien deshalb dringend abzuraten. Erlauben Sie die Nutzung, aber regeln Sie sie.

Beispiel Nummer 1: Steuerberatungskanzlei

Eine Steuerberatungskanzlei mit fünfzehn Mitarbeitern möchte KI einsetzen, um Mandantenanfragen vorzuformulieren, Jahresabschlusserläuterungen zu entwerfen, Belege automatisiert vorzukontieren und interne Rechercheaufgaben zu beschleunigen. Nichts davon ist nach der AI Verordnung verboten oder auch nur hochriskant. Die Vorkontierung von Belegen, die Textentwürfe, die Recherche, all das sind Anwendungen ohne Hochrisiko-Einstufung nach Anhang III. Die Kanzlei ist zudem in aller Regel nur Betreiberin fertiger Systeme, nicht Anbieterin.

Die eigentlichen Anforderungen kommen aus dem Berufsrecht und dem Datenschutz. Steuerberater unterliegen der Verschwiegenheitspflicht nach § 57 Abs. 1 StBerG, deren Verletzung nach § 203 Abs. 1 StGB sogar strafbewehrt ist. Mandantendaten dürfen deshalb nur in KI-Umgebungen verarbeitet werden, bei denen vertraglich gesichert ist, dass die Eingaben nicht für das Training verwendet werden, ein Auftragsverarbeitungsvertrag besteht und die Vertraulichkeit gewährleistet ist. Die kostenlosen Consumer-Versionen scheiden damit für mandatsbezogene Arbeit aus, die Business- und Enterprise-Varianten der großen Anbieter oder europäische Alternativen kommen in Betracht. Erst wenn diese Voraussetzungen vorliegen, kommt die Arbeit mit echten Mandantendaten überhaupt in Betracht. Für alles andere gilt die einfache Regel, dass anonymisiert oder mit Platzhaltern gearbeitet wird.

Aus der KI-Verordnung selbst bleibt für die Kanzlei vor allem Art. 4 KI-VO übrig, also die Pflicht, das Personal im Umgang mit den eingesetzten Systemen zu schulen. Das ist keine Formalie, sondern der wirksamste Schutz gegen den oben beschriebenen Schatten-KI-Fall, in dem die Fachangestellte den kompletten Steuerbescheid eines Mandanten in ein öffentliches Tool kopiert. Eine dokumentierte Schulung von zwei bis drei Stunden, eine schriftliche KI-Richtlinie mit einer klaren Positivliste der erlaubten Tools und der verbotenen Datenkategorien, die Aufnahme der Tools in das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO und eine kurze Abstimmung mit dem Datenschutzbeauftragten. Mehr braucht diese Kanzlei nicht, um rechtssicher mit KI zu arbeiten. Ein Aufwand von wenigen Tagen, einmalig.

Ein Sonderfall verdient Erwähnung. Setzt die Kanzlei KI-Systeme für die eigene Personalauswahl ein, etwa ein Tool, das Bewerbungen automatisch vorsortiert und bewertet, dann bewegt sie sich in den Hochrisiko-Bereich nach Anhang III Nr. 4 KI-VO. Dann greifen ab dem 2. August 2026 die Betreiberpflichten nach Art. 26 KI-VO, insbesondere die menschliche Aufsicht und die Verwendung des Systems entsprechend der Betriebsanleitung des Anbieters. Auch das ist machbar, muss aber bewusst entschieden und dokumentiert werden. Wer solche Tools nur nebenbei über ein Bewerberportal mitgebucht hat, sollte jetzt prüfen, was da eigentlich läuft.

Beispiel Nummer 2: Werbeagentur

Eine Werbeagentur mit fünfundzwanzig Mitarbeitern nutzt KI in nahezu allen Gewerken. Texte für Kampagnen, Bildgenerierung für Social Media, Videoschnitt mit KI-Unterstützung, automatisierte Übersetzungen, dazu ein KI-gestütztes Tool für die Mediaplanung. Auch hier gilt zunächst die beruhigende Grundaussage. Keine dieser Anwendungen ist nach dem AI Act verboten, keine ist hochriskant. Die Agentur kann und soll diese Werkzeuge nutzen, sie verschafft sich damit einen echten Wettbewerbsvorteil bzw. eigentlich nicht, sondern ohne Nutzung lediglich einen Wettbewerbsnachteil.

Der für Agenturen zentrale Baustein der KI-Verordnung ist Art. 50 KI-VO mit seinen Transparenzpflichten, die ab dem 2. August 2026 durchsetzbar werden. Wer KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte erstellt, die echten Personen, Orten oder Ereignissen täuschend ähnlich sind, also Deepfakes im Sinne der Verordnung, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Für die Agentur heißt das ganz praktisch, dass die fotorealistische KI-Testimonial-Kampagne mit einer nicht existierenden Person anders zu behandeln ist als eine erkennbar illustrative Grafik. Die Einzelheiten der Kennzeichnungspflichten, einschließlich der Frage, wen die Pflicht in der Kette zwischen Toolanbieter, Agentur und Kunde trifft, habe ich in meinem Beitrag zu den Kennzeichnungspflichten nach Art. 50 KI-VO ausführlich dargestellt. Wer als Agentur regelmäßig KI-Content für Kunden produziert, sollte diese Fragen vertraglich sauber regeln, denn der Kunde wird im Zweifel erwarten, dass die Agentur die Kennzeichnungsfragen mitdenkt.

Daneben liegen die echten Stolperfallen der Agentur wieder außerhalb der AI Verordnung. KI-generierte Inhalte genießen mangels persönlicher geistiger Schöpfung im Sinne des § 2 Abs. 2 UrhG regelmäßig keinen Urheberrechtsschutz, was für die Rechteeinräumung gegenüber Kunden erhebliche Folgen hat. Wer dem Kunden vertraglich ausschließliche Nutzungsrechte an einem Werk einräumt, das gar nicht schutzfähig ist, verspricht etwas, das er nicht halten kann. Hinzu kommt das wettbewerbsrechtliche Risiko der Irreführung nach § 5 UWG, wenn KI-Inhalte Tatsachenbehauptungen enthalten, die schlicht falsch sind, weil das Sprachmodell sie halluziniert hat. Und natürlich gilt auch hier das Schatten-KI-Thema. Der Texter, der das vertrauliche Briefing des Kunden samt unveröffentlichter Produktdaten in ein kostenloses Tool lädt, verletzt die Vertraulichkeitsvereinbarung mit dem Kunden, lange bevor irgendeine Behörde an die KI-Verordnung denkt.

Die Lösung sieht für die Agentur ähnlich aus wie für die Kanzlei, mit zwei Ergänzungen. Neben KI-Richtlinie und Schulung nach Art. 4 KI-VO braucht die Agentur einen Freigabeprozess, in dem KI-Inhalte vor der Veröffentlichung fachlich und rechtlich geprüft werden, und sie braucht angepasste Kundenverträge, die den KI-Einsatz, die Rechtesituation und die Verantwortung für die Kennzeichnung transparent regeln. Beides lässt sich einmal sauber aufsetzen und dann für jedes Projekt wiederverwenden.

Beispiel Nummer 3: Onlineshop

Ein Einzelhändler mit Onlineshop für Sportartikel mit vierzig Mitarbeitern setzt KI an drei Stellen ein. Ein Chatbot beantwortet auf der Website Kundenfragen zu Lieferzeiten, Retouren und Produktdetails. Eine KI-Telefonie nimmt außerhalb der Geschäftszeiten Anrufe entgegen, beantwortet Standardfragen und nimmt Rückrufwünsche auf. Und im Backend erstellt ein Sprachmodell Produktbeschreibungen und Kategorietexte für mehrere tausend Artikel.

Der Chatbot und die KI-Telefonie fallen unmittelbar unter Art. 50 Abs. 1 KI-VO. Kunden müssen erkennen können, dass sie mit einer KI kommunizieren, es sei denn, das ist aus den Umständen ohnehin offensichtlich. Beim Website-Chatbot genügt eine klare Kennzeichnung im Chatfenster, etwa der Hinweis, dass ein KI-Assistent antwortet. Bei der KI-Telefonie ist die Sache heikler, weil moderne Sprachsysteme am Telefon kaum noch von Menschen zu unterscheiden sind. Hier muss die Ansage zu Beginn des Gesprächs offenlegen, dass ein KI-System spricht. Wer das versäumt, riskiert nicht nur ein Bußgeld nach der KI-Verordnung, sondern beschädigt auch das Vertrauen der Kunden, wenn diese später merken, dass sie minutenlang mit einer Maschine verhandelt haben. Aus anwaltlicher Sicht ist die frühe, klare Offenlegung deshalb nicht nur Pflicht, sondern schlicht gutes Geschäftsgebaren. Für ausgehende Werbeanrufe mit KI-Stimme gilt unabhängig davon die Einwilligungspflicht nach § 7 Abs. 2 Nr. 1 UWG, daran ändert die AI Verordnung nichts.

Bei den KI-generierten Produkttexten stellt sich die Kennzeichnungsfrage entspannter dar. Gewöhnliche Produktbeschreibungen sind keine Deepfakes und keine Texte über Angelegenheiten von öffentlichem Interesse im Sinne des Art. 50 Abs. 4 KI-VO. Das eigentliche Risiko liegt hier im Wettbewerbsrecht. Wenn das Sprachmodell einem Laufschuh Eigenschaften andichtet, die er nicht hat, etwa eine Wasserdichtigkeit oder eine Zertifizierung, dann liegt eine Irreführung nach § 5 UWG vor, die schnell zu Abmahnungen führt. Der Shop haftet für seine Werbeaussagen unabhängig davon, ob ein Mensch oder eine Maschine sie formuliert hat. Deshalb gehört zwischen KI-Generierung und Veröffentlichung zwingend eine menschliche Kontrolle, zumindest stichprobenartig und bei allen tatsachenbezogenen Angaben.

Der Chatbot verdient noch einen zweiten Blick aus Datenschutzsicht. Kunden geben im Chat Bestellnummern, Namen und Adressen ein. Das ist eine Verarbeitung personenbezogener Daten, die in die Datenschutzerklärung gehört, für die ein Auftragsverarbeitungsvertrag mit dem Chatbot-Anbieter nach Art. 28 DSGVO erforderlich ist und bei der geprüft werden muss, wohin die Daten fließen. Wer den Chatbot zusätzlich mit der Bestellhistorie verknüpft, um personalisierte Antworten zu geben, sollte eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO zumindest prüfen. Auch das ist alles machbar und in vergleichbarer Form aus anderen Tools längst bekannt. Es muss nur einmal ordentlich gemacht werden.

Was Sie jetzt konkret umsetzen sollten

Wenn Sie die drei Beispiele nebeneinanderlegen, erkennen Sie das Muster. Die KI-Verordnung verlangt von normalen Unternehmen wenig, und das Wenige ist schnell erledigt. Die eigentliche Arbeit liegt in der Organisation der KI-Nutzung, und die dient in erster Linie Ihrem eigenen Schutz vor Datenschutzverstößen, Geheimnisverlust und Abmahnungen.

Zunächst ist zu klären, welche KI-Systeme in Ihrem Unternehmen überhaupt im Einsatz sind. Fragen Sie dabei nicht nur die IT, sondern die Fachabteilungen, denn die interessanten Antworten kommen erfahrungsgemäß aus dem Vertrieb und dem Marketing.

Diese Bestandsaufnahme ist zugleich die Grundlage für die Einordnung, ob eines der Systeme in den Hochrisiko-Bereich nach Anhang III KI-VO fällt, was bei den allermeisten Unternehmen auf die Personalauswahl hinausläuft oder eben auf nichts. Im nächsten Schritt erlassen Sie eine KI-Richtlinie, die festlegt, welche Tools in welcher Version für welche Daten genutzt werden dürfen und welche Daten unter keinen Umständen eingegeben werden.

Stellen Sie Ihren Mitarbeitern dabei taugliche Werkzeuge zur Verfügung, also Business-Versionen mit Auftragsverarbeitungsvertrag und ausgeschlossenem Training, denn eine Richtlinie ohne erlaubte Alternative erzeugt nur neue Schatten-KI.

Anschließend schulen Sie Ihre Mitarbeiter und dokumentieren das, womit Sie zugleich die Pflicht aus Art. 4 KI-VO erfüllen. Und schließlich prüfen Sie, ob Ihre kundengerichteten KI-Anwendungen, insbesondere Chatbots und KI-Telefonie, transparent gekennzeichnet sind.

Unterm Strich bedeutet das für Ihr Unternehmen einen überschaubaren, einmaligen Aufwand, der sich mit externer Unterstützung in wenigen Wochen erledigen lässt. Verglichen mit dem, was eine einzige Datenpanne oder eine wettbewerbsrechtliche Abmahnung kostet, ist das eine sehr gute Investition. Und verglichen mit dem Produktivitätsgewinn, den ein geordneter KI-Einsatz bringt, ohnehin.

Keine Angst vor der KI-Verordnung, aber Respekt vor den eigenen Daten

Die Millionenbußgelder des Art. 99 KI-VO zielen auf Anbieter verbotener oder hochriskanter Systeme, nicht auf den Mittelständler, dessen Mitarbeiter mit ChatGPT experimentieren. Für kleine und mittlere Unternehmen deckelt Art. 99 Abs. 6 KI-VO die Beträge zusätzlich, und eine Bußgeldpraxis der Behörden existiert bislang schlicht nicht. Der Gesetzgeber hat die KI-Nutzung in Deutschland und Österreich nicht eingeschränkt, er hat ihr einen Rahmen gegeben, den jedes ordentlich geführte Unternehmen einhalten kann.

Weitere Beiträge auf meiner Website zur KI-Verordnung, insbesondere zu den Kennzeichnungspflichten nach Art. 50 KI-VO und zum datenschutzkonformen Einsatz von KI-Tools im Unternehmen helfen vielleicht auch schon weiter.

Und wenn Sie bei der Schulung Ihrer Mitarbeiter nach Art. 4 KI-VO Unterstützung benötigen, nutzen Sie gern unsere Onlineschulung.

„Gibt es schon dazu Handlungsanweisungen, wie wir ab dem 02.08. AI kennzeichnen müssen?“ So oder ähnlich lautet derzeit eine häufige Frage, die Mandanten an uns herantragen. Der Anlass ist meist ein Beitrag wie der der Bundesregierung zum AI Act, in dem es knapp heißt, künstlich erzeugte oder bearbeitete Inhalte müssten eindeutig als solche gekennzeichnet werden. Dieser Satz ist nicht falsch, aber er ist so verkürzt, dass er in der Praxis mehr Verunsicherung stiftet als Klarheit schafft. Denn nein, es gibt keine allgemeine Pflicht, jeden Text, jedes Bild und jedes Video mit dem Stempel „KI“ zu versehen. Und ja, es gibt sehr konkrete Kennzeichnungspflichten, die ab dem 2. August 2026 gelten und deren Verletzung teuer werden kann.

Dieser Beitrag klärt, wer was ab wann kennzeichnen muss, wer gerade nichts tun muss, und wie Sie sich in den verbleibenden Wochen vorbereiten. Er richtet sich an Unternehmen jeder Größe, an Influencer und Content-Creator sowie an alle, die auch nur gelegentlich Bilder oder Texte mit KI für die eigene Website oder für Social Media erstellen.

Der Beitrag gibt den Rechtsstand von Anfang Juli 2026 wieder. Zu den Grundlagen der KI-Verordnung habe ich bereits früher berichtet, etwa unter Was bedeutet die KI-Verordnung für Unternehmen? und KI-Verordnung (AI Act): Seit August 2025 gelten scharfe Sanktionen sowie auf unserer Übersichtsseite zum KI-Recht.

Woher die Kennzeichnungspflicht kommt und warum es kein „deutsches KI-Kennzeichnungsgesetz“ gibt

Zunächst ist ein verbreitetes Missverständnis auszuräumen. Es gibt kein neues deutsches Gesetz, das ab dem 2. August 2026 die Kennzeichnung von KI-Inhalten vorschreibt. Die Kennzeichnungspflichten stehen in Art. 50 der Verordnung (EU) 2024/1689, der sogenannten KI-Verordnung oder englisch AI Act. Als EU-Verordnung gilt sie unmittelbar in jedem Mitgliedstaat, also auch in Deutschland und Österreich, ohne dass es eines Umsetzungsgesetzes bedarf. Der Zeitplan ergibt sich aus Art. 113 KI-VO. Danach werden die Transparenzpflichten des Art. 50 KI-VO am 2. August 2026 anwendbar.

Was Deutschland national regelt, ist lediglich die Aufsicht. Das Bundeskabinett hat am 11. Februar 2026 den Entwurf des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) beschlossen, der Bundestag hat den Gesetzentwurf am 11. Juni 2026 mit leichten Änderungen angenommen, die Zustimmung des Bundesrates steht noch aus. Kern des Gesetzes ist, dass die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde wird, deren Zuständigkeit ausdrücklich auch die Transparenzpflichten nach Kapitel IV der KI-Verordnung umfasst, und dass dort eine zentrale Beschwerdestelle eingerichtet wird. Bei der Bundesnetzagentur entsteht zudem ein Koordinierungs- und Kompetenzzentrum für die KI-Verordnung (KoKIVO), das eine einheitliche Rechtsauslegung gewährleisten soll. Für Ihre materiellen Pflichten ändert das KI-MIG nichts. Was Sie kennzeichnen müssen, steht allein in der KI-Verordnung. Das KI-MIG bestimmt nur, wer Ihnen bei Verstößen auf die Finger schaut.

Ein Wort noch zum sogenannten Digitalen Omnibus, weil hierzu viele Fehlinformationen kursieren. Die EU hat im Frühjahr 2026 eine politische Einigung über Erleichterungen und Fristverschiebungen im AI Act erzielt. Die Trilog-Einigung vom 7. Mai 2026 verschiebt die Pflichten für Hochrisiko-KI-Systeme nach hinten, in den Dezember 2027 beziehungsweise August 2028. Wer daraus schließt, „der AI Act ist verschoben“, irrt an der entscheidenden Stelle. Die Pflicht, Nutzer über KI-Interaktion zu informieren, Betroffene über Emotionserkennung aufzuklären und Deepfakes sowie bestimmte KI-Texte zu kennzeichnen, gilt ab August 2026 ohne Einschränkung. Verschoben wird nach der politischen Einigung lediglich ein Teilaspekt, nämlich die technische Markierungspflicht der KI-Anbieter für Altsysteme. Für Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, soll die maschinenlesbare Kennzeichnungspflicht nach Art. 50 Abs. 2 KI-VO erst später greifen, nach derzeitigem Stand bis zum 2. Dezember 2026, wobei die formelle Annahme der Omnibus-Änderungen noch aussteht. Für Sie als Nutzer von KI-Werkzeugen ist das ohnehin zweitrangig, wie gleich zu zeigen sein wird. Der für Sie relevante Stichtag bleibt der 2. August 2026.

Anbieter oder Betreiber. Warum diese Unterscheidung über Ihre Pflichten entscheidet

Die KI-Verordnung verteilt die Pflichten nach Rollen. Anbieter im Sinne von Art. 3 Nr. 3 KI-VO ist, vereinfacht gesagt, wer ein KI-System entwickelt oder unter eigenem Namen auf den Markt bringt. Das sind OpenAI, Google, Anthropic, Adobe und Co., aber unter Umständen auch ein Softwarehaus, das ein fremdes Modell unter eigener Marke als Produkt anbietet. Betreiber im Sinne von Art. 3 Nr. 4 KI-VO ist, wer ein KI-System in eigener Verantwortung verwendet. Das ist der Normalfall in Ihrem Unternehmen. Wer mit ChatGPT einen Text schreiben lässt, mit Midjourney ein Bild erzeugt oder einen zugekauften Chatbot auf der Website einbindet, ist Betreiber.

Wichtig ist die Ausnahme in Art. 3 Nr. 4 KI-VO am Ende. Wer ein KI-System im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet, ist kein Betreiber. Die rein private Nutzung fällt also heraus. Für Influencer ist das der entscheidende Punkt, der in der Praxis häufig übersehen wird. Wer mit seinen Inhalten Geld verdient, Kooperationen eingeht oder seine Reichweite geschäftlich nutzt, handelt beruflich und ist Betreiber im Sinne der Verordnung. Die Kennzeichnungspflichten treffen dann den Influencer persönlich beziehungsweise dessen Unternehmen, nicht etwa nur die Plattform oder den KI-Anbieter. Das private Urlaubsbild mit KI-Filter im rein privaten Account bleibt dagegen außerhalb der Verordnung.

Merken Sie sich als Faustregel Folgendes. Die technische Markierung im Dateiinneren ist Sache der KI-Anbieter. Die sichtbare Offenlegung gegenüber Ihrem Publikum ist Ihre Sache als Betreiber. Beide Ebenen werden ständig verwechselt, und genau diese Verwechslung führt zu den überzogenen Aussagen, jedes KI-Bild müsse ein sichtbares Label tragen.

Die vier Pflichten des Art. 50 KI-VO im Überblick

Art. 50 KI-VO enthält vier Pflichtenkreise. Zwei richten sich an Anbieter, zwei an Betreiber.

Erste Pflicht. Der Hinweis bei KI-Interaktion (Art. 50 Abs. 1 KI-VO)

KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, müssen so konzipiert sein, dass die betroffenen Personen erfahren, dass sie es mit einer KI zu tun haben. Gemeint sind vor allem Chatbots und Voicebots. Die Pflicht trifft primär den Anbieter des Systems, praktisch müssen Sie als Betreiber aber sicherstellen, dass der Hinweis in Ihrer konkreten Einbindung auch tatsächlich erscheint. Ein Chatbot auf Ihrer Website ohne KI-Hinweis fällt auf Sie zurück, denn Ihre Kunden beschweren sich bei Ihnen und die Aufsicht schaut zuerst auf Ihren Auftritt.

Die Pflicht entfällt nur, wenn der KI-Einsatz für eine aufmerksame und verständige Person offensichtlich ist. Der Entwurf der Kommissionsleitlinien legt diese Ausnahme eng aus. Dass ein Chatbot auf einer Service-Seite läuft, reicht typischerweise nicht, ein einleitender Hinweis wird vorausgesetzt, und dieser Hinweis muss vor der ersten Antwort erscheinen, nicht nur einmal pro Session und nicht versteckt in den AGB. Für die Praxis heißt das, der Bot begrüßt den Nutzer mit einem klaren Satz wie „Sie chatten hier mit einem KI-Assistenten“. Ein Robotersymbol allein genügt nach meiner Einschätzung nicht, ein Hinweis im Impressum erst recht nicht. Nach Art. 50 Abs. 5 KI-VO muss die Information klar und erkennbar spätestens zum Zeitpunkt der ersten Interaktion erfolgen und die geltenden Barrierefreiheitsanforderungen erfüllen. Wer also einen Voicebot in der Telefonhotline einsetzt, braucht eine hörbare Ansage zu Gesprächsbeginn.

Zweite Pflicht. Die maschinenlesbare Markierung synthetischer Inhalte (Art. 50 Abs. 2 KI-VO)

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkennbar sind. Gemeint sind technische Verfahren wie Wasserzeichen und Metadaten, die nach dem Verordnungstext wirksam, interoperabel, belastbar und zuverlässig sein müssen, soweit technisch machbar. Das ist die unsichtbare Ebene der Kennzeichnung. Sie steckt in der Datei selbst und richtet sich an Maschinen, etwa an Erkennungssoftware von Plattformen.

Diese Pflicht trifft nicht Sie als nutzendes Unternehmen, sondern OpenAI, Google und die anderen Anbieter. Zwei Punkte müssen Sie dennoch kennen. Erstens können Sie selbst zum Anbieter werden, wenn Sie ein fremdes KI-System unter eigenem Namen als Produkt vermarkten oder wesentlich verändern. Wer etwa ein White-Label-KI-Tool unter eigener Marke an Kunden vertreibt, sollte die Anbieterpflichten dringend prüfen. Zweitens sollten Sie vorhandene technische Markierungen nicht aktiv entfernen. Wer Metadaten gezielt löscht, um die KI-Herkunft eines Inhalts zu verschleiern, bewegt sich in einem rechtlich riskanten Bereich und untergräbt zudem seine Verteidigungsposition, wenn es später um die sichtbare Kennzeichnungspflicht geht.

Von der Markierungspflicht ausgenommen sind Systeme mit unterstützender Funktion für Standardbearbeitung, die die vom Nutzer bereitgestellten Eingaben nicht wesentlich verändern. Die klassische Rechtschreibkorrektur und moderate Bildoptimierung bleiben also markierungsfrei. Der Leitlinienentwurf der Kommission zieht die Grenze allerdings enger, als viele erwarten. KI-Übersetzungen und KI-Zusammenfassungen ordnet der Entwurf als kennzeichnungspflichtige wesentliche Veränderungen ein, während Grammatik- und Rechtschreibprüfung im ausgenommenen Bereich der Standardbearbeitung bleiben. Dieser Punkt ist in der Konsultation auf Widerspruch gestoßen und noch nicht final. Für Sie als Betreiber ist er aber ohnehin nur mittelbar relevant, denn die Markierungspflicht liegt beim Systemanbieter.

Für diese zweite Pflicht gilt die oben erwähnte Besonderheit aus dem Digitalen Omnibus. Während die Pflicht grundsätzlich ab dem 2. August 2026 für neue Systeme gilt, ist für Systeme, die vor diesem Datum in Verkehr gebracht wurden, eine Übergangsfrist vorgesehen, nach derzeitigem Stand bis zum 2. Dezember 2026. In der Praxis markieren die großen Anbieter ihre Bild- und Videoausgaben ohnehin bereits heute weitgehend, etwa über den C2PA-Standard.

Dritte Pflicht. Information bei Emotionserkennung und biometrischer Kategorisierung (Art. 50 Abs. 3 KI-VO)

Betreiber von Systemen zur Emotionserkennung oder zur biometrischen Kategorisierung müssen die betroffenen Personen über den Betrieb des Systems informieren. Für die typischen Leser dieses Beitrags spielt das eine untergeordnete Rolle, weshalb ich es bei drei Hinweisen belasse. Erstens gilt die Informationspflicht ab dem 2. August 2026. Zweitens ist vor jeder Transparenzüberlegung zu prüfen, ob der Einsatz nicht ohnehin verboten ist, denn Art. 5 Abs. 1 lit. f KI-VO untersagt Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen bereits seit Februar 2025. Drittens läuft parallel praktisch immer eine Verarbeitung besonderer Kategorien personenbezogener Daten, sodass Art. 9 DSGVO zusätzlich zu beachten ist. Wer solche Systeme einsetzen will, braucht eine Einzelfallprüfung, nicht einen Blogbeitrag.

Vierte Pflicht. Deepfakes und KI-Texte von öffentlichem Interesse (Art. 50 Abs. 4 KI-VO)

Hier liegt der Schwerpunkt für alle, die Inhalte veröffentlichen. Die Vorschrift enthält zwei getrennte Tatbestände, die sauber auseinandergehalten werden müssen.

Der erste Tatbestand betrifft Deepfakes. Wer als Betreiber ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deepfake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Was ein Deepfake ist, definiert Art. 3 Nr. 60 KI-VO. Erfasst ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würde. Der entscheidende Punkt ist die Täuschungseignung. Nicht jedes KI-Bild ist ein Deepfake, aber jedes KI-Bild, das wie eine echte Fotografie oder Aufnahme der realen Welt wirkt, kann einer sein. Und die Definition ist weiter, als viele denken. Sie erfasst nicht nur Personen, sondern ausdrücklich auch Gegenstände, Orte und Ereignisse.

Der zweite Tatbestand betrifft Texte. Wer als Betreiber ein KI-System einsetzt, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss die künstliche Erzeugung offenlegen. Diese Pflicht ist bewusst eng gefasst. Sie greift erst, wenn zwei Hürden kumulativ überschritten werden. Der Text muss die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, und er darf keiner echten redaktionellen Endkontrolle unterliegen. Eine allgemeine Kennzeichnungspflicht für KI-Texte gibt es also gerade nicht. Das ist die wichtigste Botschaft dieses Beitrags für alle, die täglich mit ChatGPT und Co. Texte erstellen.

Zur redaktionellen Ausnahme im Einzelnen. Die Kennzeichnungspflicht für Texte entfällt, wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Der Leitlinienentwurf der Kommission vom 8. Mai 2026 konkretisiert, was das bedeutet. Verlangt wird eine bewusste inhaltliche Prüfung auf Richtigkeit, Plausibilität und Quellen mit echter Möglichkeit, den Text zu ändern oder abzulehnen, und die redaktionelle Verantwortung muss von einer klar identifizierbaren natürlichen oder juristischen Person übernommen werden. Eine reine Rechtschreib- oder Formalprüfung genügt nicht. Das flüchtige Drüberlesen vor dem Klick auf „Veröffentlichen“ reicht also nicht aus. Wer sich auf die Ausnahme berufen will, braucht einen echten Prüfschritt und sollte ihn dokumentieren.

Was „Angelegenheiten von öffentlichem Interesse“ sind, war lange die große Unbekannte. Der Leitlinienentwurf gibt nun erste Anhaltspunkte. Als öffentlichkeitsrelevant nennt die Kommission beispielsweise eine KI-generierte Zusammenfassung eines Zeitungsartikels über eine Stadtratsentscheidung, KI-manipulierte Teile einer veröffentlichten wissenschaftlichen Arbeit zu Gesundheitsfragen oder eine KI-generierte Unwetterwarnung auf dem Social-Media-Profil eines meteorologischen Instituts. Nicht erfasst sind dagegen KI-generierte fiktionale Romane oder Gedichte und Unterhaltungsinhalte. Auch gewöhnliche Werbung nimmt der Leitlinienentwurf ausdrücklich aus, sofern sie keine Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit macht. Journalismus, Gesundheitsinformationen, Sicherheitshinweise, politische und wirtschaftliche Berichterstattung sowie Anlegerinformationen liegen dagegen im Kernbereich der Pflicht.

Für Deepfakes gibt es eine wichtige Erleichterung, aber keine Befreiung. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein der KI-Erzeugung in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen. Die Satire-Ausnahme erlaubt also einen dezenteren Hinweis, etwa im Begleittext oder Abspann, sie erlaubt aber nicht den Verzicht auf jeden Hinweis. Vollständig ausgenommen sind nur gesetzlich zugelassene Verwendungen zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten, was für die hier behandelten Fälle keine Rolle spielt. Am Rande erwähnt sei, dass die politische Einigung zum Digitalen Omnibus den Katalog der verbotenen Praktiken in Art. 5 KI-VO um ein Verbot sexualisierter Deepfakes ergänzen soll. Solche Inhalte sind dann nicht kennzeichnungspflichtig, sondern schlicht unzulässig.

Die Praxisfragen. Was das konkret für Ihre Inhalte bedeutet

Nach der Systematik nun zu den Fragen, die in der Beratung tatsächlich gestellt werden. Ich beantworte sie so, wie ich sie einem Mandanten am Telefon beantworten würde, mit dem Hinweis, dass die finalen Leitlinien der Kommission noch ausstehen und einzelne Randfragen erst die Aufsichtspraxis klären wird.

Muss ich jedes KI-Bild auf meiner Website kennzeichnen?

Nein. Kennzeichnungspflichtig als Betreiber sind Sie nur bei Deepfakes, also bei Inhalten mit Täuschungseignung. Eine erkennbar illustrative KI-Grafik, ein abstraktes Headerbild, eine Fantasielandschaft oder ein stilisiertes Icon täuschen niemandem eine reale Aufnahme vor und lösen keine Offenlegungspflicht nach Art. 50 Abs. 4 KI-VO aus. Anders liegt es bei fotorealistischen Bildern. Das KI-generierte „Foto“ Ihres angeblichen Teams, das es so nie gab, das fotorealistische Bild Ihres Ladengeschäfts in einer Lage, die es nicht gibt, oder die täuschend echte Aufnahme eines Events, das nie stattfand, sind Deepfakes im Sinne der Verordnung und müssen als künstlich erzeugt offengelegt werden. Der Maßstab ist die Perspektive des durchschnittlichen Betrachters. Fragen Sie sich bei jedem fotorealistischen KI-Bild, ob ein Besucher es für eine echte Fotografie der Wirklichkeit halten würde. Lautet die Antwort ja, kennzeichnen Sie.

Bei Produktbildern kommt eine zweite Ebene hinzu, die mit dem AI Act nichts zu tun hat und schon heute gilt. Wer ein KI-Bild verwendet, das das reale Produkt besser, größer oder anders zeigt, als es ist, führt irre und riskiert eine Abmahnung nach § 5 Abs. 1 UWG, völlig unabhängig von jeder KI-Kennzeichnung. Die KI-Kennzeichnung heilt eine Irreführung übrigens nicht. Ein gekennzeichnetes, aber das Produkt verfälschendes Bild bleibt wettbewerbswidrig.

Muss ich meine mit ChatGPT geschriebenen Blogartikel und Website-Texte kennzeichnen?

In den meisten Fällen nein, und zwar aus zwei Gründen, von denen jeder für sich genügt. Erstens greift die Textkennzeichnungspflicht nur bei Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Ihre Produktbeschreibung, Ihre Angebotsseite, Ihr Werbetext und Ihr Unternehmensporträt fallen nicht darunter. Zweitens entfällt die Pflicht selbst bei öffentlichkeitsrelevanten Texten, wenn eine echte redaktionelle Kontrolle mit klar zugeordneter Verantwortung stattfindet. Wer seine KI-Entwürfe inhaltlich prüft, korrigiert und unter eigenem Namen verantwortet, muss nicht kennzeichnen.

Aufpassen müssen zwei Gruppen. Zum einen alle, die Ratgeberinhalte zu Gesundheit, Sicherheit, Finanzen, Recht oder ähnlich sensiblen Themen veröffentlichen. Solche Inhalte liegen im öffentlichen Interesse, und wer sie ungeprüft von der KI generieren und automatisiert publizieren lässt, ist kennzeichnungspflichtig. Zum anderen alle, die Inhalte in großem Stil automatisiert erzeugen, etwa KI-geschriebene News-Feeds, automatische Zusammenfassungen oder massenhaft generierte SEO-Artikel ohne menschliche Endkontrolle. Genau diese Konstellationen hat der Verordnungsgeber im Blick gehabt. Wer so arbeitet, muss entweder einen echten Review-Prozess einziehen oder kennzeichnen. Aus anwaltlicher Sicht rate ich in diesen Fällen zum Review-Prozess, denn er löst nicht nur das Kennzeichnungsproblem, sondern auch das Qualitäts- und Haftungsproblem, das ungeprüfte KI-Texte ohnehin mit sich bringen.

Was gilt für Influencer und Unternehmensauftritte auf Social Media?

Hier laufen ab August 2026 drei Pflichtenkreise nebeneinander, die strikt zu trennen sind.

Der erste ist die neue KI-Kennzeichnung nach Art. 50 Abs. 4 KI-VO. Wer beruflich postet, ist Betreiber. Das KI-generierte Reel, in dem der Influencer Dinge sagt, die er nie gesagt hat, der KI-Avatar, der als echte Person auftritt, das per KI verjüngte oder verschlankte Gesicht, das fotorealistische KI-Bild vom angeblichen Traumurlaub, all das sind Deepfakes und müssen klar und erkennbar als künstlich erzeugt oder manipuliert offengelegt werden. Die Offenlegung muss nach Art. 50 Abs. 5 KI-VO spätestens im Zeitpunkt der ersten Wahrnehmung erfolgen, also beim Bild oder Video selbst und nicht irgendwo in der Profilbeschreibung. In der Praxis bietet sich ein sichtbarer Hinweis im Bild oder Video an, ergänzt um die KI-Label, die Instagram, TikTok und YouTube inzwischen bereitstellen. Diese Plattformfunktionen sind hilfreich, ersetzen die eigene Prüfung aber nicht, denn verantwortlich bleiben Sie.

Der zweite Pflichtenkreis ist die klassische Werbekennzeichnung. Wer kommerzielle Inhalte postet, muss den kommerziellen Zweck nach § 5a Abs. 4 UWG und im Rundfunk- und Telemedienbereich nach den Werbegrundsätzen des Medienstaatsvertrags kenntlich machen. Diese Pflicht besteht seit Jahren, sie hat mit KI nichts zu tun und sie entfällt auch nicht dadurch, dass ein Inhalt als KI-generiert gekennzeichnet ist. Es kann also sein, dass ein einziger Post künftig zwei Kennzeichnungen braucht, „Werbung“ und „mit KI erstellt“.

Der dritte Pflichtenkreis sind die Nutzungsbedingungen der Plattformen selbst, die eigene KI-Offenlegungsregeln enthalten. Deren Verletzung führt zwar nicht zu Bußgeldern, aber zu Reichweitenbeschränkungen, Löschungen oder Kontosperren, was für Creator wirtschaftlich oft schmerzhafter ist als jedes Verfahren.

Ich bearbeite echte Fotos nur mit KI-Funktionen nach. Muss ich kennzeichnen?

Das hängt vom Ausmaß der Veränderung ab. Die klassische Optimierung eines echten Fotos, also Belichtung, Farben, Schärfe, das Entfernen eines störenden Passanten im Hintergrund, ist Standardbearbeitung und löst keine Kennzeichnungspflicht aus. Kennzeichnungspflichtig wird es, wenn die Bearbeitung den Aussagegehalt des Bildes verändert und das Ergebnis als echt erscheinen würde, obwohl die dargestellte Szene so nicht stattgefunden hat. Wer per KI Personen in ein Bild einfügt, Gesichter austauscht, Körper wesentlich verändert oder aus einem verregneten Messestand einen gut besuchten macht, erzeugt eine Manipulation mit Täuschungseignung und muss offenlegen. Die Grenze ist fließend, und genau hier wird die Aufsichtspraxis in den kommenden Jahren die Konturen schärfen. Bis dahin gilt mein pragmatischer Rat. Je näher die Bearbeitung an der Veränderung der abgebildeten Realität liegt, desto eher kennzeichnen.

Wie kennzeichne ich konkret richtig?

Die Verordnung schreibt keine bestimmte Formulierung vor. Art. 50 Abs. 4 KI-VO verlangt die Offenlegung, dass der Inhalt künstlich erzeugt oder manipuliert wurde, und Art. 50 Abs. 5 KI-VO verlangt, dass dies klar, erkennbar, spätestens bei der ersten Wahrnehmung und barrierefrei geschieht. Bewährt haben sich schlichte, ehrliche Formulierungen wie „mit KI erstellt“, „KI-generiertes Bild“ oder „dieses Video wurde mit künstlicher Intelligenz erzeugt“. Bei Bildern gehört der Hinweis sichtbar an oder in das Bild beziehungsweise unmittelbar daneben in die Bildunterschrift. Bei Videos an den Anfang, bei längeren Deepfake-Passagen zusätzlich eingeblendet. Bei Audio als hörbare Ansage. Bei kennzeichnungspflichtigen Texten an den Textanfang, nicht ans Ende einer langen Seite. Vage Umschreibungen wie „digital erstellt“ oder ein verstecktes Kürzel genügen nicht, denn sie legen gerade nicht offen, dass KI im Spiel war.

Wer tiefer einsteigen will oder größere Mengen an Inhalten produziert, sollte zwei Dokumente der Kommission kennen. Am 8. Mai 2026 hat die Kommission den Entwurf ihrer Leitlinien zu Art. 50 veröffentlicht, die Konsultation lief bis zum 3. Juni 2026, die finale Fassung wird vor dem 2. August 2026 erwartet. Daneben existiert seit dem 10. Juni 2026 der finale Verhaltenskodex zur Transparenz KI-generierter Inhalte, der derzeit von Kommission und KI-Ausschuss bewertet wird. Nach positiver Bewertung können sich Anbieter und Betreiber, die ihn unterzeichnen, auf seine Maßnahmen verlassen, um die Einhaltung der Kennzeichnungspflichten nachzuweisen, während alle anderen die Angemessenheit ihrer eigenen Maßnahmen darlegen müssen. Für die meisten mittelständischen Betreiber ist eine Unterzeichnung nicht erforderlich, wohl aber lohnt der Blick in den Kodex als Orientierung für den Stand der Technik.

Wir arbeiten mit Agenturen und Freelancern. Wer ist verantwortlich?

Betreiber ist, wer das KI-System in eigener Verantwortung verwendet, und gegenüber der Öffentlichkeit ist das regelmäßig derjenige, unter dessen Namen und auf dessen Kanälen der Inhalt erscheint. Sie können die Erstellung auslagern, die Verantwortung für die Kennzeichnung Ihrer Veröffentlichungen lagern Sie damit nicht aus. Deshalb müssen die Verträge angepasst werden. In Agentur- und Freelancerverträge gehören ab sofort eine Offenlegungspflicht des Dienstleisters über jeden KI-Einsatz bei der Content-Erstellung, eine Pflicht zur Lieferung der für die Kennzeichnung nötigen Informationen, das Verbot, technische Markierungen zu entfernen, und eine Freistellungsregelung für den Fall verschwiegenen KI-Einsatzes. Wird in der Praxis häufig übersehen, ist aber der Punkt, an dem sich später entscheidet, ob Sie einen Regressanspruch haben oder auf dem Schaden sitzen bleiben. Spiegelbildlich gilt für die redaktionelle Ausnahme bei Texten, dass intern eine klar identifizierbare Person die inhaltliche Verantwortung übernehmen muss. Legen Sie schriftlich fest, wer das in Ihrem Haus ist.

Was gilt für Inhalte, die vor dem 2. August 2026 veröffentlicht wurden?

Die Verordnung enthält hierzu keine ausdrückliche Archivregelung, und auch der Leitlinienentwurf beantwortet die Frage nicht abschließend. Sicher ist, dass jede Veröffentlichung ab dem Stichtag den Pflichten unterliegt. Für Deepfake-Inhalte, die vor dem Stichtag veröffentlicht wurden und weiterhin öffentlich abrufbar bleiben, lässt sich vertreten, dass die fortdauernde Zugänglichmachung keine neue Betreiberhandlung darstellt. Verlassen würde ich mich darauf nicht, jedenfalls nicht bei reichweitenstarken oder sensiblen Inhalten. Mein Rat lautet, im Zuge der ohnehin anstehenden Bestandsaufnahme auch die wichtigsten Bestandsinhalte durchzusehen und täuschungsgeeignete KI-Inhalte nachträglich zu kennzeichnen. Der Aufwand ist überschaubar, das vermiedene Diskussionspotenzial mit der Aufsicht erheblich.

Was droht bei Verstößen?

Die Bußgeldnorm ist Art. 99 Abs. 4 lit. g KI-VO. Verstöße gegen die Transparenzpflichten des Art. 50 KI-VO können mit Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des gesamten weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen sieht Art. 99 Abs. 6 KI-VO eine Deckelung auf den jeweils niedrigeren Betrag vor. Zuständig wird in Deutschland nach dem KI-MIG die Bundesnetzagentur mit ihrer zentralen Beschwerdestelle, an die sich auch Verbraucher und Wettbewerber wenden können.

Das Bußgeld ist aber nur die halbe Wahrheit, und hier spreche ich eine offene Rechtsfrage bewusst an. Ob Art. 50 KI-VO eine Marktverhaltensregelung im Sinne von § 3a UWG ist, deren Verletzung Mitbewerber und Verbände abmahnen können, ist noch nicht gerichtlich geklärt. Die besseren Argumente sprechen aus meiner Sicht dafür, denn die Kennzeichnungspflichten schützen gerade die Entscheidungsgrundlage der Marktteilnehmer, und für vergleichbare Transparenzpflichten haben die Gerichte den Marktbezug regelmäßig bejaht. Unabhängig davon kann das kommentarlose Veröffentlichen täuschungsgeeigneter KI-Inhalte im geschäftlichen Verkehr eine Irreführung durch Unterlassen nach § 5a UWG darstellen. Ich rechne fest damit, dass die ersten Abmahnwellen nicht von der Bundesnetzagentur ausgehen werden, sondern von Wettbewerbern und Verbänden. Wer ab August erkennbar sorglos mit ungekennzeichneten Deepfakes wirbt, macht sich zur leichten Zielscheibe.

Dazu kommen die parallelen Rechtsgebiete, die durch eine KI-Kennzeichnung nicht verdrängt werden. Ein gekennzeichneter Deepfake einer realen Person kann weiterhin deren allgemeines Persönlichkeitsrecht und das Recht am eigenen Bild aus §§ 22, 23 KUG verletzen und eine unzulässige Datenverarbeitung nach Art. 6 Abs. 1 DSGVO darstellen. Die Kennzeichnung erfüllt die Transparenzpflicht, sie legalisiert den Inhalt nicht.

Der Blick nach Österreich

Für österreichische Unternehmen gilt materiell exakt dasselbe. Die KI-Verordnung ist unmittelbar anwendbares Recht, die Kennzeichnungspflichten des Art. 50 KI-VO gelten ab dem 2. August 2026 wortgleich in Österreich, und auch die Bußgeldrahmen des Art. 99 KI-VO sind identisch. Unterschiede bestehen allein bei der Aufsichtsstruktur. Zentrale Anlaufstelle ist die KI-Servicestelle bei der Rundfunk und Telekom Regulierungs-GmbH (RTR-GmbH), die auf Grundlage des KI-Servicestelle-Gesetzes seit September 2024 operativ ist und umfangreiche Informationsangebote bereitstellt. Die abschließende gesetzliche Benennung der Marktüberwachungsbehörden war in Österreich zuletzt noch nicht vollzogen, das Begleitgesetz zur KI-Verordnung befand sich im Frühjahr 2026 noch im finalen Beschlussstadium. Darauf sollte sich niemand verlassen. Dass eine Behördenzuständigkeit noch sortiert wird, ändert nichts an der Geltung der Pflichten, und die Datenschutzbehörde sowie die sektoralen Aufsichten sind in ihren Bereichen ohnehin handlungsfähig. Österreichische Mandanten können sich für die inhaltliche Umsetzung vollständig an diesem Beitrag orientieren und sollten ergänzend die Veröffentlichungen der KI-Servicestelle im Blick behalten, die am 10. Juni 2026 auch auf den Praxisleitfaden zur Transparenz KI-generierter Inhalte hingewiesen hat.

Der Blick in die Schweiz

In der Schweiz ist die Lage grundlegend anders, und genau deshalb wird sie häufig falsch eingeschätzt. Die KI-Verordnung ist kein Schweizer Recht. Ein eigenes schweizerisches KI-Gesetz mit Kennzeichnungspflichten existiert nicht und kommt auch nicht zum 2. August 2026. Der Bundesrat hat sich im Februar 2025 gegen ein KI-Gesetz nach EU-Vorbild und für einen sektorspezifischen Ansatz entschieden. Zentraler Schritt ist die geplante Ratifizierung der KI-Konvention des Europarats, und bis Ende 2026 soll eine Vernehmlassungsvorlage vorliegen, die gesetzliche Anpassungen namentlich in den Bereichen Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht vorschlägt. Bis daraus geltendes Recht wird, vergehen noch Jahre. Rein binnenorientierte Schweizer Unternehmen trifft ab August 2026 also keine KI-Kennzeichnungspflicht, wobei das schweizerische Lauterkeitsrecht Irreführungen durch täuschende KI-Inhalte selbstverständlich schon heute erfasst.

Der Denkfehler beginnt dort, wo Schweizer Unternehmen den EU-Markt bedienen. Die KI-Verordnung beansprucht nach Art. 2 Abs. 1 KI-VO extraterritoriale Geltung. Erfasst sind unter anderem Anbieter aus Drittstaaten, die KI-Systeme in der Union in Verkehr bringen, sowie Anbieter und Betreiber in Drittstaaten, wenn die vom KI-System erzeugte Ausgabe in der Union verwendet wird. Ein Schweizer Unternehmen, das seine Social-Media-Kanäle und seine Website erkennbar auch auf Kunden in Deutschland und Österreich ausrichtet, sollte die Kennzeichnungspflichten daher wie ein EU-Unternehmen behandeln. Schweizer Anbieter, die eigene KI-Systeme in der EU vermarkten, müssen darüber hinaus prüfen, ob sie nach Art. 22 KI-VO einen Bevollmächtigten in der Union benennen müssen. Zu dieser Konstellation und zu unserem Angebot als KI-Vertreter habe ich auf unserer Schweizer Seite ausführlich berichtet, siehe Der EU-KI-Vertreter / EU AI Representative.

Ihr Fahrplan bis zum 2. August 2026

Wer die verbleibenden Wochen strukturiert nutzt, hat das Thema mit vertretbarem Aufwand im Griff. Ich empfehle folgendes Vorgehen.

Im ersten Schritt verschaffen Sie sich einen Überblick, wo in Ihrem Haus KI-Inhalte entstehen und veröffentlicht werden. Erfassen Sie die eingesetzten Werkzeuge, die Kanäle und die Inhaltstypen, vom Website-Text über Produktbilder bis zu Social-Media-Videos, und vergessen Sie die Agenturen und Freelancer nicht.

Im zweiten Schritt ordnen Sie jeden Inhaltstyp den Pflichten zu. Chatbots und Voicebots erhalten einen KI-Hinweis vor der ersten Antwort. Fotorealistische KI-Bilder und KI-Videos mit Täuschungseignung erhalten eine sichtbare Offenlegung. Für Texte prüfen Sie, ob überhaupt öffentlichkeitsrelevante Inhalte ohne redaktionelle Kontrolle veröffentlicht werden, und schließen diese Lücke entweder durch einen dokumentierten Review-Prozess oder durch Kennzeichnung.

Im dritten Schritt legen Sie interne Standards fest. Definieren Sie einheitliche Kennzeichnungstexte und deren Platzierung je Medientyp, benennen Sie die Person, die die redaktionelle Verantwortung für KI-gestützte Texte trägt, und halten Sie beides in einer kurzen internen KI-Richtlinie fest. Das erfüllt zugleich einen Teil Ihrer ohnehin bestehenden Pflicht aus Art. 4 KI-VO, für ausreichende KI-Kompetenz Ihres Personals zu sorgen.

Im vierten Schritt passen Sie die Verträge mit Agenturen, Freelancern und KI-Dienstleistern an, wie oben beschrieben.

Im fünften Schritt sehen Sie Ihre wichtigsten Bestandsinhalte durch und rüsten Kennzeichnungen nach, wo täuschungsgeeignete KI-Inhalte weiter öffentlich bleiben sollen.

Erst wenn diese Grundlagen stehen, lohnt der Feinschliff anhand der finalen Kommissionsleitlinien, die vor dem Stichtag erwartet werden, und des Verhaltenskodex vom 10. Juni 2026.

Unterm Strich

Die Kennzeichnungspflichten ab dem 2. August 2026 sind kein Grund zur Panik, aber sie sind auch nichts, was Sie ignorieren sollten. Die Rechtslage ist deutlich differenzierter, als es die verkürzten Schlagzeilen nahelegen. Es gibt keine Pflicht, jeden KI-Einsatz offenzulegen. Es gibt eine klare Pflicht, Menschen nicht im Unklaren zu lassen, wenn sie mit einer KI sprechen, und das Publikum nicht mit täuschend echten KI-Inhalten zu konfrontieren, ohne deren künstlichen Ursprung offenzulegen. Wer ehrlich kommuniziert, erfüllt den Kern der Verordnung fast von selbst. Wer dagegen auf Täuschung setzt, dem drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des Weltumsatzes nach Art. 99 Abs. 4 lit. g KI-VO, dazu Abmahnungen aus dem Wettbewerbsrecht und ein Vertrauensverlust, der sich kaum wiedergewinnen lässt. Damit steht fest, was jetzt zu tun ist. Bestandsaufnahme, klare Kennzeichnungsstandards, angepasste Verträge, dokumentierte redaktionelle Verantwortung.

Und wahrscheinlich werden wir in den nächsten Tagen auch eine KI-Schulung als Kanzlei anbieten, sodass neben der bisherigen Datenschutzschulung für unsere Mandanten auch hier Ihre Mitarbeiter das nötige Know-How bekommen und Sie als Unternehmen dies auch intern dokumentieren können.