Die Nutzung von künstlicher Intelligenz (KI) wird für viele Unternehmen immer alltäglicher, und mit der neuen EU-KI-Verordnung (AI Act) kommt oft die Frage auf: „Muss ich dafür jetzt einen KI-Beauftragten benennen?“ Hier erfahren Sie, was Sie wirklich wissen müssen.
Die KI-Verordnung – was bedeutet das für Unternehmen?
Seit dem 1. August 2024 gilt die EU-KI-Verordnung, die bis Februar 2025 stufenweise verbindlicher wird. Ihr Ziel: den sicheren, transparenten und ethischen Einsatz von KI-Systemen in Europa zu fördern. Die Verordnung unterscheidet zwischen:
- Hochrisiko-KI-Systemen wie medizinischen Diagnosetools oder KI in der Finanzregulierung. Hier gelten strenge Prüf- und Dokumentationspflichten.
- Gering- bis mittelrisikobehafteten KI-Systemen, wie z. B. Marketing-Analysetools oder Chatbots.
- Verbotenen KI-Praktiken, etwa wenn KI Menschen heimlich manipulieren oder ihre Schwächen ausnutzen soll.
Muss ich nun einen KI-Beauftragten ernennen?
Die gute Nachricht: Es gibt aktuell keine gesetzliche Verpflichtung, einen KI-Beauftragten zu benennen. Unternehmen, die KI einsetzen oder entwickeln, müssen jedoch die Vorgaben der Verordnung einhalten. Dazu gehört:
- Sicherstellen von Wissen: Ihre Mitarbeiter sollten verstehen, wie eingesetzte KI-Systeme funktionieren und welche Risiken sie bergen.
- Transparenz und Kontrolle: Besonders bei Hochrisiko-KI sind Nachvollziehbarkeit und Dokumentation Pflicht.
Wann ist ein KI-Beauftragter sinnvoll?
Auch wenn es keine Pflicht gibt, kann ein KI-Beauftragter hilfreich sein – vor allem, wenn Sie:
- Hochrisiko-KI-Systeme nutzen oder entwickeln.
- Den Überblick über komplexe Vorschriften behalten möchten.
- Eine zentrale Ansprechperson für Behörden oder Mitarbeiter benötigen.
Ein interner oder externer KI-Beauftragter sorgt dafür, dass alles regelkonform läuft – und Sie sich beruhigt um Ihr Kerngeschäft kümmern können.
ChatGPT im Unternehmen – brauche ich dann einen KI-Beauftragten?
Stellen wir uns vor, Sie nutzen ausschließlich ChatGPT im Unternehmen. Müssen Sie dafür einen KI-Beauftragten benennen? Nein, das wäre übertrieben. ChatGPT ist ein typisches Beispiel für eine Anwendung mit geringem Risiko – solange Sie es verantwortungsvoll einsetzen. Hier ein paar Punkte, die Sie beachten sollten:
- Prüfen Sie die Daten, die Sie eingeben: Vertrauliche Informationen gehören nicht in ein öffentlich zugängliches KI-Tool.
- Schulen Sie Ihre Mitarbeiter: Jeder, der KI nutzt, sollte wissen, dass ChatGPT keine juristisch belastbaren Antworten liefert – selbst wenn es oft klingt, als wüsste es alles.
- Seien Sie kritisch: ChatGPT ist ein Meister im Erklären, aber nicht immer zu 100 % korrekt. Das ist KI, keine Glaskugel.
Und keine Sorge: Sie müssen kein eigenes Team einsetzen, das ChatGPT rund um die Uhr beaufsichtigt. Solange die Nutzung im Rahmen bleibt, sind Ihre Compliance-Aufgaben überschaubar.
Also, brauche ich einen KI-Beauftragten?
Die Antwort hängt davon ab, wie intensiv und risikoreich Sie KI in Ihrem Unternehmen nutzen. Für viele kleinere und mittlere Unternehmen reicht es, die grundlegenden Anforderungen der Verordnung zu verstehen und im Blick zu behalten. Wenn Sie allerdings Hochrisiko-KI einsetzen oder Ihre Nutzung ausweiten möchten, könnte ein KI-Beauftragter eine sinnvolle Investition sein. Eine Pflicht besteht nicht.