Der EU AI Act ist längst kein Zukunftsthema mehr — für viele Betreiber von KI-Systemen sind die ersten Pflichten bereits in Kraft, seit dem 2. August 2026 kommen die Transparenzpflichten nach Art. 50 dazu, und die Hochrisiko-Pflichten folgen ab dem 2. Dezember 2027.

Gerade KMU und Selbstständige stehen jetzt vor einer konkreten Frage: Was muss ich als Betreiber tun, wenn ich KI-Tools in meinem Unternehmen einsetze? Die Antwort hängt von der Risikoklasse des Systems ab — und davon, was “Betreiber” im Sinne der Verordnung überhaupt bedeutet.

Was müssen Betreiber von KI-Systemen ab 2026 beachten?

Für Betreiber von Hochrisiko-KI-Systemen nach Anhang III gelten die Betreiberpflichten aus Artikel 26 der EU-KI-Verordnung (EU) 2024/1689 ab dem 2. Dezember 2027 (für in Produkte integrierte Systeme nach Anhang I ab dem 2. August 2028). Dazu gehören: technische und organisatorische Maßnahmen zur Risikominimierung, die Sicherstellung menschlicher Aufsicht, die Schulung betroffener Mitarbeiter, das Führen von Betriebsprotokollen sowie die Meldung schwerwiegender Vorfälle an die zuständige Marktüberwachungsbehörde. Betreiber müssen außerdem prüfen, ob das eingesetzte System die Konformitätserklärung und die CE-Kennzeichnung des Anbieters vorweist.


Betreiber, Anbieter, Einführer — wer ist was?

Der EU AI Act unterscheidet klar zwischen verschiedenen Rollen. Für KMU ist vor allem die Rolle des Betreibers relevant.

RolleDefinition (vereinfacht)Typisches Beispiel im KMU-Kontext
AnbieterEntwickelt oder lässt ein KI-System entwickeln und bringt es in VerkehrKI-Softwareunternehmen, SaaS-Anbieter
BetreiberSetzt ein KI-System im eigenen Namen beruflich einKMU, das ein KI-Tool für HR oder Kreditprüfung nutzt
EinführerBringt ein KI-System aus einem Drittland in die EUImporteur von KI-Hardware oder -Software
HändlerVertreibt ein KI-System, ohne es wesentlich zu verändernReseller von KI-Lösungen

Quelle: Art. 3 Nr. 3, 4, 6, 7 EU-KI-Verordnung (EU) 2024/1689

Entscheidend für KMU: Wer ein KI-System einkauft und im Betrieb verwendet, ist Betreiber — und trägt damit eigene Pflichten, auch wenn das System vollständig von einem externen Anbieter stammt.

Die Risikoklassen im Überblick

Nicht jedes KI-Tool löst dieselben Pflichten aus. Der EU AI Act stuft KI-Systeme in vier Kategorien ein.

RisikoklasseBeispieleBetreiberpflichten
Verbotene PraktikenSocial Scoring, manipulative SystemeEinsatz vollständig untersagt
HochrisikoKI in Personalauswahl, Kreditvergabe, Bildung, kritische InfrastrukturUmfangreiche Pflichten (Art. 26 EU AI Act)
Begrenztes RisikoChatbots, Deepfake-GeneratorenTransparenzpflichten (Kennzeichnung)
Minimales RisikoKI-Spamfilter, einfache EmpfehlungssystemeKeine spezifischen Pflichten

Quelle: Art. 5, 6 und Anhang III EU-KI-Verordnung (EU) 2024/1689

Die meisten KI-Tools, die KMU im Alltag einsetzen — etwa KI-gestützte Textgenerierung für Marketing — fallen in die Kategorie “minimales oder begrenztes Risiko”. Der kritische Punkt: Sobald ein System Entscheidungen über Menschen beeinflusst (Einstellungen, Kredite, Bewertungen), steigt die Risikoklasse.

Die Betreiberpflichten im Detail: was gilt ab Dezember 2027?

Artikel 26 der EU-KI-Verordnung listet die konkreten Pflichten für Betreiber von Hochrisiko-KI-Systemen auf. Hier sind die wichtigsten im Überblick:

1. Geeignete Nutzung sicherstellen Du musst das KI-System so einsetzen, wie es der Anbieter in der Betriebsanleitung vorgesehen hat. Eigenmächtige Zweckänderungen können dich rechtlich in die Verantwortung eines Anbieters rücken.

2. Menschliche Aufsicht gewährleisten Hochrisiko-KI-Entscheidungen dürfen nicht vollautomatisch und ohne menschliche Prüfmöglichkeit ablaufen. Du musst sicherstellen, dass zuständige Mitarbeiter eingreifen können — und das auch nachweisbar tun.

3. Mitarbeiter schulen Wer das KI-System bedient oder beaufsichtigt, braucht die nötige Kompetenz dafür. Eine interne Schulung, deren Inhalte und Teilnahme dokumentiert sind, ist eine sinnvolle Grundlage. Für die allgemeine KI-Kompetenz nach Art. 4 ist laut EU-Kommission kein Zertifikat nötig. Das BSI empfiehlt, KI-Kompetenzen als Teil des allgemeinen IT-Sicherheitskonzepts zu verankern.

4. Protokolle führen und aufbewahren Automatisch generierte Betriebsprotokolle des KI-Systems müssen — soweit technisch möglich — gespeichert und für einen angemessenen Zeitraum aufbewahrt werden. Diese Logs können bei behördlichen Prüfungen oder im Streitfall entscheidend sein.

5. Datenschutz einhalten Verarbeitest du mit dem KI-System personenbezogene Daten, greifen zusätzlich die Anforderungen der DSGVO. Das bedeutet in vielen Fällen: Datenschutz-Folgenabschätzung (DSFA), Verzeichnis der Verarbeitungstätigkeiten und Abstimmung mit deinem Datenschutzbeauftragten. Der LfDI Baden-Württemberg und das BayLDA haben hierzu eigene Orientierungshilfen veröffentlicht.

6. Schwerwiegende Vorfälle melden Kommt es durch ein Hochrisiko-KI-System zu ernsthaften Schäden — etwa Diskriminierung bei Einstellungsentscheidungen oder Fehler in sicherheitsrelevanten Prozessen — bist du als Betreiber meldepflichtig gegenüber der zuständigen Marktüberwachungsbehörde.

7. Konformität des Anbieters prüfen Bevor du ein Hochrisiko-KI-System einsetzt, prüfst du, ob der Anbieter eine EU-Konformitätserklärung und CE-Kennzeichnung vorweisen kann. Fehlen diese, darfst du das System für Hochrisiko-Anwendungen nicht einsetzen.

Beispiel: Betreiberpflichten bei einem Online-Händler

Stell dir einen Online-Händler mit zwölf Mitarbeitern vor. Er setzt zwei KI-Systeme ein: einen Chatbot im Shop, der Fragen zu Lieferzeiten und Rücksendungen beantwortet, und demnächst ein Tool, das eingehende Bewerbungen vorsortiert. Beide Systeme kauft er bei Anbietern ein. Betreiber ist er trotzdem.

Für den Chatbot gilt seit dem 02.08.2026 die Transparenzpflicht nach Art. 50: Kunden müssen erkennen können, dass sie mit einer KI schreiben, außer es ist offensichtlich. Das Bewerber-Tool fällt dagegen unter Anhang III, Bereich Beschäftigung und Personal. Die Betreiberpflichten nach Art. 26 gelten dafür ab dem 02.12.2027.

Sinnvoll wäre diese Reihenfolge: Der Händler holt beim Anbieter des Bewerber-Tools die Dokumentation ein, klärt mit dem Datenschutzbeauftragten, ob eine DSFA nötig ist, und legt fest, wer die Vorschläge des Tools prüft, bevor eine Bewerbung aussortiert wird. Eine kurze interne Schulung für alle, die mit den Systemen arbeiten, hält er mit Datum, Inhalt und Teilnehmern fest. Das unterstützt zugleich die KI-Kompetenz nach Art. 4.

Das sagt Olga Reyes-Busch

“Ich erlebe bei KMU immer wieder dieselbe Erleichterung: Wenn wir die Pflichten konkret auf ihr Unternehmen herunterbrechen, ist der tatsächliche Aufwand deutlich überschaubarer als befürchtet. Das größte Risiko ist nicht Komplexität — es ist das Warten, bis die erste Behördenanfrage kommt.”

— Olga Reyes-Busch, KI-Expertin für KMU, HeadUpHigh GmbH

In fünf Schritten zur Betreiber-Compliance

  1. KI-Inventar erstellen: Liste alle KI-Systeme auf, die in deinem Unternehmen eingesetzt werden — von der Textgenerierung bis zum automatisierten Bewerberscreening. Schon diese Übersicht zeigt, wo Handlungsbedarf besteht.

  2. Risikoklasse bestimmen: Prüfe für jedes System anhand von Anhang III der EU-KI-Verordnung, ob es als Hochrisiko-System einzustufen ist. Im Zweifel hilft eine rechtliche Ersteinschätzung oder der Blick in die Anbieter-Dokumentation.

  3. Anbieter-Dokumentation einfordern: Verlange vom Anbieter die EU-Konformitätserklärung, technische Dokumentation und Betriebsanleitung. Prüfe dabei auch, ob ein AVV vorliegt, wo die Server stehen und wo die KI-Verarbeitung stattfindet. Fehlt diese Dokumentation, ist das ein klares Warnsignal.

  4. Interne Prozesse anpassen: Lege schriftlich fest, wer das KI-System bedient, wer es beaufsichtigt und wie menschliche Kontrollpunkte in den Workflow integriert sind. Das muss kein aufwendiges Handbuch sein — eine klare interne Richtlinie reicht als Ausgangspunkt.

  5. Mitarbeiter schulen und dokumentieren: Führe eine nachvollziehbare Schulung für alle durch, die mit dem System arbeiten, und halte Datum, Inhalte und Teilnehmer fest. Das ist gleichzeitig deine interne Dokumentation, falls Behörden nachfragen.


So bringt dich HeadUpHigh weiter

Wenn du verstehen willst, welche Betreiberpflichten konkret für dein Unternehmen gelten und wie du dein Team auf den EU AI Act vorbereitest, ist eine strukturierte Schulung der schnellste Weg. Schau dir die Online-Schulung an — praxisnah, ohne Juristendeutsch, direkt auf den KMU-Alltag zugeschnitten.

Zuletzt geprüft

Dieser Artikel wurde am 26. Oktober 2026 aktualisiert.

Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung im Einzelfall. Rechtsstand: 06.10.2026.

Olga Reyes-Busch
Sonnige Grüße, Olga

Fragen? Einfach melden oder direkt ein kurzes Gespräch buchen.

Kurzes Gespräch buchen →

Quellen