Du kaufst ein KI-System zur Personalvorauswahl ein. Oder du nutzt ein Tool, das Kreditentscheidungen vorbereitet. Oder du betreibst Infrastruktur, die kritische Dienste steuert.
Dann bist du im Hochrisiko-Bereich des EU AI Act. Und das hat konkrete Konsequenzen — ob du Provider bist, der das System entwickelt, oder Deployer, der es im eigenen Betrieb einsetzt.
Was Anhang III überhaupt ist
Der EU AI Act teilt KI-Systeme in Risikoklassen ein. Verbotene Systeme, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und alles andere.
Anhang III listet die Hochrisiko-Kategorien abschließend auf. Diese Systeme sind nicht verboten — aber sie unterliegen strengen Anforderungen, bevor sie auf den Markt dürfen oder eingesetzt werden.
Die Logik dahinter: Überall dort, wo KI über Menschen entscheidet oder entscheidend beiträgt, braucht es Kontrolle.
Welche Systeme betroffen sind
Anhang III nennt acht Bereiche. Die relevantesten für den deutschen Mittelstand:
Beschäftigung und Personalmanagement. KI-gestützte Bewerberscreening-Tools, Systeme zur Leistungsbewertung, automatisierte Entscheidungen über Beförderungen oder Kündigungen. Wer HR-Tech einsetzt, sollte genau hinschauen.
Kredit und Versicherung. Systeme, die Kreditwürdigkeit bewerten oder Versicherungsprämien berechnen. Das betrifft Finanzdienstleister direkt — aber auch Softwareanbieter, die solche Funktionen in ihre Produkte integrieren.
Kritische Infrastruktur. KI in der Steuerung von Strom-, Wasser- oder Verkehrsnetzen. Für Mittelständler in der Energie- oder Versorgungsbranche relevant.
Bildung und Ausbildung. Systeme, die über den Zugang zu Bildungseinrichtungen entscheiden oder Prüfungsleistungen bewerten. Relevant für EdTech-Anbieter und Bildungsträger.
Strafverfolgung und Grenzkontrolle. Systeme zur Risikoklassifizierung von Personen, Lügendetektion, Emotionserkennung. Für den privaten Mittelstand seltener relevant — aber nicht ausgeschlossen.
Rechtspflege und Verwaltung. KI, die Behörden bei Entscheidungen unterstützt. Hier sind vor allem Anbieter öffentlicher Software gefragt.
Provider oder Deployer — der Unterschied ist entscheidend
Bevor wir zu den Pflichten kommen: Du musst wissen, in welcher Rolle du bist.
Provider ist, wer ein Hochrisiko-KI-System entwickelt oder unter eigenem Namen in Verkehr bringt. Das ist der klassische Softwareanbieter.
Deployer ist, wer ein solches System im eigenen Betrieb einsetzt — zum Beispiel ein Unternehmen, das ein zugekauftes CV-Screening-Tool für die eigene Personalauswahl nutzt.
Die Pflichten unterscheiden sich. Aber beide Seiten sind in der Pflicht.
Was Provider liefern müssen
Wer ein Hochrisiko-System auf den Markt bringt, muss vor dem Launch:
- eine Konformitätsbewertung durchführen — entweder intern oder über eine notifizierte Stelle
- eine vollständige technische Dokumentation erstellen: Architektur, Trainingsdaten, Leistungskennzahlen, Grenzen des Systems
- ein Risikomanagement-System aufbauen und laufend betreiben
- ein Qualitätsmanagementsystem implementieren
- das System in der EU-Datenbank für Hochrisiko-KI registrieren
- die CE-Kennzeichnung anbringen
Das ist kein Papierkram für die Schublade. Marktaufsichtsbehörden können diese Unterlagen jederzeit anfordern.
Was Deployer sicherstellen müssen
Wenn du ein Hochrisiko-System kaufst und einsetzt, bist du nicht aus der Verantwortung. Als Deployer musst du:
- sicherstellen, dass du das System nur für den vorgesehenen Zweck einsetzt
- das System unter menschlicher Aufsicht betreiben
- Mitarbeitende, die mit dem System arbeiten, schulen
- Protokolle über den Betrieb führen und aufbewahren
- bei Verdacht auf ernsthafte Vorfälle die zuständige Behörde informieren
Konkret bedeutet das: Du kannst kein CV-Screening-Tool kaufen, es auf Autopilot laufen lassen und dir keine weiteren Gedanken machen. Der Act verlangt aktive Beteiligung.
Was das für den Mittelstand heißt
Viele mittelständische Unternehmen werden vor allem als Deployer betroffen sein. Ihr kauft Systeme ein, die andere entwickeln.
Drei Dinge solltest du jetzt tun:
-
Bestandsaufnahme. Welche KI-Systeme setzt du ein? Welche davon könnten in Anhang-III-Kategorien fallen? Diese Frage ist nicht immer trivial, weil viele Systeme KI-Komponenten haben, die nicht auf den ersten Blick sichtbar sind.
-
Lieferantencheck. Wenn du Hochrisiko-Systeme einkaufst: Haben deine Anbieter die Konformitätsbewertung abgeschlossen? Gibt es technische Dokumentation? Ist das System in der EU-Datenbank eingetragen? Das sind legitime Fragen, die du stellen musst — und auf die du Antworten brauchst.
-
Interne Prozesse aufsetzen. Menschliche Aufsicht, Schulungen, Protokollierung. Das klingt aufwendig, ist es aber oft nicht — wenn man es einmal sauber strukturiert hat.
Der häufigste Fehler
Unternehmen warten darauf, dass ihr Softwareanbieter die Compliance-Arbeit erledigt. Das ist falsch gedacht. Als Deployer trägst du eigene Pflichten — unabhängig davon, was dein Anbieter tut oder lässt.
Wenn dein Anbieter keine technische Dokumentation liefern kann oder die EU-Datenbankregistrierung schuldet: Das ist ein Warnsignal. Kein Kaufargument.
Der EU AI Act ist kein theoretisches Konstrukt mehr. Die Hochrisiko-Anforderungen gelten. Wer jetzt anfängt, die eigene KI-Landschaft zu kartieren, ist deutlich besser aufgestellt als wer wartet, bis die erste Behördenanfrage kommt.
Fragen? Einfach melden — oder direkt ein kurzes Gespräch buchen.
Kurzes Gespräch buchen →