Was Art. 5 EU AI Act bedeutet und warum er schon gilt
Seit dem 2. Februar 2025 sind die Verbote aus Artikel 5 der EU-KI-Verordnung (2024/1689) in Kraft. Das ist kein Planungshorizont mehr. Das ist geltendes Recht.
Artikel 5 listet KI-Praktiken auf, die in der EU vollständig verboten sind. Nicht eingeschränkt. Nicht genehmigungspflichtig. Verboten.
Die Bußgelder liegen bei bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, was höher ist. Bei KMU gilt jeweils der niedrigere Betrag.
Die acht Verbote, die du kennen musst
Art. 5 Abs. 1 nennt acht verbotene Praktiken (Buchstaben a bis h). Für den Mittelstand sind vor allem die Nummern 1, 2, 3, 6 und 7 wichtig, weil sie in eingekaufter Software stecken können. Die übrigen betreffen vor allem Behörden und Anbieter von Überwachungstechnik.
1. Manipulative und täuschende Techniken
Verboten sind KI-Systeme, die unterschwellige, gezielt manipulative oder täuschende Techniken einsetzen, um das Verhalten von Menschen wesentlich zu beeinflussen, sodass sie Entscheidungen treffen, die sie sonst nicht getroffen hätten, und ihnen dadurch erheblicher Schaden entsteht oder entstehen kann.
Was das für dich bedeutet: Wenn du ein Empfehlungs- oder Targeting-System einkaufst, frag den Anbieter schriftlich, wie es Nutzerverhalten beeinflusst. “Personalisierung” und “Manipulation” liegen technisch manchmal sehr nah beieinander.
2. Ausnutzen von Schwächen
Ebenfalls verboten sind Systeme, die gezielt Schwächen von Menschen ausnutzen, die sich aus ihrem Alter, einer Behinderung oder ihrer besonderen sozialen oder wirtschaftlichen Lage ergeben, und so ihr Verhalten mit erheblichem Schaden beeinflussen. Typische Beispiele sind Angebote, die gezielt Kinder, ältere Menschen oder Menschen in finanzieller Not unter Druck setzen.
3. Social Scoring, auch durch Unternehmen
Verboten ist, Menschen über einen längeren Zeitraum anhand ihres sozialen Verhaltens oder persönlicher Eigenschaften zu bewerten, wenn diese Bewertung zu einer Benachteiligung führt, die mit dem ursprünglichen Zusammenhang der Daten nichts zu tun hat oder unverhältnismäßig ist.
Das klassische Bild ist das chinesische Sozialkreditsystem. Wichtig: Das Verbot gilt nicht nur für Behörden, sondern für alle, die solche Systeme anbieten oder einsetzen, also auch für Unternehmen.
Was das für dich als Mittelständler bedeutet: Schau genau hin, wenn ein Tool Kundinnen, Kunden oder Mitarbeitende mit Punktwerten versieht und dafür Daten aus ganz anderen Lebensbereichen heranzieht, etwa Verhalten in sozialen Netzwerken bei der Vergabe von Konditionen. Übliche Bonitätsprüfungen fallen in der Regel nicht unter dieses Verbot, sie sind ein eigenes Thema im Bereich Hochrisiko-KI.
4. Vorhersage von Straftaten allein aufgrund von Profiling
Verboten sind Systeme, die das Risiko, dass ein Mensch eine Straftat begeht, ausschließlich anhand von Profiling oder Persönlichkeitsmerkmalen einschätzen. Das betrifft vor allem Sicherheitsbehörden und Anbieter entsprechender Software.
5. Ungezieltes Auslesen von Gesichtsbildern
Verboten ist, Gesichtserkennungsdatenbanken aufzubauen oder zu erweitern, indem Gesichtsbilder ungezielt aus dem Internet oder aus Aufnahmen von Überwachungskameras ausgelesen werden.
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
KI-Systeme, die Emotionen von Menschen am Arbeitsplatz oder in Bildungseinrichtungen erkennen und auswerten, sind verboten. Ausnahmen gelten nur für medizinische oder sicherheitsrelevante Zwecke.
Das betrifft:
- Software, die Mitarbeiterstimmung über Videoanalyse auswertet
- Tools, die aus Stimme oder Mimik Rückschlüsse auf emotionale Zustände ziehen
- “Wellbeing”-Monitoring-Lösungen, die Emotionsdaten erfassen
Dieser Punkt ist besonders kritisch, weil entsprechende Tools auf dem HR-Tech-Markt aktiv vermarktet werden, oft unter Labels wie “Employee Engagement Analytics” oder “Productivity Insights”.
Was du jetzt tun solltest: Geh deinen HR-Software-Stack durch. Frag bei jedem Tool nach, ob Emotionsdaten oder biometrische Verhaltensdaten verarbeitet werden. Hol dir das schriftlich.
7. Biometrische Kategorisierung nach sensiblen Merkmalen
Verboten sind Systeme, die Menschen anhand biometrischer Daten wie Gesicht oder Stimme in Kategorien einordnen, um auf ihre ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugung, ihr Sexualleben oder ihre sexuelle Orientierung zu schließen.
8. Biometrische Echtzeit-Fernidentifizierung zur Strafverfolgung
Der Einsatz von KI zur biometrischen Identifizierung von Menschen in Echtzeit in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ist grundsätzlich verboten. Es gibt eng begrenzte Ausnahmen, etwa bei der Suche nach vermissten Kindern oder bei einer unmittelbaren Terrorgefahr.
Was das heißt: Kamera-Systeme mit Gesichtserkennung in Ladengeschäften, auf Firmengeländen oder in öffentlich zugänglichen Bereichen müssen sehr genau geprüft werden, auch wenn das Verbot in Nummer 8 Strafverfolgungsbehörden betrifft. “Zugangskontrolle per Gesicht” ist etwas anderes als “Identifizierung und Kategorisierung in Echtzeit”, aber die Grenze ist fließend, und Datenschutzrecht gilt zusätzlich.
Die häufigste Falle im Mittelstand: Drittanbieter
Die meisten mittelständischen Unternehmen entwickeln keine eigene KI. Sie kaufen sie ein: als SaaS-Lösung, als Plugin, als integriertes Feature in bestehender Software.
Das schützt dich nicht automatisch vor Haftung.
Wer ein verbotenes System einsetzt, haftet, unabhängig davon, ob er es selbst gebaut hat. Der Anbieter haftet ebenfalls. Aber das läuft parallel, nicht stattdessen.
Konkrete Handlungsschritte:
- Erstell eine Liste aller KI-Funktionen in deiner Software-Landschaft, auch wenn KI nur ein Feature von vielen ist.
- Frag Anbieter schriftlich, ob ihre Systeme unter Art. 5 relevante Funktionen enthalten. Dokumentiere die Antworten.
- Prüfe Verträge auf Haftungsklauseln. Viele Standardverträge wälzen Compliance-Risiken auf den Kunden ab.
- Ziehe bei Unsicherheit juristischen Rat hinzu. Kein Blog-Artikel ersetzt eine Rechtsberatung.
Was jetzt zu tun ist
Art. 5 ist nicht das komplexeste Kapitel des EU AI Act. Es ist das klarste. Verboten ist verboten.
Für den Mittelstand bedeutet das: Kein Verständnisproblem, sondern ein Umsetzungsproblem. Die meisten Unternehmen haben noch keinen systematischen Überblick darüber, welche KI-Funktionen sie überhaupt einsetzen.
Genau dort fangen wir an.
Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung im Einzelfall. Rechtsstand: 20.10.2026.
Fragen? Einfach melden oder direkt ein kurzes Gespräch buchen.
Kurzes Gespräch buchen →