EU AI Act: Welche KI gilt als Hochrisiko?

Worum geht’s?

Die europäische Künstliche-Intelligenz-Verordnung schafft einen verbindlichen Rechtsrahmen für den Einsatz von KI-Systemen. Im Zentrum stehen sogenannte Hochrisiko-Systeme, die besonderen Anforderungen unterliegen. Der ursprünglich für August 2026 geplante Stichtag wurde auf Dezember 2027 verschoben, was Unternehmen zusätzliche Vorbereitungszeit verschafft. Dennoch bleibt der Aufwand für die Einhaltung der Vorschriften erheblich.

Hintergrund & Einordnung

Der EU AI Act unterteilt KI-Anwendungen nach ihrem Risikopotenzial in verschiedene Kategorien. Systeme mit hohem Risiko für Sicherheit oder Grundrechte unterliegen strengen Auflagen. Dazu zählen Anwendungen in sensiblen Bereichen wie biometrische Identifikation, Verwaltung kritischer Infrastrukturen, Personalwesen oder Kreditwürdigkeitsprüfungen. Die Verordnung verpflichtet Anbieter solcher Systeme zur Registrierung in einer EU-Datenbank, zur Erstellung technischer Dokumentationen sowie zur Implementierung menschlicher Aufsichtsmechanismen.

Eine wichtige Ausnahmeregelung findet sich in Artikel 6 Absatz 3 der Verordnung: KI-Systeme, die lediglich vorbereitende Tätigkeiten ausführen, während Menschen die finale Entscheidung treffen, können unter Umständen aus der Hochrisiko-Kategorie herausfallen. Diese Selbsteinstufungsmöglichkeit erfordert jedoch eine sorgfältige Prüfung durch die Anbieter. Die EU-Kommission hat einen Leitfaden-Entwurf vorgelegt, der konkrete Beispiele liefert, allerdings ohne rechtsverbindlichen Charakter.

Typische Hochrisiko-Anwendungen umfassen KI-gestützte Bewerbungsauswahlsysteme, Algorithmen zur Mitarbeiterüberwachung, automatisierte Kreditentscheidungen oder Werkzeuge in der Strafverfolgung. Unternehmen müssen bis zum Stichtag im Dezember 2027 Konformitätsbewertungen durchführen und nachweisen, dass ihre Systeme den regulatorischen Anforderungen entsprechen. Eine Fehleinschätzung der Risikoklasse kann rechtliche Konsequenzen nach sich ziehen.

Was bedeutet das?

Unternehmen müssen ihre KI-Systeme systematisch erfassen und nach Risikopotenzial klassifizieren
Hochrisiko-Systeme erfordern umfassende Dokumentation, menschliche Aufsicht und regelmäßige Konformitätsprüfungen
Die Fristverlängerung bis Dezember 2027 bietet mehr Zeit für die Umsetzung, ändert aber nichts am Umfang der Pflichten
Die Ausnahmeregelung für vorbereitende Tätigkeiten erfordert sorgfältige Abwägung und rechtliche Prüfung
Falsche Selbsteinstufungen können zu regulatorischen Problemen führen