Ob ein KI-System als „hochriskant“ im Sinne der KI-VO gilt, entscheidet sich nicht nach Bauchgefühl, sondern nach einer klaren Prüfroutine in Art. 6. Wer diese Prüfung nicht dokumentiert durchführt, riskiert später entweder unnötigen Aufwand oder eine böse Überraschung bei einer Behördenanfrage.
Zwei Wege zur Hochrisiko-Einstufung
Art. 6 kennt zwei getrennte Prüfpfade. Nach Absatz 1 ist ein System hochriskant, wenn es kumulativ (a) Sicherheitsbauteil eines Produkts ist, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften fällt oder selbst ein solches Produkt ist, und (b) dieses Produkt einer Konformitätsbewertung durch Dritte unterzogen werden muss. Das betrifft klassisch Produktsicherheitsrecht – Maschinen, Medizinprodukte, Aufzüge und Ähnliches.
Der zweite, für die Praxis meist relevantere Pfad steht in Absatz 2: KI-Systeme, die in Anhang III aufgeführt sind, gelten unabhängig von Produktsicherheitsrecht als hochriskant. Hier landen die meisten Anwendungsfälle in Recruiting, Kreditvergabe oder öffentlicher Verwaltung.
Anhang III: Die Praxisliste
Anhang III benennt sechs Bereiche, in denen KI-Systeme automatisch als hochriskant gelten – sofern ihr Einsatz überhaupt zulässig ist:
- Biometrie: Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen, Emotionserkennung.
- Kritische Infrastruktur: Sicherheitsbauteile bei Straßenverkehr, Wasser-, Gas-, Wärme- oder Stromversorgung.
- Bildung: Zulassung, Bewertung von Lernergebnissen, Prüfungsüberwachung.
- Beschäftigung: Bewerberauswahl, Bewertung von Bewerbungen, Entscheidungen über Beförderung, Kündigung oder Leistungsbeobachtung.
- Grundlegende Dienste: Zugang zu Sozialleistungen, Kreditwürdigkeitsprüfung, Risikobewertung bei Lebens- und Krankenversicherungen, Notrufpriorisierung.
- Strafverfolgung: Risikobewertungen, Lügendetektoren, Bewertung von Beweismitteln – jeweils soweit nach Unionsrecht oder nationalem Recht zulässig.
Wer ein System in einem dieser Bereiche einsetzt, muss von der Hochrisiko-Einstufung ausgehen, bis das Gegenteil dokumentiert ist.
Die Rückausnahme nach Absatz 3 – und ihre Grenzen
Absatz 3 öffnet ein Schlupfloch: Ein Anhang-III-System gilt ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt – etwa weil es das Entscheidungsergebnis nicht wesentlich beeinflusst. Konkret greift die Ausnahme, wenn das System eine eng gefasste Verfahrensaufgabe erfüllt, das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit lediglich verbessert, Abweichungen von früheren Entscheidungsmustern erkennt (ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen) oder eine vorbereitende Aufgabe für eine relevante Bewertung übernimmt.
Die typische Lücke in der Praxis: Diese Ausnahme wird gerne vorschnell für sich reklamiert – etwa bei Vorfilterung von Bewerbungen, die man als „bloße Vorbereitung“ einordnet, obwohl das System faktisch stark vorselektiert. Absatz 3 Unterabsatz 2 zieht außerdem eine harte Grenze: Sobald das System Profiling natürlicher Personen vornimmt, gilt die Ausnahme nicht – das System bleibt hochriskant, ganz gleich wie die übrige Argumentation aussieht.
Dokumentationspflicht nach Absatz 4
Wer sich auf die Rückausnahme beruft, kommt an einer Pflicht nicht vorbei: Der Anbieter muss seine Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und unterliegt zugleich der Registrierungspflicht nach Art. 49 Absatz 2. Auf Verlangen der zuständigen Behörde ist diese Dokumentation vorzulegen. Genau hier liegt die häufigste Lücke: Die Einstufung erfolgt informell im Kopf des Produktverantwortlichen, ohne dass ein nachvollziehbares Dokument existiert – im Prüfungsfall lässt sich dann nichts vorweisen.
Wann die Pflichten greifen
Die Einstufungsregeln des Art. 6 selbst gelten bereits, die Kommission soll bis zum 2. Februar 2026 zusätzlich Leitlinien und Beispielkataloge zu hochriskanten und nicht-hochriskanten Anwendungsfällen bereitstellen. Für die konkreten Pflichten, die aus einer Anhang-III-Einstufung folgen, gilt nach dem Digital Omnibus jedoch eine verschobene Frist: Sie greifen erst ab dem 2. Dezember 2027 (statt ursprünglich 2. August 2026). Für Hochrisiko-Systeme über Anhang-I-Produktrecht verschiebt sich der Stichtag entsprechend auf den 2. August 2028. Die Einstufungspflicht selbst – also die Bewertung nach Art. 6 – sollten Sie davon unabhängig schon jetzt vornehmen, denn die Vorbereitungszeit für Konformitätsbewertung, Risikomanagement und technische Dokumentation ist erfahrungsgemäß knapp bemessen.
Ob Ihr System in eine der Anhang-III-Kategorien fällt und ob eine Rückausnahme tatsächlich trägt, lässt sich mit unserem kostenlosen Risiko-Check unter /einstufung in wenigen Minuten strukturiert vorprüfen.