Ausnahme nur mit Nachweis: die vier Wege aus der Hochrisiko-Einstufung

Stand: 9. November 2026. Die Leitlinien der Europäischen Kommission zur Einstufung von Hochrisiko-KI-Systemen liegen bisher nur als Entwurf vor (veröffentlicht am 19. Mai 2026). Alle Aussagen unten, die sich auf die Leitlinien stützen, geben diesen Entwurf wieder. Randnummern (Rn.) beziehen sich auf den Teil des Entwurfs zu Anhang III.

Die EU-KI-Verordnung stuft Systeme nicht nach Technik ein, sondern nach Zweck. Wer ein KI-System für einen der Anwendungsfälle in Anhang III einsetzt, etwa für die Zulassung zum Studium oder die Bewertung von Prüfungsleistungen, hat in der Regel ein Hochrisiko-System. Die Verordnung kennt aber eine Ausnahme: den sogenannten Filter in Art. 6 Abs. 3. Welche vier Bildungsfälle auf der Liste stehen, haben wir in Wenn KI bei Bewertung und Prüfung mitwirkt beschrieben. Hier geht es um die Ausnahme selbst und darum, wie der Entwurf der Kommission sie auslegt.

Die Ausnahme steht in der Verordnung, nicht in den Leitlinien

Der Ausgangspunkt ist Art. 6 Abs. 2: Systeme aus Anhang III gelten als hochriskant. Abs. 3 macht davon eine Ausnahme. Ein solches System gilt nicht als hochriskant, „wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst“. Das gilt, wenn eine von vier Bedingungen erfüllt ist. Das System ist dazu bestimmt,

• a) „eine eng gefasste Verfahrensaufgabe durchzuführen“,
• b) „das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern“,
• c) „Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen“, ohne die zuvor abgeschlossene menschliche Bewertung „ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen“, oder
• d) „eine vorbereitende Aufgabe für eine Bewertung durchzuführen“, die für die Anwendungsfälle des Anhangs III relevant ist.

Und dann der Satz, der alles begrenzt: Ein System aus Anhang III gilt „immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt“.

Der Leitlinien-Entwurf fügt dem drei Grundsätze hinzu. Die vier Bedingungen sind abschließend, aber alternativ; es genügt eine (Rn. 88). Weil der Filter eine Ausnahme von Regeln zum Schutz der Grundrechte ist, sind die Bedingungen eng auszulegen (Rn. 88). Und ein System, das für sich genommen eine Bedingung erfüllt, verliert die Ausnahme, wenn es Teil eines größeren Systems ist, dessen gemeinsame Ausgaben eine Einzelentscheidung wesentlich beeinflussen, ausdrücklich auch bei agentischen Systemen (Rn. 90).

Vier Bedingungen, jede mit einer klaren Grenze

a) Eng gefasste Verfahrensaufgabe: ordnen ja, werten nein

Erfasst sind Systeme, die Daten kategorisieren, ihr Format, ihre Struktur oder Darstellung ändern oder Metadaten anpassen (Rn. 92). Der Entwurf nennt als Beispiel ausdrücklich ein System, das Bewerbungen nach angestrebtem Studiengang oder Abschluss sortiert, ohne die Eignung zu bewerten. Die Grenze zieht Rn. 93: Wer Daten als „nützlich“ oder „weniger nützlich“ einordnet oder ihnen einen Punktwert oder Rang gibt, erledigt keine eng gefasste Verfahrensaufgabe mehr.

b) Verbesserung fertiger Arbeit: verfeinern ja, ersetzen nein

Drei Elemente müssen zusammenkommen: Eine menschliche Tätigkeit ist abgeschlossen, sie hat ein Ergebnis, und das System verbessert dieses Ergebnis (Rn. 94). Der Entwurf betont das Wort „verbessern“: Der Gesetzgeber habe es bewusst statt „überprüfen“ gewählt. Liefert das System ein wesentlich anderes Ergebnis, ist das keine Verbesserung mehr. Und keine Änderung darf die Rechte oder die rechtliche oder wirtschaftliche Stellung der Betroffenen berühren (Rn. 96).

c) Muster erkennen: im Nachhinein, und ein Mensch prüft

Diese Bedingung erlaubt dem System die größte Rolle, ist aber dreifach begrenzt (Rn. 99 bis 102): Die menschliche Bewertung muss vollständig abgeschlossen sein. Das System darf nur nachträglich vergleichen, ob eine Entscheidung zu früheren passt, und keine eigenen Kriterien ableiten und darauf eine neue Bewertung stützen. Und es darf die Bewertung nicht ohne „angemessene“ menschliche Überprüfung ersetzen oder beeinflussen. Angemessen heißt nach dem Entwurf: sinnvoll und umfassend, unter Einbeziehung aller Elemente der ursprünglichen Bewertung.

d) Vorbereitung: allgemeiner Input ja, Empfehlung zum Fall nein

Vorbereitend sind Aufgaben vor der eigentlichen Bewertung, etwa Indexieren, Suchen, Verarbeiten und Verknüpfen; entscheidend ist die Nähe zur endgültigen Entscheidung (Rn. 104 bis 107). Liefert das System eine konkrete Empfehlung oder Bewertung des Einzelfalls, spielt es eine entscheidende Rolle und ist nicht mehr vorbereitend (Rn. 108).

Profiling schließt den Filter aus, und im Bildungsbereich liegt es nahe

Profiling meint nach Art. 3 Nr. 52 EU-KI-VO, der auf Art. 4 Nr. 4 DSGVO verweist, jede automatisierte Verarbeitung personenbezogener Daten, um persönliche Aspekte einer natürlichen Person zu bewerten. Der Entwurf zerlegt das in drei Merkmale, die alle vorliegen müssen: automatisierte Verarbeitung, personenbezogene Daten, Ziel der Bewertung persönlicher Aspekte (Rn. 110, 111). Eine bloße Einteilung nach Alter oder Geschlecht ist nicht automatisch Profiling; es braucht eine Vorhersage, Einschätzung oder Beurteilung (Rn. 112).

Für den Bildungsbereich wird der Entwurf deutlich: Systeme der Anwendungsfälle in Anhang III Nr. 3 werden häufig persönliche Aspekte bewerten, etwa den Bildungsweg einer Person analysieren oder vorhersagen. Sie würden deshalb oft Profiling betreiben und seien dann immer als hochriskant einzustufen, auch wenn eine Filterbedingung erfüllt wäre (Rn. 215).

Ein Beispiel aus dem Entwurf zeigt, wie schnell das geht, und es betrifft Hochschule, Verwaltung und Mittelstand gleichermaßen: Ein System, das bei Personalauswahl Abweichungen von früheren Entscheidungsmustern erkennt, könnte unter Bedingung c fallen. Bewertet es dabei aber die persönlichen Eigenschaften der Personen, die die Auswahlgespräche führen, ist das Profiling, und der Filter scheidet aus (Rn. 112).

Was in der Akte fehlt, ist keine Ausnahme

Art. 6 Abs. 4 knüpft an die Ausnahme Pflichten: „Ein Anbieter, der der Auffassung ist, dass ein in Anhang III aufgeführtes KI-System nicht hochriskant ist, dokumentiert seine Bewertung, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Dieser Anbieter unterliegt der Registrierungspflicht gemäß Artikel 49 Absatz 2.“ Nach Art. 49 Abs. 2 registriert er sich und das System vor dem Inverkehrbringen oder der Inbetriebnahme in der EU-Datenbank nach Art. 71.

Was die Bewertung enthalten soll, beschreibt der Entwurf in Rn. 115:

• die Zweckbestimmung des Systems,
• warum es nach Art. 6 Abs. 2 an sich hochriskant wäre,
• welche der vier Bedingungen greift und warum,
• warum kein Profiling vorliegt.

Die Bewertung soll so festgehalten werden, dass sie der Marktüberwachung jederzeit auf Anfrage vorgelegt werden kann (Rn. 116). Die Aufsicht kann die Einstufung überprüfen, Korrekturen verlangen und, wenn ein System eingestuft wurde, um die Hochrisiko-Pflichten zu umgehen, Sanktionen nach Art. 99 verhängen (Art. 80; Rn. 117).

Zwei Punkte sind praktisch wichtig. Erstens trifft diese Pflicht den Anbieter, also den Hersteller. Wer ein System selbst entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt, ist das auch (Art. 3 Nr. 3 und 11; dazu unser Beitrag Anbieter oder Betreiber: Wo die Schwelle wirklich liegt). Zweitens empfiehlt der Entwurf denen, die einkaufen: Betreiber sollen bei der Beschaffung im Rahmen ihrer Sorgfalt in der EU-Datenbank prüfen, ob der Hersteller die Ausnahme in Anspruch genommen hat (Rn. 116).

Die Bildungsbeispiele des Entwurfs, nach Ergebnis sortiert

Der Entwurf ordnet seine Beispiele in drei Gruppen: fällt unter den Anwendungsfall, fällt nicht darunter, fällt darunter, ist aber durch den Filter ausgenommen. Die Beispiele sind nicht abschließend und beschreiben Zweckbestimmungen, keine Produkte.

Zulassung und Zuweisung (Anhang III Nr. 3 a, Rn. 217 bis 219)

• Fällt darunter: automatisierte Zulassungssysteme, die Bewerbungen, Zeugnisse und Testergebnisse bewerten; Systeme zur Zuweisung an Schulen oder zu Ausbildungsplätzen (beide laut Entwurf mit Profiling, Filter ausgeschlossen); automatisierte Prüfung der Stipendienberechtigung.
• Fällt nicht darunter: eine Plattform, die Interessierten Studiengänge nach eigenen Vorlieben empfiehlt; ein Chatbot, der allgemein über Zulassungsvoraussetzungen und Bewerbungsverfahren informiert.
• Durch den Filter ausgenommen: Systeme zur Aktenbearbeitung von Bewerbungen (Indexieren, Suchen, Übersetzen, Strukturieren), Bedingung d; Werkzeuge, die bereits getroffene Zulassungsentscheidungen einer Kommission nachträglich auf Muster prüfen, Bedingung c; Systeme, die eingehende Bewerbungen vor dem Verfahren in feste Kategorien einordnen und Dubletten markieren, ohne über die Zulassung zu entscheiden, Bedingung a.

Bewertung von Lernergebnissen (Anhang III Nr. 3 b, Rn. 220 bis 225)

• Fällt darunter: Bewertungssysteme für Tests, Quizze und Klausuren, die in die Endnote eingehen; ein persönlicher Lernassistent, dessen Berichte mit Noten am Ende des Semesters in die Benotung einfließen.
• Fällt nicht darunter: Sprachlern-Apps, die Studierende freiwillig und ohne anerkannten Abschluss nutzen; Lernbegleiter für neurodivergente Studierende, die nicht der Benotung dienen; Aussprache-Feedback ohne Einfluss auf Noten.
• Durch den Filter ausgenommen: ein Prüfwerkzeug, das eine von Lehrenden erstellte Klausur auf Fehler, unklare Formulierungen und Abweichungen vom Bewertungsschema prüft, Bedingung b; ein Notenrechner, der den gewichteten Durchschnitt bildet, Bedingung a; ein Werkzeug, das Bewertungsmuster von Lehrenden auswertet und Abweichungen zur menschlichen Prüfung markiert, Bedingung c.

Hinter diesen Beispielen steht eine Unterscheidung, die der Entwurf neu einführt: Erfasst ist nur summative Bewertung, die in Noten und Abschlüsse eingeht, nicht formatives Feedback im laufenden Lernprozess (Rn. 222 bis 224). Ihr widmen wir den nächsten Fachbeitrag.

Was zeitlich gilt

Die Hochrisiko-Pflichten für Systeme nach Anhang III gelten nach der Digital-Omnibus-Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c n. F.). Die Frage, ob ein System unter Anhang III fällt oder durch den Filter ausgenommen ist, stellt sich trotzdem früher: bei der Entwicklung, bei der Ausschreibung, bei der Vertragsgestaltung.

Fazit

Der Filter ist kein Schlupfloch, sondern eine begründungspflichtige Einordnung. Er trägt dort, wo ein System ordnet, glättet, vergleicht oder vorbereitet, und endet, wo es Personen bewertet oder Entscheidungen vorwegnimmt. Wer sich auf ihn beruft, braucht eine schriftliche Begründung, die vor dem Einsatz steht; wer einkauft, kann nach ihr fragen.

Quellen

• Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 3, 11 und 52, Art. 6 Abs. 2 bis 4, Art. 49 Abs. 2, Art. 71, Art. 80, Art. 99, Anhang III Nr. 3; amtliche deutsche Fassung, EUR-Lex.
• Verordnung (EU) 2026/1744 (Digital Omnibus zu KI) vom 8. Juli 2026, ABl. L vom 24.07.2026, Art. 113 n. F.
• Europäische Kommission, Draft Commission guidelines on the classification of high-risk AI systems under Article 6 of Regulation (EU) 2024/1689 (AI Act) for stakeholder consultation, veröffentlicht am 19.05.2026, digital-strategy.ec.europa.eu; hier insbesondere Teil Anhang III, Rn. 84 bis 117 und 210 bis 235, sowie allgemeiner Teil, Rn. 3, 5 und 6.

Hinweis: Stand: 9. November 2026. Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Die Leitlinien der Kommission liegen bisher nur als Entwurf vor und sind nicht verbindlich; die letztverbindliche Auslegung der EU-KI-Verordnung obliegt dem Gerichtshof der Europäischen Union. Für die verbindliche Bewertung Ihres Einzelfalls wenden Sie sich bitte an Ihre Rechtsabteilung oder eine Rechtsanwältin bzw. einen Rechtsanwalt.

← Zurück zu Community