Wenn KI bei Bewertung und Prüfung mitwirkt

Stand: 24. September 2026. Berücksichtigt die Verordnung (EU) 2024/1689 in der Fassung der Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026.

Wer an Hochschulen nach KI bei Prüfungen fragt, bekommt fast immer dieselbe Antwort: „Wir benutzen keine KI zum Benoten.“ Das ist in aller Regel richtig. Es beantwortet die Frage nur nicht.

Die KI-Verordnung führt in Anhang III die Einsatzbereiche auf, in denen Systeme als hochriskant gelten. Nummer 3 betrifft die allgemeine und berufliche Bildung und nennt vier Fälle. Das Bewerten von Leistungen ist einer davon.

Dieser Beitrag geht die vier Einträge im Wortlaut durch, zeigt, wo die Ausnahme des Art. 6 Abs. 3 greift und wo sie ausdrücklich nicht greift, und trennt die Pflichten, die heute schon gelten, von denen mit späterem Geltungsbeginn.

1. Vier Einträge, nicht einer

Anhang III Nr. 3 lautet im Wortlaut:

a) „KI-Systeme, die bestimmungsgemäß zur Feststellung des Zugangs oder der Zulassung oder zur Zuweisung natürlicher Personen zu Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung verwendet werden sollen“

b) „KI-Systeme, die bestimmungsgemäß für die Bewertung von Lernergebnissen verwendet werden sollen, einschließlich des Falles, dass diese Ergebnisse dazu dienen, den Lernprozess natürlicher Personen in Einrichtungen oder Programmen aller Ebenen der allgemeinen und beruflichen Bildung zu steuern“

c) „KI-Systeme, die bestimmungsgemäß zum Zweck der Bewertung des angemessenen Bildungsniveaus, das eine Person im Rahmen von oder innerhalb von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung erhalten wird oder zu denen sie Zugang erhalten wird, verwendet werden sollen“

d) „KI-Systeme, die bestimmungsgemäß zur Überwachung und Erkennung von verbotenem Verhalten von Schülern bei Prüfungen im Rahmen von oder innerhalb von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung verwendet werden sollen“

Drei Beobachtungen dazu, die in der Praxis regelmäßig untergehen.

Der Anknüpfungspunkt ist der Zweck, nicht die Technik

Alle vier Einträge beginnen mit „bestimmungsgemäß … verwendet werden sollen“. Maßgeblich ist die Zweckbestimmung des Systems, nicht seine technische Bauart und auch nicht, wie fortgeschritten es ist. Ein schlichter Scoring-Algorithmus mit klarer Zweckbestimmung fällt eher darunter als ein großes Sprachmodell, das für etwas ganz anderes eingesetzt wird.

Buchstabe b erfasst auch das adaptive Lernen

Der Halbsatz „einschließlich des Falles, dass diese Ergebnisse dazu dienen, den Lernprozess … zu steuern“ zieht Systeme herein, die niemand als Prüfungssysteme bezeichnen würde: adaptive Lernplattformen, Übungsumgebungen mit automatischer Rückmeldung, Empfehlungslogiken im Lernmanagementsystem. Wer bewertet, um daraus den nächsten Lernschritt abzuleiten, ist vom Wortlaut erfasst.

Buchstabe d reicht am weitesten

„Überwachung und Erkennung von verbotenem Verhalten … bei Prüfungen“ beschreibt zwei Werkzeugklassen, die an vielen Häusern längst laufen: Aufsichtssoftware für Fernprüfungen und Werkzeuge, die Prüfungsleistungen auf Plagiate oder auf maschinelle Erzeugung hin durchsehen. Der deutsche Wortlaut spricht von „Schülern“; die englische Fassung sagt students und schließt Studierende ein. Der Bezug auf „Einrichtungen aller Ebenen“ macht ohnehin deutlich, dass die Hochschule mitgemeint ist.

2. „Am Ende entscheidet doch ein Mensch“ – die Ausnahme in Art. 6 Abs. 3

Der häufigste Einwand gegen die Einordnung lautet, das System bereite ja nur vor; die Entscheidung treffe eine Prüferin. Dieser Einwand hat eine Grundlage im Verordnungstext:

„Abweichend von Absatz 2 gilt ein in Anhang III genanntes KI-System nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt …“

Die Vorschrift nennt vier Konstellationen. Das System ist dazu bestimmt,

• a) eine eng gefasste verfahrenstechnische Aufgabe zu erfüllen,
• b) das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern,
• c) Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, ohne die zuvor abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen, oder
• d) eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die in Anhang III aufgeführten Anwendungsfälle relevant ist.

Buchstabe d ist der Fall, an den die meisten denken. Er ist real und kein Nebenweg: Wer ein Werkzeug ausschließlich zur Vorbereitung einer menschlichen Bewertung einsetzt, kann aus der Hochrisiko-Einstufung herausfallen.

Zwei Dinge gehören daneben gesagt. Erstens ist die Einstufung nach Art. 6 Abs. 4 zu dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird – die Ausnahme ist nichts, was sich nachträglich behaupten lässt. Zweitens gilt sie nicht, wenn die nächste Vorschrift greift.

3. Wo die Ausnahme endet: Profiling

Art. 6 Abs. 3 enthält im zweiten Unterabsatz eine Rückausnahme, die kurz ist und viel entscheidet:

„Ungeachtet des Unterabsatzes 1 gilt ein in Anhang III aufgeführtes KI-System immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt.“

Was Profiling ist, definiert die Verordnung nicht selbst. Art. 3 Nr. 52 verweist auf Art. 4 Nr. 4 DSGVO: jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, diese Daten zu verwenden, um persönliche Aspekte einer natürlichen Person zu bewerten – insbesondere um Aspekte bezüglich Arbeitsleistung, Zuverlässigkeit, Verhalten oder Aufenthaltsort zu analysieren oder vorherzusagen.

Damit ist die Rückausnahme für den Prüfungsbereich alles andere als theoretisch. Eine Aufsichtssoftware, die Blickrichtung, Geräusche oder Tastaturverhalten auswertet, um daraus auf Täuschungsverhalten zu schließen, analysiert Verhalten. Ein Werkzeug, das aus sprachlichen Merkmalen eines Textes auf dessen Entstehung schließt und daraus einen Verdacht gegen die Verfasserin ableitet, bewertet persönliche Aspekte. Beides ist dem Wortlaut nach Profiling – unabhängig davon, ob am Ende ein Mensch über die Konsequenz entscheidet.

Die praktische Folge: Gerade bei dem Eintrag, der am seltensten mitgedacht wird (Anhang III Nr. 3 Buchst. d), ist der Weg über die Ausnahme regelmäßig versperrt. Ob das im konkreten Fall zutrifft, ist eine Bewertungsfrage und gehört in die Rechtsabteilung. Die Struktur der Prüfung ist aber vorgegeben und lässt sich vorbereiten.

4. Was heute schon gilt – unabhängig von der Hochrisiko-Frage

Die Pflichten für Hochrisiko-Systeme aus Anhang III gelten nach dem neu gefassten Art. 113 erst ab dem 2. Dezember 2027 (produkteingebettete Systeme nach Anhang I: 2. August 2028). Daraus wird in der Praxis häufig ein „bis dahin gilt nichts“. Das ist falsch. Drei Regelungsschichten greifen bereits.

Die Offenlegungspflicht nach Art. 50 Abs. 1

Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen so konzipiert und entwickelt sein, dass die betroffenen Personen erfahren, dass sie mit einem KI-System interagieren. Das gilt seit dem 2. August 2026 und hängt nicht an der Risikoklasse. Adressat ist der Anbieter – bei einer Eigenentwicklung aus dem eigenen Rechenzentrum also die Einrichtung selbst. Ausführlich dazu: Anbieter oder Betreiber: Wo die Schwelle wirklich liegt.

Die KI-Kompetenz nach Art. 4

Anbieter und Betreiber treffen Maßnahmen, um ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen; die Pflicht gilt seit dem 2. Februar 2025. Die Digital-Omnibus-Verordnung hat Art. 4 neu gefasst und klargestellt, dass sie Anbieter oder Betreiber nicht verpflichtet, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren. Die Pflicht selbst bleibt.

Art. 22 DSGVO – und er gilt ohne Übergangsfrist

„Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.“

Prüfungsentscheidungen, Zulassungsentscheidungen und die Feststellung eines Täuschungsversuchs entfalten rechtliche Wirkung. Wo eine der Ausnahmen des Absatzes 2 greift, verlangt Absatz 3 angemessene Schutzmaßnahmen, „wozu mindestens das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gehört“.

Für die Praxis heißt das: Die Frage, wer über einen Treffer der Plagiatserkennung entscheidet und wie eine Betroffene dagegen vorgehen kann, ist keine Frage des Jahres 2027. Sie ist seit 2018 zu beantworten.

5. Die Fristen, sauber getrennt

• 2. Februar 2025 – Verbote nach Art. 5 und KI-Kompetenz nach Art. 4.
• 2. August 2026 – allgemeine Geltung der Verordnung, darunter die Transparenzpflichten des Art. 50.
• 2. Dezember 2027 – Pflichten für Hochrisiko-Systeme nach Anhang III (Art. 113 Abs. 3 Buchst. c i. d. F. der VO (EU) 2026/1744).
• 2. August 2028 – Pflichten für produkteingebettete Hochrisiko-Systeme nach Anhang I.

Eine Besonderheit betrifft Einrichtungen der öffentlichen Hand unmittelbar. Der ebenfalls neu gefasste Art. 111 Abs. 2 nimmt Hochrisiko-Bestandssysteme grundsätzlich aus, solange sie nicht „in ihrer Konzeption erheblich verändert“ wurden, und setzt dann fort: „In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen … bis zum 2. August 2030.“

Staatliche Hochschulen und außeruniversitäre Forschungseinrichtungen in öffentlicher Trägerschaft sind Einrichtungen des Landes oder des Bundes; für Bestandssysteme kann diese Sonderfrist deshalb einschlägig sein. Sie ist Luft zum Arbeiten, kein Freibrief: Sie gilt weder für Systeme, die nach dem 2. August 2026 in Betrieb genommen werden, noch für die heute geltenden Pflichten aus Abschnitt 4. Der Überblicksbeitrag zu den aktuellen Pflichten ordnet sie in den Gesamtzeitplan ein.

6. Warum das eine Frage der laufenden Erfassung ist

Jede der bisherigen Fragen setzt voraus, dass die Einrichtung weiß, welche Systeme sie in Bewertung, Zulassung und Prüfungsaufsicht einsetzt. Genau daran fehlt es meistens – nicht aus Nachlässigkeit, sondern weil diese Werkzeuge selten über die Beschaffung kommen. Sie erscheinen als neue Funktion im Lernmanagementsystem, als Lizenz eines Lehrstuhls, als Modul, das mit einem Update dazukam.

Hinzu kommt, dass sich die Einordnung bewegt. Ein Beratungswerkzeug, das um eine Vorsortierfunktion ergänzt wird, wechselt den Anwendungsfall. Ein Anbieter, der ein Erkennungsmodell austauscht, ändert die Grundlage der Bewertung. Eine einmalige Erhebung bildet das nicht ab; eine Liste, die einmal im Jahr aktualisiert wird, auch nicht zuverlässig.

UNAIT strukturiert Erfassung, Einordnung und Dokumentation und liefert eine dokumentierte Ersteinschätzung als Grundlage für die rechtliche Prüfung. Die Bewertung des Einzelfalls bleibt bei Ihrer Rechtsabteilung – was sie dafür braucht, entsteht dabei nachvollziehbar und ist vorlegbar.

Fazit

Die Bildungseinträge des Anhangs III sind breiter, als die Rede vom „KI-Benoten“ vermuten lässt: Sie erfassen Zulassung und Platzvergabe, die Bewertung von Lernergebnissen samt adaptiver Steuerung, die Einstufung des Bildungsniveaus und die Aufsicht über Prüfungen. Die Ausnahme für vorbereitende Tätigkeiten ist ernst gemeint, endet aber dort, wo ein System Personen profiliert – und das ist bei Prüfungsaufsicht und Erkennungswerkzeugen der Regelfall, nicht die Ausnahme.

Die längeren Fristen für Hochrisiko-Systeme ändern daran wenig, weil die Pflichten, die heute schon greifen, an anderen Vorschriften hängen. Wer jetzt damit anfängt, seine Systeme in diesen drei Bereichen zu erfassen, hat 2027 keine Aufholarbeit, sondern eine Akte.

Hinweis: Stand: 24. September 2026. Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Für die verbindliche Bewertung Ihres Einzelfalls wenden Sie sich bitte an Ihre Rechtsabteilung oder eine Rechtsanwältin bzw. einen Rechtsanwalt. Quellen: Verordnung (EU) 2024/1689 (Art. 3 Nr. 52; Art. 4; Art. 6 Abs. 3 und 4; Art. 50 Abs. 1; Art. 113; Anhang III Nr. 3); Verordnung (EU) 2026/1744 vom 8. Juli 2026, ABl. L vom 24. Juli 2026 (Art. 4, Art. 111 Abs. 2, Art. 113); Verordnung (EU) 2016/679 (Art. 4 Nr. 4, Art. 22).

← Zurück zu Community