Nachfrage der Aufsicht: Was heute vorgelegt wird – und was noch nicht

Stand: 25. August 2026. Berücksichtigt die Verordnung (EU) 2024/1689 in der Fassung der Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026 sowie das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026.

Seit dem 2. August 2026 gilt die EU-KI-Verordnung allgemein. Das ist nicht dasselbe wie „in Kraft getreten“ – in Kraft ist sie seit dem 1. August 2024. Neu ist etwas anderes, und praktisch ist es das Entscheidende: Seither steht die Durchsetzungsstruktur, und es gibt eine Stelle, die fragen kann.

Aus dieser Verschiebung entsteht eine Frage, die uns in Gesprächen mit Hochschulen und Forschungseinrichtungen häufiger gestellt wird als jede andere: Was müsste ich vorlegen, wenn jemand fragt? Dieser Beitrag geht sie in der Reihenfolge durch, in der sie sich stellt – wer fragt, worauf sich die Frage stützt, was heute beantwortet werden muss und was erst später Papier verlangt. Die Fundstellen stehen jeweils dabei.

1. Wer in Deutschland überhaupt fragt

Die KI-Verordnung überlässt die Durchsetzung den Mitgliedstaaten. Deutschland hat sie mit dem KI-MIG geregelt, Artikel 1 des Gesetzes vom 22. Juli 2026 (BGBl. 2026 I Nr. 233 vom 28. Juli 2026), in Kraft seit dem 29. Juli 2026. Zentrale Marktüberwachungsbehörde und zentrale Anlauf- und Beschwerdestelle ist die Bundesnetzagentur. Sektorspezifische Zuständigkeiten bleiben daneben bestehen, etwa die der BaFin im Finanzsektor.

Für staatliche Hochschulen und Forschungseinrichtungen ist eine Regelung des KI-MIG besonders relevant: Wo Landesbehörden KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden, können die Länder die zuständige Behörde selbst bestimmen. Staatliche Hochschulen sind Einrichtungen des jeweiligen Landes. Die Aufsichtslandschaft ist für sie damit nicht bundeseinheitlich – wer im Einzelfall zuständig ist, hängt vom Land ab und ist vielerorts noch nicht öffentlich benannt.

Einzelne Fachmedien nennen abweichend das BSI als durchsetzende Stelle. Gesetzestext und Bundesministerium für Digitales und Staatsmodernisierung nennen die Bundesnetzagentur.

Der übliche Auslöser ist eine Beschwerde

Art. 85 KI-VO gibt jeder natürlichen und juristischen Person das Recht, bei der Marktüberwachungsbehörde eine Beschwerde einzureichen, wenn sie einen Verstoß gegen die Verordnung annimmt. Die Behörde bearbeitet sie nach den Verfahren der Marktüberwachungsverordnung (EU) 2019/1020. Die Bundesnetzagentur stellt es nach eigener Darstellung so dar, dass sie eingehende Beschwerden entgegennimmt und daraus ihre Überwachungsplanung ableitet.

Das heißt für die Praxis: Der realistische Anlass ist nicht die angekündigte Prüfung. Es ist eine Studentin, ein Bewerber, ein Personalrat oder ein Wettbewerber, der sich meldet – und die Frage kommt danach, mit einer Frist.

2. Was seit dem 2. August 2026 tatsächlich beantwortet werden muss

Hier lohnt es, die Erwartung zu korrigieren. Der Katalog ist kürzer, als der Ton der Debatte nahelegt, weil die umfangreichen Dokumentationspflichten an der Hochrisiko-Einstufung hängen – und die ist verschoben (dazu Abschnitt 3). Was heute gilt, lässt sich auf drei Punkte bringen.

Offenlegung: Gibt sich das System zu erkennen?

Art. 50 Abs. 1 KI-VO verlangt, dass KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, „so konzipiert und entwickelt“ werden, dass die betroffenen Personen informiert werden, dass sie es mit einem KI-System zu tun haben. Die Ausnahme greift nur, wenn das aus Sicht einer „angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung“ offensichtlich ist – nach verbreiteter Lesart eng auszulegen.

Zwei Feinheiten, die häufig verkürzt werden. Erstens richtet sich Absatz 1 an Anbieter, nicht an Betreiber: Die Offenlegung ist eine Eigenschaft des Systems, kein nachträglicher Banner. Zweitens verlangt Art. 50 Abs. 5, dass die Information „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise“ erfolgt und den geltenden Barrierefreiheitsanforderungen entspricht.

Adressat von Art. 50 Abs. 4 – Deepfakes und veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse, die ohne menschliche Überprüfung erzeugt wurden – sind dagegen die Betreiber.

KI-Kompetenz: Können die Menschen damit umgehen?

Art. 4 KI-VO gilt seit dem 2. Februar 2025 und verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, damit ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Digital-Omnibus-Verordnung hat die Vorschrift neu gefasst und dabei einen entlastenden Satz ergänzt: Die Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren. Die Pflicht bleibt, ihre Schärfe ist geringer geworden.

Verbote: Läuft irgendwo etwas Untersagtes?

Art. 5 KI-VO gilt ebenfalls seit dem 2. Februar 2025 und nennt Praktiken, die untersagt sind. Ob ein konkretes System darunterfällt, ist eine Frage des Einzelfalls und keine, die sich in einem Blogbeitrag beantworten lässt. Neu ist: Die Digital-Omnibus-Verordnung fügt zwei weitere Verbote ein (Art. 5 Abs. 1 Buchst. ba und bb), die ab dem 2. Dezember 2026 gelten – KI-Systeme, die ohne ausdrückliche Einwilligung intime Darstellungen bestimmbarer Personen erzeugen oder manipulieren, sowie Systeme zur Erzeugung von Material im Sinne der Richtlinie 2011/93/EU. Für Betreiber greift das Verbot bei entsprechender Verwendungsabsicht; für Anbieter auch dann, wenn solche Ausgaben ein „absehbares und reproduzierbares Ergebnis“ ohne zumutbare Schutzvorkehrungen sind. Einrichtungen, die selbst Bildgeneratoren bereitstellen, sind Anbieter.

3. Die Rolle ist die unterschätzte Variable

Die drei Fragen aus dem vorigen Abschnitt lesen sich wie ein abgeschlossener Katalog. Das sind sie nicht. Sie beschreiben, was heute von einer Einrichtung verlangt wird, die eingekaufte Systeme unverändert einsetzt – und genau diese Voraussetzung hält in der Praxis selten.

Auch als Betreiber gilt heute schon mehr als die drei Fragen

Die Betreiberrolle ist keine Zuschauerrolle. Neben der KI-Kompetenz nach Art. 4 trifft Betreiber die Kennzeichnungspflicht aus Art. 50 Abs. 4: Deepfakes sind offenzulegen, ebenso veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse, die ohne menschliche Überprüfung und redaktionelle Verantwortung erzeugt wurden. Beides gilt seit dem 2. August 2026 und hat mit der Hochrisiko-Einstufung nichts zu tun. Hinzu kommt Art. 26, sobald ein System doch in Anhang III fällt – mit menschlicher Aufsicht, Protokollaufbewahrung und Informationspflichten gegenüber Betroffenen.

Und die Rolle steht nicht fest

Nach Art. 3 Nr. 3 ist Anbieter, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder zum Eigengebrauch in Betrieb nimmt. Ein Markt ist dafür nicht nötig, eine Abgabe nach außen ebenfalls nicht. Drei Wege führen im Alltag über diese Schwelle:

• Eigenentwicklung im Haus. Der Assistent aus dem Rechenzentrum, unter eigenem Namen bereitgestellt. „Entwickeln lassen“ zählt mit – ein beauftragter Dienstleister oder ein Studierendenprojekt ändert nichts.
• Wesentliche Veränderung eines eingekauften Systems. Nach Art. 25 wird zum Anbieter, wer ein Hochrisiko-System wesentlich verändert oder ihm eine Zweckbestimmung gibt, durch die es hochriskant wird.
• Weitreichende Anpassung eines allgemeinen Modells. Wer ein Modell mit allgemeinem Verwendungszweck erheblich nachtrainiert, kann zum Anbieter des veränderten Modells werden – mit den Pflichten aus Kapitel V, die bereits seit dem 2. August 2025 gelten und vom Digital Omnibus nicht verschoben wurden.

Die Grenze ist dabei nicht jede Anpassung. Eine Prompt-Vorlage oder eine schlichte Konfiguration macht niemanden zum Anbieter. Es kommt auf das Gesamtbild an: eigene Zweckbestimmung, eigene Datenbasis, eigener Ausgabeprozess, eigene Entscheidung über Updates, Modellwechsel und Rollout. Ob eine konkrete Konstellation die Schwelle überschreitet, ist eine Einzelfallfrage und gehört in die Rechtsabteilung.

Und die Gegenprobe, damit daraus keine Drohkulisse wird: Die Anbieterrolle allein bringt nicht die große Pflichtenliste. Art. 16 beginnt mit „Anbieter von Hochrisiko-KI-Systemen müssen“ – Qualitätsmanagement, technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung hängen an der Risikoklasse, nicht an der Rolle. Wer einen harmlosen Auskunftsbot selbst baut, bekommt sie nicht automatisch mit.

Was die Rolle ändert, ist die Frage, wer allein dasteht. Die Offenlegung nach Art. 50 Abs. 1 muss ins Produkt, nicht auf einen nachträglichen Banner – beim eingekauften System ist das die Aufgabe des Herstellers, beim Eigenbau die eigene. Und wenn ein System später doch in Anhang III rutscht, weil es an Zulassung oder Bewertung mitwirkt, gibt es beim Eigenbau keinen Hersteller, der Dokumentation und Konformitätsbewertung mitbringt.

Der Punkt ist nicht die Rolle, sondern ihre Beweglichkeit. Keiner der drei Wege oben wird als Rollenwechsel beschlossen. Sie passieren als Projektentscheidung, als Feature im nächsten Release, als gute Idee eines Lehrstuhls. Wer nicht regelmäßig prüft, welche Systeme im Haus laufen und was sich an ihnen geändert hat, bemerkt den Wechsel nicht – und kann entsprechend nichts steuern. Wie sich die Schwelle im Einzelnen zieht, nehme ich mir im nächsten Beitrag vor.

4. Was der Digital Omnibus verschoben hat – und was nicht

Die Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L vom 24. Juli 2026) ändert die KI-Verordnung an mehreren Stellen. Für die Frage nach der Nachfrage sind drei Änderungen wesentlich.

• Hochrisiko-Pflichten verschoben. Der neue Art. 113 Abs. 3 Buchst. c setzt die Anforderungen für Systeme nach Anhang III (eigenständige Hochrisiko-Systeme, darunter Nr. 3 zu Bildung) auf den 2. Dezember 2027 und für Systeme nach Anhang I (produkteingebettet) auf den 2. August 2028. Der allgemeine Geltungsbeginn bleibt der 2. August 2026.
• Sonderfrist für die öffentliche Hand. Der neu gefasste Art. 111 Abs. 2 unterwirft Hochrisiko-Bestandssysteme der Verordnung nur, wenn sie danach „in ihrer Konzeption erheblich verändert“ wurden. Und weiter im Wortlaut: „In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen … bis zum 2. August 2030.“ Staatliche Hochschulen sind Landeseinrichtungen. Das ist die konkreteste Entlastung im gesamten Omnibus – und sie wird kaum irgendwo berichtet.
• Was der Dezember 2026 wirklich bedeutet. Der neue Art. 111 Abs. 4 gibt Anbietern generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, bis zum 2. Dezember 2026 Zeit, die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 zu erfüllen; Erwägungsgrund 38 nennt das ausdrücklich einen Übergangszeitraum von vier Monaten. Das ist keine allgemeine Schonfrist und kein Aufschub für die Offenlegungspflicht nach Art. 50 Abs. 1.

Nicht verschoben wurden: die Verbote, die KI-Kompetenz, die Transparenzpflichten und die Durchsetzungsstruktur.

Ein aufgeschobener Stichtag ist keine aufgeschobene Aufgabe. Was am 2. Dezember 2027 verlangt wird, bezieht sich auf Systeme, die heute laufen, und auf Entscheidungen, die heute getroffen werden. Die Einstufung eines Systems ist außerdem kein einmaliger Akt: Ein Beratungsbot, der im Wintersemester um eine Funktion zur Vorsortierung von Bewerbungen erweitert wird, wechselt damit die Kategorie – ohne dass jemand einen Beschluss darüber gefasst hätte. Wer nicht laufend erfasst, bewertet und nachhält, merkt einen solchen Wechsel nicht, sondern erfährt davon.

5. Was ab 2027 tatsächlich auf den Tisch kommt

Ab dem Geltungsbeginn der Hochrisiko-Anforderungen wird die Nachfrage gegenständlich. Drei Vorschriften beschreiben, was dann verlangt werden kann.

Art. 21 KI-VO verpflichtet Anbieter von Hochrisiko-KI-Systemen, einer zuständigen Behörde auf begründetes Ersuchen sämtliche Informationen und Dokumentation vorzulegen, die für den Nachweis der Konformität erforderlich sind – in einer für die Behörde leicht verständlichen Amtssprache des betreffenden Mitgliedstaats. Auf begründetes Ersuchen ist außerdem Zugang zu den automatisch erzeugten Protokollen nach Art. 12 Abs. 1 zu gewähren, soweit diese der Kontrolle des Anbieters unterliegen. Die erhaltenen Informationen unterliegen der Vertraulichkeit nach Art. 78.

Art. 26 Abs. 6 KI-VO verpflichtet Betreiber von Hochrisiko-Systemen, die automatisch erzeugten Protokolle mindestens sechs Monate aufzubewahren, soweit sie ihrer Kontrolle unterliegen und keine abweichenden Vorschriften gelten. Betreiber müssen ferner mit den zuständigen Behörden bei allen Maßnahmen zusammenarbeiten, die diese im Zusammenhang mit dem System ergreifen.

Art. 74 KI-VO regelt die Befugnisse der Marktüberwachungsbehörden auf Grundlage der Verordnung (EU) 2019/1020; DSGVO (Art. 30, 35). Sie können ihre Befugnisse gegebenenfalls aus der Ferne ausüben; Anbieter gewähren vollständigen Zugang zu Trainings-, Validierungs- und Testdatensätzen, erforderlichenfalls über Programmierschnittstellen. Ein Zugang zum Quellcode ist nur nachrangig vorgesehen – wenn er zur Konformitätsbewertung erforderlich ist und andere Prüfverfahren ausgeschöpft oder unzureichend waren.

Der praktisch wichtigste Satz dieses Abschnitts steht in keiner Norm: Nichts davon lässt sich rückwirkend erzeugen. Ein Protokoll, das nicht geführt wurde, existiert nicht. Eine Begründung, warum ein System eingeführt wurde, ist zwei Jahre später eine Rekonstruktion.

6. Der Unterschied, auf den es ankommt

Zwischen „bei uns läuft nichts Kritisches“ und „wir wissen nicht, was läuft“ liegt kein Papier, sondern der ganze Unterschied. Das erste ist eine Auskunft, die eine Behörde entgegennehmen kann. Das zweite ist keine.

Beide Sätze klingen ähnlich harmlos, und in vielen Häusern wird der zweite gesagt, wenn der erste gemeint ist. Der Grund dafür ist selten Unwille. Er ist strukturell: Die Rolle der oder des KI-Beauftragten ist fast überall nebenamtlich besetzt, und der Bestand an KI-Anwendungen wächst schneller, als eine Liste gepflegt werden kann – vor allem, weil ein erheblicher Teil davon nie eingeführt wurde, sondern über Updates in vorhandene Software eingezogen ist.

Daraus folgt die eigentliche zeitliche Klemme. Eine Nachfrage hat eine Frist von Tagen bis Wochen. Der Überblick, aus dem die Antwort kommt, braucht in einem mittelgroßen Haus erfahrungsgemäß deutlich länger – und er lässt sich unter Fristdruck nicht sauber herstellen.

Die KI-Verordnung ist nicht die einzige Regel

Der Blick auf die Fristen der KI-Verordnung verdeckt, dass ein erheblicher Teil der Pflichten gar nicht aus ihr stammt und keinen Aufschub kennt. Sobald ein KI-System personenbezogene Daten verarbeitet – und das tun Transkription, Bewerbungssichtung, Chatbots und Lernplattformen regelmäßig –, gilt die DSGVO unverändert weiter: das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30, die Rechtsgrundlage, die Informationspflichten, im Zweifel eine Datenschutz-Folgenabschätzung nach Art. 35. Dazu kommen je nach Haus Landesdatenschutzrecht, Hochschulgesetz, Personalvertretungsrecht und Dienstvereinbarungen.

Der Aufschub der Hochrisiko-Anforderungen ändert daran nichts. Wer heute ein KI-System einsetzt, ohne zu wissen, welche Daten hineinfließen, hat kein Problem, das 2027 beginnt – er hat eines, das seit 2018 besteht.

Die gute Nachricht: Es ist dieselbe Liste

Die Erfassung, die eine Nachfrage der Marktüberwachung beantwortbar macht, ist im Kern dieselbe, aus der sich auch die datenschutzrechtlichen Nachweise speisen: Welches System, zu welchem Zweck, mit welchen Daten, unter wessen Verantwortung, mit welcher Entscheidung darüber. Das ist der Grund, warum sich die Arbeit lohnt, bevor irgendeine Frist läuft – sie zahlt auf mehrere Pflichten gleichzeitig ein, und sie ist die einzige Grundlage, auf der sich eine Risikobewertung überhaupt durchführen lässt.

Fazit

Die Fristen der KI-Verordnung sind der am häufigsten zitierte und der am wenigsten hilfreiche Teil dieser Debatte. Sie sagen, wann etwas spätestens nachweisbar sein muss – nicht, wann man anfangen sollte. Und sie sagen gar nichts über die Pflichten, die parallel und ohne Übergangsfrist längst gelten.

Was eine Nachfrage tatsächlich beantwortbar macht, ist kein Stichtag, sondern ein laufender Bestand: erfassen, was im Haus arbeitet, bewerten, wie kritisch es ist, und beides aktuell halten, wenn sich ein System ändert. Ohne diesen Bestand ist jede Risikoeinschätzung eine Vermutung und jede Auskunft an eine Behörde ein Versprechen ins Blaue.

UNAIT strukturiert genau diese Erfassung, Einordnung und Dokumentation und liefert eine dokumentierte Ersteinschätzung als Grundlage für die rechtliche Prüfung. Die rechtliche Bewertung selbst bleibt bei Ihrer Rechtsabteilung – dieser Beitrag ordnet die Rechtslage allgemein ein und ersetzt sie nicht.

Hinweis: Stand: 25. August 2026. Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Für die verbindliche Bewertung Ihres Einzelfalls wenden Sie sich bitte an Ihre Rechtsabteilung oder eine Rechtsanwältin bzw. einen Rechtsanwalt. Quellen: Verordnung (EU) 2024/1689 (Art. 3, 4, 5, 12, 16, 21, 25, 26, 50, 74, 78, 85, 111, 113, Kapitel V, Anhang I und III); Verordnung (EU) 2026/1744 vom 8. Juli 2026, ABl. L vom 24. Juli 2026, einschließlich Erwägungsgrund 38; KI-MIG, Art. 1 des Gesetzes vom 22. Juli 2026, BGBl. 2026 I Nr. 233; Bundesnetzagentur, Fachthema KI/Marktüberwachung; Verordnung (EU) 2019/1020.

← Zurück zu Community