Die KI-Verordnung für Bildungs-KI.

Bildung ist in der KI-Verordnung direkt benannt. Anhang III, Nummer 3 erfasst KI, die über den Zugang zu Bildung entscheidet, Lernergebnisse bewertet, das angemessene Bildungsniveau einer Person beurteilt und während Prüfungen auf verbotenes Verhalten überwacht. Wenn Ihr Produkt eines davon tut, ist es im Regelfall hochriskant - und anders als in den meisten Branchen sitzt gleich daneben eine zweite Falle in Artikel 5.

Proctoring ist der Fall, den man sich zuerst ansieht. Die Überwachung des Prüfungsverhaltens ist nach Anhang III 3(d) ausdrücklich hochriskant. Wenn diese Überwachung das Ableiten von Emotionen einschließt, ist sie nicht hochriskant - sie ist nach Artikel 5 im Bildungskontext schlicht verboten, ohne dokumentarischen Ausweg.

Wo Edtech landet

Die entscheidende Linie: sequenzieren gegen beurteilen

Ein adaptives System, das die nächste Aufgabe auswählt, weil die letzte falsch beantwortet wurde, sequenziert Inhalte. Ein System, das eine Punktzahl, eine Niveaustufe, ein Reifeurteil oder eine Empfehlung über die lernende Person hervorbringt, bewertet den Menschen - und das ist zugleich Anhang III und Profiling, was die Ausnahme aus Artikel 6(3) vollständig schließt.

Anbieter sitzen oft näher an dieser Linie, als sie denken, denn dieselbe Engine, die Inhalte sequenziert, erzeugt meist auch eine Einschätzung des Lernstands. Wird diese Einschätzung einer Lehrkraft, einer Zulassungsstelle oder einem Arbeitgeber angezeigt, leistet sie Bewertungsarbeit.

Schule oder Anbieter - wer schuldet was

Eine Schule oder Hochschule, die ein KI-Benotungswerkzeug kauft, ist Betreiber nach Artikel 26: menschliche Aufsicht, Überwachung, Relevanz der Eingabedaten, Protokollierung und Information der betroffenen Lernenden. Sie erbt nicht die Pflichten des Anbieters aus Kapitel III - Risikomanagement, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung -, die beim Anbieter bleiben. Die vollständige Prüfung.

Zwei Fallen sind spezifisch für die Beschaffung im Bildungsbereich. Erstens kann eine Schule, die ein Werkzeug wesentlich ändert - es auf den eigenen Jahrgang nachtrainiert, ein Einstufungsmodell in einen Zulassungsfilter umwidmet -, zum Anbieter werden. Zweitens haben öffentliche Betreiber von Anhang-III-Systemen zusätzliche Pflichten, darunter eine Grundrechte-Folgenabschätzung. Hochschulen und staatliche Schulen sollten davon ausgehen, dass für sie der schwerere Betreiberpflichtensatz gilt.

Was heute gilt, unabhängig von Ihrer Risikoklasse

• Artikel 50 - ein Lern-Bot sagt den Lernenden beim ersten Kontakt, dass er eine KI ist.
• Artikel 4 - Lehrkräfte und Verwaltungspersonal, die diese Systeme bedienen, brauchen protokollierte KI-Kompetenz. In der Bildung lässt sich leichter argumentieren, dass Sie das getan haben, und schwerer, dass Sie es nicht brauchen.
• Artikel 5 - kein Ableiten von Emotionen bei Lernenden. Prüfen Sie jede Proctoring- oder Engagement-Tracking-Funktion jetzt, nicht 2027.

Die Hochrisiko-Pflichten laufen bis zum 2. Dezember 2027. Für ein Benotungs- oder Zulassungsprodukt ist das nicht fern: Eine Konformitätsbewertung dauert realistisch 12 bis 18 Monate, und akademische Beschaffungszyklen sind jährlich. Die vollständige Fristenübersicht.

Die DSGVO leistet bereits einen großen Teil der Arbeit. Daten von Lernenden sind oft Daten von Kindern, wenn Sie also eine DSFA, eine altersgerechte Gestaltungsposition und eine Rechtsgrundlage haben, die einer Prüfung standhalten, ist ein großer Teil der Daten-Governance nach Artikel 10 durch bereits geleistete Arbeit belegt. Reglynn-Reports weisen diese Überschneidungen aus, statt Ihnen zweimal in Rechnung zu stellen.

Häufige Fragen

Ist KI-Benotungssoftware nach der KI-Verordnung hochriskant?

Ja. Anhang III Nummer 3(b) benennt KI, die zur Bewertung von Lernergebnissen bestimmt ist, als hochriskant. Weil sie einzelne Lernende bewertet, profiliert sie diese zugleich, was die Ausnahme aus Artikel 6(3) schließt.

Ist KI-Prüfungsaufsicht nach der KI-Verordnung zulässig?

Proctoring, das während Prüfungen auf verbotenes Verhalten überwacht, ist nach Anhang III Nummer 3(d) hochriskant. Leitet es zusätzlich den Gefühlszustand ab, ist es nach Artikel 5 schlicht verboten, der das Ableiten von Emotionen im Bildungskontext untersagt - und keine Offenlegung und keine Dokumentation heilt eine verbotene Praktik.

Ist adaptive Lernsoftware hochriskant?

In der Regel nicht. Zu sequenzieren, welche Aufgabe als Nächstes kommt, ist die Auslieferung von Inhalten, keine Bewertung der Person. Es kippt, sobald das System eine Punktzahl, eine Niveaustufe oder ein Reifeurteil über die lernende Person hervorbringt, das einer Lehrkraft, einer Zulassungsstelle oder einem Arbeitgeber angezeigt wird.

Ist eine Schule Anbieter oder Betreiber?

Betreiber, mit den Pflichten aus Artikel 26: menschliche Aufsicht, Überwachung, Relevanz der Eingabedaten, Protokollierung und Information der betroffenen Lernenden. Sie erbt nicht die Pflichten des Anbieters aus Kapitel III - es sei denn, sie ändert das Werkzeug wesentlich, etwa indem sie es auf den eigenen Jahrgang nachtrainiert.

Haben öffentliche Schulen und Hochschulen zusätzliche Pflichten?

Ja. Öffentliche Betreiber von Anhang-III-Systemen trifft ein zusätzlicher Pflichtensatz, darunter eine Grundrechte-Folgenabschätzung; staatliche Schulen und Hochschulen sollten daher davon ausgehen, dass für sie der schwerere Betreiberpflichtensatz gilt.