De AI-verordening voor onderwijs-AI.

Onderwijs wordt rechtstreeks genoemd in de AI-verordening. Bijlage III, punt 3 dekt AI die wordt gebruikt om te beslissen over toegang tot onderwijs, om leerresultaten te evalueren, om te beoordelen welk onderwijsniveau iemand hoort te krijgen, en om tijdens toetsen te letten op verboden gedrag. Doet jouw product een van die dingen, dan is het vermoedelijk hoog risico - en anders dan in de meeste sectoren staat er in artikel 5 een tweede valkuil vlak naast.

Proctoring is het geval om als eerste naar te kijken. Toetsgedrag monitoren is expliciet hoog risico onder bijlage III 3(d). Omvat die monitoring het afleiden van emoties, dan is het geen hoog risico - het is ronduit verboden onder artikel 5, in onderwijssituaties, zonder uitweg via documentatie.

Waar EdTech landt

De lijn die het beslist: op volgorde zetten tegenover beoordelen

Een adaptief systeem dat de volgende opgave kiest omdat de vorige fout werd beantwoord, zet content op volgorde. Een systeem dat een score, een niveau, een oordeel over gereedheid of een aanbeveling over de leerling oplevert, beoordeelt de persoon - en dat is zowel bijlage III als profilering, wat de uitzondering van artikel 6(3) volledig afsluit.

Leveranciers zitten vaak dichter bij die lijn dan ze denken, want dezelfde engine die content op volgorde zet, levert meestal ook een schatting van de beheersing op. Wordt die schatting getoond aan een docent, een toelatingsmedewerker of een werkgever, dan doet ze beoordelingswerk.

School of leverancier - wie wat verschuldigd is

Een school of universiteit die een AI-nakijktool koopt, is gebruiksverantwoordelijke onder artikel 26: menselijk toezicht, monitoring, relevantie van de invoergegevens, logging, en het informeren van de betrokken studenten. Zij erft niet de plichten uit hoofdstuk III van de leverancier - risicobeheer, technische documentatie, conformiteitsbeoordeling, CE-markering - die bij de aanbieder blijven. De volledige toets.

Twee valkuilen die specifiek zijn voor inkoop in het onderwijs. Ten eerste kan een school die een tool substantieel wijzigt - hem hertrainen op het eigen cohort, een plaatsingsmodel hergebruiken als toelatingsfilter - zelf aanbieder worden. Ten tweede hebben gebruiksverantwoordelijken uit de publieke sector van systemen onder bijlage III extra plichten, waaronder een effectbeoordeling op het gebied van de grondrechten. Universiteiten en openbare scholen gaan er beter van uit dat het zwaardere pakket voor gebruiksverantwoordelijken op hen van toepassing is.

Wat vandaag van kracht is, wat je niveau ook is

• Artikel 50 - een studiebot vertelt studenten bij het eerste contact dat hij een AI is.
• Artikel 4 - docenten en administratief personeel dat deze systemen bedient, heeft vastgelegde AI-geletterdheid nodig. In het onderwijs is makkelijker vol te houden dat je het hebt gedaan, en moeilijker vol te houden dat je het niet nodig hebt.
• Artikel 5 - geen afleiden van emoties bij studenten. Controleer elke functie voor proctoring of voor het volgen van betrokkenheid nu, niet in 2027.

Voor de hoogrisicoplichten heb je tot 2 december 2027. Dat is niet ver weg voor een nakijk- of toelatingsproduct: een conformiteitsbeoordeling kost realistisch 12 tot 18 maanden, en inkoopcycli in het onderwijs lopen per jaar. Volledige deadlinekaart.

De AVG doet al veel van het werk. Leerlinggegevens zijn vaak gegevens van kinderen, dus heb je een DPIA, een positie over leeftijdsgeschikt ontwerp en een rechtsgrond die toetsing doorstaan, dan is een groot deel van de datagovernance uit artikel 10 bewezen met werk dat je al hebt gedaan. Rapporten van Reglynn markeren die overlappen in plaats van je twee keer te factureren.