Il regolamento sull'IA per l'IA nell'istruzione.

L'istruzione è nominata direttamente nel regolamento sull'IA. L'allegato III, punto 3 copre l'IA usata per decidere l'accesso all'istruzione, per valutare i risultati dell'apprendimento, per stabilire il livello di istruzione appropriato per una persona e per monitorare i comportamenti vietati durante gli esami. Se il tuo prodotto fa una qualsiasi di queste cose, è presuntivamente ad alto rischio - e, a differenza della maggior parte dei settori, lì accanto c'è una seconda trappola nell'articolo 5.

Il proctoring è il caso da guardare per primo. Monitorare il comportamento durante un esame è esplicitamente ad alto rischio ai sensi dell'allegato III 3(d). Se quel monitoraggio comprende l'inferenza delle emozioni, non è ad alto rischio: è vietato del tutto dall'articolo 5, negli ambiti educativi, senza alcuna via d'uscita documentale.

Dove finisce l'EdTech

La linea che decide: ordinare i contenuti o giudicare

Un sistema adattivo che sceglie l'esercizio successivo perché quello precedente è stato sbagliato sta ordinando dei contenuti. Un sistema che produce un punteggio, un livello, un giudizio di preparazione o una raccomandazione su chi apprende sta valutando la persona - ed è insieme allegato III e profilazione, il che chiude in modo assoluto l'esenzione dell'articolo 6(3).

I vendor stanno spesso più vicini alla linea di quanto credano, perché lo stesso motore che ordina i contenuti di solito produce anche una stima della padronanza. Se quella stima viene mostrata a un insegnante, a un responsabile delle ammissioni o a un datore di lavoro, sta facendo lavoro di valutazione.

Scuola o vendor - chi deve che cosa

Una scuola o un'università che compra uno strumento di correzione con IA è deployer ai sensi dell'articolo 26: sorveglianza umana, monitoraggio, pertinenza dei dati di input, registrazione degli eventi e informazione degli studenti interessati. Non eredita i doveri del capo III del vendor - gestione dei rischi, documentazione tecnica, valutazione della conformità, marcatura CE - che restano al fornitore. Il test completo.

Due trappole specifiche degli acquisti nell'istruzione. La prima: una scuola che modifica in modo sostanziale uno strumento - riaddestrandolo sulla propria coorte, riconvertendo un modello di collocamento in un filtro per le ammissioni - può diventarne il fornitore. La seconda: i deployer del settore pubblico di sistemi dell'allegato III hanno doveri aggiuntivi, tra cui una valutazione d'impatto sui diritti fondamentali. Università e scuole statali dovrebbero dare per scontato che valga per loro l'insieme più pesante da deployer.

Che cosa è in vigore oggi, qualunque sia il tuo livello

• Articolo 50 - un bot per lo studio dice agli studenti di essere un'IA, al primo contatto.
• Articolo 4 - gli insegnanti e il personale amministrativo che operano questi sistemi hanno bisogno di alfabetizzazione in materia di IA verbalizzata. Nell'istruzione è più facile sostenere di averla fatta e più difficile sostenere che non serva.
• Articolo 5 - niente inferenza delle emozioni sugli studenti. Controlla adesso qualsiasi funzionalità di sorveglianza o di tracciamento del coinvolgimento, non nel 2027.

Gli obblighi per l'alto rischio scattano il 2 dicembre 2027. Per un prodotto di correzione o di ammissioni non è lontano: la valutazione della conformità richiede realisticamente dai 12 ai 18 mesi, e i cicli di acquisto accademici sono annuali. Mappa completa delle scadenze.

Il GDPR fa già buona parte del lavoro. I dati degli studenti sono spesso dati di minori, quindi se hai una DPIA, una posizione di progettazione adeguata all'età e una base giuridica che reggono all'esame, una quota ampia della governance dei dati dell'articolo 10 è già provata da lavoro che hai fatto. I report di Reglynn segnalano quelle sovrapposizioni invece di fartele pagare due volte.