AI Act dla AI w edukacji.

Edukacja jest w AI Act wymieniona wprost. Załącznik III, punkt 3 obejmuje AI używaną do decydowania o dostępie do edukacji, oceniania efektów uczenia się, ustalania odpowiedniego poziomu kształcenia oraz monitorowania zachowań zabronionych podczas egzaminów. Jeśli Twój produkt robi którąkolwiek z tych rzeczy, jest domniemanie wysokiego ryzyka - a w odróżnieniu od większości sektorów tuż obok czai się druga pułapka, w artykule 5.

Proctoring to przypadek, na który trzeba spojrzeć najpierw. Monitorowanie zachowań podczas egzaminu jest wprost wysokiego ryzyka na podstawie załącznika III 3(d). Jeśli to monitorowanie obejmuje wnioskowanie o emocjach, nie jest wysokiego ryzyka - jest wprost zakazane na podstawie artykułu 5, w kontekście edukacyjnym, bez żadnej drogi wyjścia przez dokumentację.

Gdzie ląduje edtech

Granica, która o tym decyduje: układanie kontra ocenianie

System adaptacyjny, który wybiera kolejne ćwiczenie, bo poprzednie zostało źle rozwiązane, układa treści. System, który produkuje ocenę, poziom, osąd o gotowości albo rekomendację dotyczącą ucznia, ocenia osobę - a to jednocześnie załącznik III i profilowanie, które zamyka wyłączenie z artykułu 6(3) bezwzględnie.

Dostawcy stoją bliżej tej granicy, niż im się wydaje, bo ten sam silnik, który układa treści, zwykle produkuje też oszacowanie opanowania materiału. Jeśli to oszacowanie trafia do nauczyciela, do rekrutacji albo do pracodawcy, wykonuje pracę oceniającą.

Szkoła czy dostawca - kto co jest winien

Szkoła lub uczelnia kupująca narzędzie AI do oceniania jest podmiotem stosującym w rozumieniu artykułu 26: nadzór ludzki, monitorowanie, adekwatność danych wejściowych, rejestrowanie zdarzeń i informowanie objętych uczniów. Nie dziedziczy obowiązków dostawcy z rozdziału III - zarządzania ryzykiem, dokumentacji technicznej, oceny zgodności, oznakowania CE - które zostają po stronie dostawcy. Pełny test.

Dwie pułapki typowe dla zakupów w edukacji. Po pierwsze, szkoła, która istotnie modyfikuje narzędzie - dotrenowuje je na własnym roczniku, przerabia model przydziału na filtr rekrutacyjny - może stać się dostawcą. Po drugie, podmioty publiczne stosujące systemy z załącznika III mają dodatkowe obowiązki, w tym ocenę skutków dla praw podstawowych. Uczelnie i szkoły publiczne powinny zakładać, że dotyczy ich ten cięższy zestaw.

Co obowiązuje dziś, niezależnie od kategorii

• Artykuł 50 - bot do nauki mówi uczniom, że jest AI, przy pierwszym kontakcie.
• Artykuł 4 - nauczyciele i administracja obsługujący te systemy potrzebują udokumentowanych kompetencji w zakresie AI. W edukacji łatwiej udowodnić, że się to zrobiło, i trudniej twierdzić, że nie trzeba.
• Artykuł 5 - żadnego wnioskowania o emocjach uczniów. Sprawdź każdą funkcję proctoringu albo śledzenia zaangażowania teraz, nie w 2027.

Obowiązki dla wysokiego ryzyka biegną do 2 grudnia 2027. Dla produktu oceniającego albo rekrutacyjnego to niedaleko: ocena zgodności realnie zajmuje od 12 do 18 miesięcy, a cykle zakupowe w edukacji są roczne. Pełna mapa terminów.

RODO wykonuje już sporą część tej pracy. Dane uczniów to często dane dzieci, więc jeśli masz ocenę skutków dla ochrony danych, stanowisko o projektowaniu odpowiednim do wieku i podstawę prawną, które wytrzymują kontrolę, dużą część zarządzania danymi z artykułu 10 dokumentuje praca, którą już wykonałeś. Raporty Reglynn oznaczają te nakładki, zamiast liczyć Ci je drugi raz.

Najczęściej zadawane pytania

Czy oprogramowanie AI do oceniania jest wysokiego ryzyka według AI Act?

Tak. Załącznik III punkt 3(b) wymienia AI przeznaczoną do oceny efektów uczenia się jako system wysokiego ryzyka. Ponieważ ocenia poszczególnych uczniów, jednocześnie ich profiluje, co zamyka wyłączenie z artykułu 6(3).

Czy proctoring egzaminacyjny z AI jest dozwolony według AI Act?

Proctoring monitorujący zachowania zabronione podczas testów jest systemem wysokiego ryzyka na podstawie załącznika III punkt 3(d). Jeśli dodatkowo wnioskuje o stanie emocjonalnym, jest wprost zakazany na podstawie artykułu 5, który zabrania wnioskowania o emocjach w kontekście edukacyjnym - a żadne poinformowanie ani dokumentacja nie naprawiają praktyki zakazanej.

Czy oprogramowanie do nauki adaptacyjnej jest wysokiego ryzyka?

Zwykle nie. Ustalanie, które ćwiczenie ma być następne, to dostarczanie treści, a nie ocenianie osoby. Przechyla się to wtedy, gdy system produkuje ocenę, poziom albo osąd o gotowości ucznia, który trafia do nauczyciela, rekrutacji lub pracodawcy.

Czy szkoła jest dostawcą czy podmiotem stosującym?

Podmiotem stosującym, z obowiązkami z artykułu 26: nadzór ludzki, monitorowanie, adekwatność danych wejściowych, rejestrowanie zdarzeń i informowanie objętych uczniów. Nie dziedziczy obowiązków dostawcy z rozdziału III - chyba że istotnie zmodyfikuje narzędzie, na przykład dotrenowując je na własnym roczniku.

Czy szkoły publiczne i uczelnie mają dodatkowe obowiązki?

Tak. Podmioty publiczne stosujące systemy z załącznika III mają dodatkowe obowiązki, w tym ocenę skutków dla praw podstawowych, więc szkoły publiczne i uczelnie powinny zakładać, że dotyczy ich cięższy zestaw obowiązków podmiotu stosującego.