Акт про ШІ для ШІ в освіті.

Освіту в Акті про ШІ названо прямо. Додаток III, пункт 3 охоплює ШІ, що використовується для вирішення доступу до освіти, оцінювання результатів навчання, визначення відповідного рівня освіти для особи і моніторингу заборонених дій під час іспитів. Якщо ваш продукт робить щось із цього, він презумптивно високого ризику - і, на відміну від більшості галузей, поруч чекає друга пастка в статті 5.

Прокторинг - це випадок, на який варто подивитися першим. Моніторинг поведінки під час іспиту прямо є високим ризиком за додатком III 3(d). Якщо цей моніторинг включає висновування емоцій, це не високий ризик - це пряма заборона за статтею 5 в освітньому контексті, без жодного виходу через документацію.

Де опиняється edtech

Межа, яка це вирішує: упорядкування проти оцінювання

Адаптивна система, що обирає наступну вправу, бо попередню розв'язали неправильно, упорядковує контент. Система, що видає оцінку, рівень, судження про готовність чи рекомендацію щодо учня, оцінює особу - а це водночас додаток III і профілювання, яке зачиняє виняток зі статті 6(3) абсолютно.

Постачальники стоять ближче до цієї межі, ніж їм здається, бо той самий рушій, що впорядковує контент, зазвичай видає й оцінку опанування матеріалу. Якщо ця оцінка потрапляє до вчителя, приймальної комісії чи роботодавця, вона виконує оцінювальну роботу.

Школа чи постачальник - хто що винен

Школа чи університет, що купує ШІ-інструмент для оцінювання, є суб'єктом впровадження за статтею 26: людський нагляд, моніторинг, релевантність вхідних даних, журналювання та інформування учнів, яких це стосується. Вона не успадковує обов'язків постачальника з розділу III - управління ризиками, технічну документацію, оцінку відповідності, маркування CE - які лишаються за постачальником. Повний тест.

Дві пастки, характерні для закупівель в освіті. По-перше, школа, яка істотно модифікує інструмент - донавчає його на власному потоці, перепрофільовує модель розподілу на фільтр вступу - може стати постачальником. По-друге, публічні суб'єкти впровадження систем із додатка III мають додаткові обов'язки, зокрема оцінку впливу на основоположні права. Університетам і державним школам варто виходити з того, що до них застосовується важчий набір.

Що діє сьогодні, хоч би якою була ваша категорія

• Стаття 50 - навчальний бот каже учням, що він ШІ, при першому контакті.
• Стаття 4 - вчителям і адміністрації, які працюють із цими системами, потрібна задокументована обізнаність щодо ШІ. В освіті легше довести, що ви це зробили, і важче стверджувати, що це не потрібно.
• Стаття 5 - жодного висновування емоцій щодо учнів. Перевірте будь-яку функцію прокторингу чи відстеження залученості зараз, а не у 2027.

Обов'язки високого ризику діють до 2 грудня 2027. Для продукту оцінювання чи вступу це недалеко: оцінка відповідності реалістично забирає від 12 до 18 місяців, а закупівельні цикли в освіті річні. Повна карта термінів.

GDPR виконує чималу частину цієї роботи вже зараз. Дані учнів часто є даними дітей, тож якщо у вас є оцінка впливу на захист даних, позиція щодо проєктування з урахуванням віку і правова підстава, які витримують перевірку, значну частину управління даними зі статті 10 засвідчує робота, яку ви вже зробили. Звіти Reglynn позначають ці перетини, а не виставляють вам рахунок двічі.

Поширені запитання

Чи є програма ШІ для оцінювання системою високого ризику за Актом про ШІ?

Так. Додаток III пункт 3(b) називає ШІ, призначений оцінювати результати навчання, системою високого ризику. Оскільки він оцінює окремих учнів, він їх також профілює, а це зачиняє виняток зі статті 6(3).

Чи дозволений ШІ-прокторинг іспитів за Актом про ШІ?

Прокторинг, що моніторить заборонені дії під час тестів, є системою високого ризику за додатком III пункт 3(d). Якщо він додатково робить висновки про емоційний стан, він прямо заборонений за статтею 5, яка забороняє висновування емоцій в освітньому контексті, і жодне інформування чи документація не виправляють забороненої практики.

Чи є програма адаптивного навчання системою високого ризику?

Зазвичай ні. Визначення того, яка вправа буде наступною, - це подання контенту, а не оцінювання особи. Це змінюється, коли система видає оцінку, рівень чи судження про готовність учня, яке потрапляє до вчителя, приймальної комісії або роботодавця.

Школа є постачальником чи суб'єктом впровадження?

Суб'єктом впровадження, з обов'язками за статтею 26: людський нагляд, моніторинг, релевантність вхідних даних, журналювання та інформування учнів, яких це стосується. Вона не успадковує обов'язків постачальника з розділу III - якщо тільки істотно не модифікує інструмент, наприклад донавчивши його на власному потоці.

Чи мають державні школи й університети додаткові обов'язки?

Так. Публічні суб'єкти впровадження систем із додатка III мають додаткові обов'язки, зокрема оцінку впливу на основоположні права, тож державним школам і університетам варто виходити з того, що до них застосовується важчий набір обов'язків суб'єкта впровадження.