Чи мій чат-бот високого ризику?

Коротка відповідь: майже напевно не високого ризику - але у вас є обов'язки, які діють примусово просто зараз, і це не та відповідь, якої очікує більшість розробників чат-ботів, і не та, яку їм сказали в червні.

Плутанина зрозуміла. "Високий ризик" звучить як опис того, скільки шкоди щось може завдати, тож чат-бот із доступом до даних клієнтів здається таким, що мав би підпадати. Це термін іншого роду. Високий ризик - це визначена класифікація з конкретним переліком, і більшість чат-ботів залишаються поза ним, потрапляючи прямісінько в інший набір обов'язків, про який ніхто не писав.

Коли чат-бот справді високого ризику

Ваш чат-бот високого ризику лише тоді, коли він потрапляє до додатка III. Для діалогових систем реалістично це означає щось одне з переліченого:

Зверніть увагу на спільне. Кожен із них ухвалює або істотно впливає на рішення щодо конкретної особи, яке впливає на її доступ до роботи, грошей, освіти, свободи чи проживання. Це і є справжній тест, схований за переліком.

Чат-бот підтримки, що відповідає на запитання про ваш продукт, нічого з цього не робить. Продажний чат-бот, що кваліфікує ліди, теж ні: кваліфікувати компанію - не те саме, що вирішувати щодо особи. Внутрішній чат-бот, що шукає у вашій документації, теж ні.

І навіть тоді перевірте статтю 6(3)

Перебування у сфері з додатка III не робить систему автоматично високого ризику. Стаття 6(3) передбачає виняток, коли система виконує вузьке процедурне завдання, покращує результат раніше завершеної людської діяльності, виявляє закономірності ухвалення рішень, не замінюючи людської оцінки, або виконує підготовчу роботу - і не профілює фізичних осіб.

Для чат-ботів зазвичай усе вирішує саме умова про профілювання, і вона абсолютна. Чат-бот, який збирає структуровану інформацію від кандидатів і передає її рекрутерові без змін, може виконувати підготовчу роботу. Той, що робить будь-які висновки про особу - придатність, настрій, ймовірну результативність - профілює, і виняток зачиняється. Повний тест за 6(3).

Чим ви майже напевно є: обмежений ризик

Більшість чат-ботів опиняються в обмеженому ризику, де весь обов'язок - це прозорість за статтею 50, і саме це має значення, бо вона діє примусово від 2 серпня 2026.

50(1) - скажіть людям, що вони спілкуються з ШІ

Системи, призначені для безпосередньої взаємодії з фізичними особами, мають бути спроєктовані так, щоб ці особи були поінформовані, що взаємодіють із системою ШІ, якщо це не очевидно розумно поінформованій особі за обставин.

Три речі, які роблять неправильно:

• "Очевидно" - ненадійна ставка. Сучасні асистенти переконливі, їм дають людські імена, і вони починають із привітань, що звучать по-людськи. Якщо ви дали своєму ім'я і фото, ви активно попрацювали проти очевидності.
• Політика конфіденційності не рахується. Повідомлення має дійти до особи під час взаємодії або до неї, а не лежати в документі, який вона ніколи не відкриє.
• Воно має пережити передавання. Якщо ваш бот ескалює до людини або людина мовчки перебирає розмову, користувач має розуміти, з ким саме говорить.

50(2) і 50(4) - синтетичний контент

Якщо ваш продукт генерує контент, застосовуються ще два положення, і варто бути точними щодо того, хто що винен:

• 50(2) вимагає від постачальників генеративних систем позначати синтетичний вихід як штучно згенерований у машинозчитуваному форматі. Цей обов'язок лежить на постачальнику генеративної системи. Якщо ви викликаєте чужу модель через API, це його обов'язок, а не ваш.
• 50(4) стосується суб'єктів впровадження. Дипфейки - зображення, аудіо чи відео, схожі на реальних осіб, місця або події - мають розкриватися. Згенерований ШІ текст, опублікований для інформування громадськості з питань суспільного інтересу, теж має розкриватися, якщо тільки він не пройшов людську перевірку і фізична чи юридична особа не несе редакційної відповідальності за його публікацію.

Саме цей виняток є практичним для більшості компаній. Якщо людина читає те, що ви публікуєте, перед виходом і бере за це відповідальність, обов'язок розкриття не виникає. Опублікуйте неперевірений згенерований текст - і виникає.

Стаття 4 - обізнаність щодо ШІ, яка стосується всіх

Постачальники та суб'єкти впровадження мають забезпечити достатній рівень обізнаності щодо ШІ серед персоналу, який працює із системою, з урахуванням його технічних знань і контексту використання. Діє примусово від 2 серпня 2026.

Для малої команди це справді пів дня: що система робить, де вона помиляється, як розпізнати поганий результат, до кого ескалювати. Запротоколюйте це і збережіть список присутніх. Запис і є відповідністю - нічого подавати не треба і нікого повідомляти не треба, але якщо запитають, "ми зробили це такого числа, і ось хто був присутній" - це вичерпна відповідь.

А що з даними, які бачить чат-бот?

Типова плутанина. Якщо ваш чат-бот обробляє персональні дані, це GDPR, а не Акт про ШІ. Вони перетинаються, але ставлять різні запитання: GDPR питає, чи можете ви обробляти ці дані і на якій підставі; Акт про ШІ питає, що це за система і які обов'язки до неї прикріплюються.

Відповідь на одне не є відповіддю на інше. "Ми відповідаємо GDPR, отже все гаразд" - одне з найпоширеніших хибних уявлень у цій сфері, і воно хибне в обидва боки: аналіз правової підстави нічого не каже про статтю 50, а класифікація за Актом про ШІ нічого не каже про вашу правову підставу.

П'ять хвилин - і ви знатимете, де стоїте

1. Чи ухвалює ваш чат-бот або істотно впливає на рішення щодо конкретної особи стосовно зайнятості, освіти, кредиту, основних послуг, правоохоронної діяльності, міграції чи правосуддя? Ні → не високий ризик.
2. Якщо так, чи профілює він осіб? Ні, і його завдання вузьке або підготовче → можливо, виняток за 6(3), але задокументуйте це.
3. Чи повідомляють користувачеві, що це ШІ, при першому контакті, видимо? Ні → виправте цього тижня. Обов'язок діє.
4. Чи генерує він контент, який ви публікуєте без перевірки? Так → позначайте його або запровадьте перевірку і візьміть редакційну відповідальність.
5. Чи провели ви і записали навчання з обізнаності щодо ШІ? Ні → пів дня, запротоколюйте.

Більшість компаній, пройшовши цим переліком, виявляють, що вони обмеженого ризику з однією справжньою прогалиною: інформуванням. Це забирає пів дня, діє від серпня, і саме це найчастіше лишається незробленим.