Акт про ШІ для онлайн-ритейлу.

Більшість того, що електронна комерція робить із ШІ, має мінімальний або обмежений ризик. Рекомендаційні системи, ранжування пошуку, прогнозування попиту, динамічне ціноутворення продуктів - жодне з цього не назване в додатку III. Вразливість сидить у трьох вужчих місцях, і два з них - у фізичних магазинах, а не онлайн.

Де насправді опиняється онлайн-ритейл

Єдине питання, що переводить систему в електронній комерції з мінімального ризику у високий: оцінюють особу чи товар? Ранжувати артикули - нормально. Оцінювати кредитоспроможність покупця або визначати його ознаки з обличчя - ні.

Пастка з оплатою частинами

Чимало рітейлерів додали оплату частинами, не вважаючи себе кредиторами. Якщо ваша платформа - або модель, яку ви експлуатуєте - вирішує чи істотно впливає на те, чи запропонують клієнтові кредит, це додаток III пункт 5(b), названий випадок високого ризику. Він профілює осіб, тож стаття 6(3) зачинена.

Там, де постачальником є третя сторона на кшталт Klarna, кредитне рішення зазвичай їхнє, а ви - суб'єкт впровадження. Там, де ви самі скорите клієнтів, перш ніж передати їх далі, придивіться уважно: "істотно впливає на рішення" зараховується як вирішує.

Справжній ризик - у фізичному магазині

Виявлення емоцій персоналу заборонене, а не врегульоване. Стаття 5 прямо забороняє висновування емоцій на робочому місці. Пакети ритейл-аналітики іноді містять скоринг "залученості персоналу" чи "якості обслуговування" з камер - саме цю функцію треба вимкнути сьогодні.

Визначення демографії з камер - оцінка віку, статі чи етнічності покупця - є біометричною категоризацією за додатком III пункт 1, а там, де воно торкається чутливих чи захищених ознак, може бути недозволеним узагалі. Вендори продають це як "аналітику аудиторії"; назва класифікації не змінює.

Підрахунок відвідувачів без ідентифікації зазвичай нормальний. Рахувати тіла - не те саме, що ідентифікувати людей.

Що винен кожен рітейлер сьогодні

• Одне речення у привітанні асистента покупок про те, що це ШІ
• Видиме позначення згенерованих ШІ зображень товарів і перевірка, чи переживають метадані походження ваш CDN-конвеєр
• Запротокольоване навчання з обізнаності за статтею 4 для мерчандайзингу, підтримки клієнтів і персоналу магазинів
• Аудит будь-якої аналітики з камер у магазині на предмет висновування емоцій чи демографії
• Датована нотатка про те, які системи ви оцінили і з яким висновком

Акт про ШІ тут лягає поверх DSA, GDPR і споживчого права, а не замінює їх. Рекомендаційна система може мати мінімальний ризик за Актом про ШІ і все одно нести обов'язки прозорості за DSA, якщо ви велика платформа. Звіти Reglynn позначають ці перетини, а не трактують кожен режим як окремий проєкт.

Поширені запитання

Чи є рекомендаційні системи товарів високим ризиком за Актом про ШІ?

Ні. Рекомендаційні системи, ранжування пошуку і персоналізація не є сферою з додатка III і зазвичай мають мінімальний ризик за Актом про ШІ. Вашими справжніми обмеженнями там є GDPR і, для великих платформ, Акт про цифрові послуги.

Чи є ШІ для оплати частинами високим ризиком?

Так, там, де ви вирішуєте або істотно впливаєте на те, чи буде запропоновано кредит. Це додаток III пункт 5(b), кредитоспроможність, і він профілює осіб, тож виняток зі статті 6(3) закритий. Там, де кредитне рішення ухвалює сторонній постачальник, ви зазвичай є суб'єктом впровадження, а не постачальником.

Чи регулює Акт про ШІ динамічне ціноутворення?

Ціноутворення товару не є оцінюванням особи, тож динамічне ціноутворення на рівні товару зазвичай має мінімальний ризик за регламентом. Персоналізоване ціноутворення на основі профілювання особи порушує окремі питання за GDPR і споживчим правом.

Чи можемо ми використовувати розпізнавання облич або визначення віку в наших магазинах?

Дистанційна біометрична ідентифікація і біометрична категоризація за чутливими чи захищеними ознаками є використаннями високого ризику за додатком III пункт 1, і то лише тією мірою, якою вони взагалі дозволені чинним правом. Визначення віку, статі чи етнічності покупця з відеопотоку є біометричною категоризацією, хоч би як це продавали під назвою аналітики аудиторії.

Чи дозволене виявлення емоцій персоналу магазину?

Ні. Стаття 5 прямо забороняє висновування емоцій на робочому місці. Пакети ритейл-аналітики іноді містять скоринг залученості персоналу чи якості обслуговування з відеопотоків - це заборонена практика, а не ризик, який можна задокументувати.