Kategorie ryzyka w AI Act bez tajemnic.

AI Act nie reguluje „AI” jako jednej rzeczy. Dzieli systemy AI na cztery kategorie według ryzyka, jakie dla ludzi niesie ich zastosowanie, a kategoria decyduje, co musisz zrobić i do kiedy. Większość produktów trafia do dwóch najniższych. Cała praca polega na tym, żeby wiedzieć, która dotyczy Ciebie, i umieć to uzasadnić.

Kategoria wynika z zastosowania, a nie z technologii. Ten sam model może być minimalnym ryzykiem w filtrze spamu i wysokim ryzykiem, gdy szereguje kandydatów do pracy. Przepuść jeden system przez darmowy test (2 minuty), żeby zobaczyć, gdzie prawdopodobnie się znajduje.

Cztery kategorie w skrócie

Ryzyko niedopuszczalne: zakazane praktyki

Art. 5 wymienia praktyki, które AI Act uznaje za wyraźne zagrożenie dla bezpieczeństwa lub praw podstawowych. Należą do nich scoring społeczny prowadzący do niesprawiedliwego traktowania, rozpoznawanie emocji w miejscu pracy i w edukacji (poza względami medycznymi lub bezpieczeństwa), nieukierunkowane pozyskiwanie wizerunków twarzy do baz rozpoznawania twarzy, manipulacja wykorzystująca słabości ludzi oraz przewidywanie przestępstw wyłącznie na podstawie profilowania. Zakazana jest też, z wąskimi wyjątkami, zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej na potrzeby ścigania przestępstw.

Dla zakazanej praktyki nie ma ścieżki zgodności: żadna dokumentacja nie uczyni jej legalną. Zakazy obowiązują od 2 lutego 2025, a organy mogą nakładać za nie kary od 2 sierpnia 2026. Jeśli funkcja zbliża się do którejś z tych praktyk, warto przed wdrożeniem zlecić jej ocenę wykwalifikowanemu doradcy.

Wysokie ryzyko: dozwolone, ale z najcięższymi obowiązkami

System jest systemem wysokiego ryzyka na jeden z dwóch sposobów. Albo jest używany w jednym z ośmiu obszarów wymienionych w załączniku III, takich jak rekrutacja i zarządzanie pracownikami, zdolność kredytowa, edukacja, dostęp do podstawowych usług, biometria czy infrastruktura krytyczna. Albo jest elementem bezpieczeństwa produktu objętego już unijnym prawem produktowym, np. maszyn lub wyrobów medycznych (załącznik I).

Większość pracy spada na dostawców systemów wysokiego ryzyka: system zarządzania ryzykiem, zarządzanie danymi, dokumentacja techniczna, rejestrowanie zdarzeń, nadzór człowieka, dokładność i cyberbezpieczeństwo, system zarządzania jakością, ocena zgodności, oznakowanie CE i rejestracja w unijnej bazie danych. Podmioty stosujące mają własne, lżejsze obowiązki, np. używanie systemu zgodnie z instrukcją i zapewnienie nadzoru człowieka.

Po omnibusie z czerwca 2026 te obowiązki stosuje się od 2 grudnia 2027 dla systemów z załącznika III i od sierpnia 2028 dla produktów z załącznika I. Odroczone nie znaczy odległe: prace nad zgodnością realnie zajmują od 12 do 18 miesięcy.

Ograniczone ryzyko: informuj, gdy działa AI

Art. 50 obejmuje AI, które wchodzi w interakcję z ludźmi lub generuje treści. Obowiązki dotyczą przejrzystości, a nie budowy systemu:

• Chatboty i asystenci głosowi muszą informować ludzi, że mają do czynienia z AI, chyba że jest to oczywiste. Obowiązuje to od 2 sierpnia 2026.
• Dostawcy systemów generatywnych muszą oznaczać syntetyczny tekst, obrazy, dźwięk i wideo w formacie do odczytu maszynowego, od 2 grudnia 2026.
• Podmioty stosujące muszą ujawniać deepfake'i oraz tekst wygenerowany przez AI publikowany w celu informowania opinii publicznej o sprawach interesu publicznego, chyba że sprawdził go człowiek, który ponosi odpowiedzialność redakcyjną.

W przypadku większości chatbotów to jedno zdanie w powitaniu. Przewodnik po art. 50 omawia treść i umiejscowienie komunikatu, a ten przewodnik wyjaśnia, kiedy chatbot to coś więcej niż ograniczone ryzyko.

Minimalne ryzyko: kompetencje w zakresie AI i niewiele więcej

Tu mieszczą się filtry spamu, rekomendacje produktów, wyszukiwarki i większość narzędzi wewnętrznych. AI Act nie nakłada obowiązków właściwych dla tej kategorii. Jeden obowiązek dotyczy jednak każdej kategorii: zgodnie z art. 4 dostawcy i podmioty stosujące muszą podjąć środki, by osoby tworzące system lub z niego korzystające miały wystarczające kompetencje w zakresie AI. Obowiązuje to od 2 lutego 2025. Inne przepisy, np. RODO, stosuje się jak zwykle.

Jak ustala się kategorię

Cztery pytania, zadane w tej kolejności, rozstrzygają większość przypadków.

1. Jaka jest Twoja rola? Dostawcy, którzy tworzą system albo wprowadzają go na rynek pod własną nazwą, mają większość obowiązków. Podmioty stosujące, które używają systemu we własnym zakresie, mają ich mniej. Dostawca czy podmiot stosujący?
2. Do czego służy system? O kategorii decyduje przeznaczenie, a nie model czy dostawca technologii. Najpierw porównaj je z zakazami z art. 5: jeśli praktyka jest zakazana, reszta nie ma znaczenia.
3. Czy to zastosowanie jest wymienione w załączniku III albo czy AI jest elementem bezpieczeństwa produktu regulowanego? Jeśli ani jedno, ani drugie, system nie jest systemem wysokiego ryzyka.
4. Czy ma zastosowanie wyłączenie z art. 6(3)? System z załącznika III nie jest systemem wysokiego ryzyka, jeśli wykonuje jedynie wąskie zadanie proceduralne lub przygotowawcze, poprawia wynik pracy wykonanej już przez człowieka albo wykrywa wzorce w decyzjach, nie zastępując oceny człowieka, i przy tym nie profiluje osób. Dostawca, który powołuje się na wyłączenie, musi tę ocenę udokumentować. Jak działa wyłączenie.

Następnie osobno sprawdź art. 50. Jego obowiązki przejrzystości stosuje się niezależnie od kategorii, więc chatbot rekrutacyjny może być systemem wysokiego ryzyka i nadal musi informować, że jest AI.

Modele AI ogólnego przeznaczenia: osobna ścieżka

Modele AI ogólnego przeznaczenia, czyli duże modele, na których opiera się większość produktów AI, są regulowane niezależnie od czterech kategorii. Ich dostawcy mają obowiązki z art. 53, w tym dokumentację techniczną, informacje dla firm budujących na modelu, politykę dotyczącą praw autorskich i streszczenie danych treningowych. Obowiązują one od 2 sierpnia 2025.

Jeśli korzystasz z modelu przez API albo budujesz na nim za pomocą promptów i wyszukiwania w danych, bardzo prawdopodobne, że nie jesteś jego dostawcą. Twój własny produkt klasyfikuje się w czterech kategoriach jak każdy inny system AI. Sytuacja może się zmienić przy istotnej modyfikacji modelu.

Co grozi za błędną ocenę

Wysokość kary zależy od tego, który obowiązek naruszono. Zgodnie z art. 99 za zakazane praktyki grozi do 35 mln € lub 7% całkowitego rocznego światowego obrotu; za większość pozostałych obowiązków, w tym art. 50 i obowiązki wysokiego ryzyka, do 15 mln € lub 3%; za przekazanie organom nieprawidłowych lub wprowadzających w błąd informacji do 7,5 mln € lub 1%. Dla dużych firm górną granicą jest wyższa z tych kwot, dla MŚP i start-upów niższa (art. 99(6)).

To górne granice, a nie taryfikator: organy biorą pod uwagę wagę naruszenia, to, czy było umyślne czy wynikało z zaniedbania, oraz działania podjęte w celu ograniczenia szkód. Datowana, udokumentowana samoocena to prawdopodobnie lepsza pozycja niż brak jakiejkolwiek analizy. Przewodnik po karach pokazuje to na konkretnych liczbach.

Najczęściej zadawane pytania

Ile kategorii ryzyka przewiduje AI Act?

Cztery dla systemów AI: niedopuszczalne (zakazane), wysokie, ograniczone i minimalne. Modele AI ogólnego przeznaczenia podlegają osobnej ścieżce z art. 53, obok kategorii, a nie w ich ramach.

Kto decyduje, w jakiej kategorii jest mój system AI?

W większości przypadków Ty. Nie ma uprzedniej zgody: dostawcy sami klasyfikują swoje systemy, a wiele systemów wysokiego ryzyka również przechodzi samoocenę, tylko niektóre wymagają jednostki notyfikowanej. Organy nadzoru rynku mogą później sprawdzić klasyfikację, więc warto spisać swoje uzasadnienie.

Czy jeden system AI może należeć do więcej niż jednej kategorii?

Tak. Obowiązki przejrzystości z art. 50 nakładają się na kategorie, więc narzędzie rekrutacyjne wysokiego ryzyka z interfejsem chatbota prawdopodobnie podlega zarówno obowiązkom wysokiego ryzyka, jak i obowiązkowi informowania o chatbocie. Różne funkcje jednego produktu mogą też trafić do różnych kategorii.

Czy chatbot obsługi klienta to system wysokiego ryzyka?

Zwykle nie. Chatbot odpowiadający na pytania klientów to zazwyczaj ograniczone ryzyko: musi poinformować ludzi, że rozmawiają z AI. Może stać się systemem wysokiego ryzyka, jeśli służy celowi z załącznika III, na przykład selekcji kandydatów do pracy albo decyzjom o dostępie do podstawowych usług.

Czy minimalne ryzyko oznacza brak jakichkolwiek obowiązków?

Niezupełnie. Kompetencje w zakresie AI z art. 4 obowiązują niezależnie od kategorii, od 2 lutego 2025. Inne przepisy, takie jak RODO czy prawo ochrony konsumentów, stosuje się jak zwykle.

Od kiedy obowiązują obowiązki wysokiego ryzyka?

Od 2 grudnia 2027 dla systemów z załącznika III i od sierpnia 2028 dla AI w produktach regulowanych (załącznik I), po tym jak omnibus z czerwca 2026 je odroczył. Zakazy z art. 5 i obowiązki przejrzystości z art. 50 nie zostały odroczone.