Is mijn chatbot hoog risico?

Kort antwoord: vrijwel zeker geen hoog risico - maar je hebt verplichtingen die nu al handhaafbaar zijn, en dat is niet het antwoord dat de meeste chatbotbouwers verwachten en niet het antwoord dat ze in juni kregen.

De verwarring is begrijpelijk. "Hoog risico" klinkt als een beschrijving van hoeveel schade iets kan aanrichten, dus een chatbot met toegang tot klantgegevens voelt alsof die zou moeten kwalificeren. Zo'n soort term is het niet. Hoog risico is een gedefinieerde indeling met een specifieke lijst eraan vast, en de meeste chatbots vallen daarbuiten terwijl ze vol in een ander pakket verplichtingen landen waar niemand over berichtte.

Wanneer een chatbot wel hoog risico is

Jouw chatbot is alleen hoog risico als hij binnen bijlage III valt. Voor conversationele systemen betekent dat realistisch een van deze:

Let op wat ze gemeen hebben. Elk ervan neemt of beïnvloedt wezenlijk een beslissing over een specifieke persoon die diens toegang tot werk, geld, onderwijs, vrijheid of verblijf raakt. Dat is de werkelijke test die achter de lijst schuilgaat.

Een supportchatbot die vragen over je product beantwoordt doet daar niets van. Een saleschatbot die leads kwalificeert evenmin - een bedrijf kwalificeren is geen beslissing over een persoon. Een interne chatbot die je documentatie doorzoekt ook niet.

En zelfs dan: controleer artikel 6(3)

Binnen een gebied uit bijlage III zitten maakt een systeem niet automatisch hoog risico. Artikel 6(3) voorziet in een uitzondering wanneer het systeem een eng afgebakende procedurele taak uitvoert, het resultaat van een eerder afgeronde menselijke activiteit verbetert, beslissingspatronen detecteert zonder de menselijke beoordeling te vervangen, of voorbereidend werk verricht - en geen natuurlijke personen profileert.

Voor chatbots is de profileringsvoorwaarde meestal doorslaggevend, en die is absoluut. Een chatbot die gestructureerde informatie bij kandidaten ophaalt en die ongewijzigd aan een recruiter doorgeeft, doet mogelijk voorbereidend werk. Een chatbot die iets over de persoon afleidt - geschiktheid, sentiment, waarschijnlijke prestaties - profileert, en dan sluit de uitzondering. De volledige 6(3)-test.

Wat je vrijwel zeker wel bent: beperkt risico

De meeste chatbots landen in beperkt risico, waar de hele verplichting transparantie onder artikel 50 is - en dat is het deel dat ertoe doet, want het is handhaafbaar sinds 2 augustus 2026.

50(1) - vertel mensen dat ze met een AI praten

Systemen die bedoeld zijn om rechtstreeks met natuurlijke personen te communiceren, moeten zo zijn ontworpen dat die personen worden geïnformeerd dat ze met een AI-systeem communiceren, tenzij dat in de gegeven omstandigheden vanzelfsprekend is voor een redelijk oplettend persoon.

Drie dingen die mensen fout doen:

• "Vanzelfsprekend" is geen veilige gok. Moderne assistenten zijn overtuigend, ze krijgen menselijke namen en ze openen met menselijk klinkende begroetingen. Heb je de jouwe een voornaam en een foto gegeven, dan heb je actief tegen die vanzelfsprekendheid in gewerkt.
• De privacyverklaring telt niet. De melding moet de persoon bij of vóór de interactie bereiken, niet in een document staan dat hij nooit opent.
• Ze moet de overdracht overleven. Escaleert je bot naar een mens, of neemt een mens stilzwijgend over, dan moet de gebruiker kunnen zien met wie hij spreekt.

50(2) en 50(4) - synthetische content

Genereert je product content, dan gelden er nog twee bepalingen, en het loont om precies te zijn over wie wat verschuldigd is:

• 50(2) verplicht aanbieders van generatieve systemen om synthetische output in een machineleesbaar formaat te markeren als kunstmatig gegenereerd. Die plicht ligt bij de aanbieder van het generatieve systeem. Roep je het model van iemand anders via een API aan, dan is dit die van hen, niet die van jou.
• 50(4) geldt voor gebruiksverantwoordelijken. Deepfakes - beeld, audio of video die echte personen, plaatsen of gebeurtenissen nabootst - moeten worden gemeld. Door AI gegenereerde tekst die wordt gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang moet eveneens worden gemeld, tenzij die menselijk is nagekeken en een natuurlijke of rechtspersoon redactionele verantwoordelijkheid draagt voor de publicatie ervan.

Die uitzondering is voor de meeste bedrijven de praktische. Leest een persoon wat je publiceert voordat het naar buiten gaat en neemt die er de verantwoordelijkheid voor, dan geldt de meldplicht niet. Publiceer je ongecontroleerde gegenereerde tekst, dan wel.

Artikel 4 - AI-geletterdheid, die voor iedereen geldt

Aanbieders en gebruiksverantwoordelijken moeten zorgen voor een voldoende niveau van AI-geletterdheid bij het personeel dat met het systeem werkt, rekening houdend met hun technische kennis en de gebruikscontext. Handhaafbaar sinds 2 augustus 2026.

Voor een klein team is dit echt een halve dag: wat het systeem doet, waar het faalt, hoe je een slechte output herkent, naar wie je escaleert. Notuleer het en bewaar de presentielijst. Het verslag is de naleving - er is niets in te dienen en niemand te informeren, maar als het je wordt gevraagd, is "we hebben dit op deze datum gedaan en dit zijn de aanwezigen" het hele antwoord.

En de gegevens die de chatbot ziet dan?

Een veelvoorkomende knoop. Verwerkt je chatbot persoonsgegevens, dan is dat de AVG, niet de AI-verordening. De twee overlappen maar stellen verschillende vragen: de AVG vraagt of je deze gegevens mag verwerken en op welke grondslag; de AI-verordening vraagt wat voor systeem dit is en welke verplichtingen eraan hangen.

Het beantwoorden van de een beantwoordt de ander niet. "We voldoen aan de AVG, dus het zit goed" is een van de meest voorkomende misvattingen in dit veld, en hij klopt in beide richtingen niet - een analyse van de grondslag zegt niets over artikel 50, en een indeling onder de AI-verordening zegt niets over je grondslag.

Vijf minuten, en je weet waar je staat

1. Neemt of beïnvloedt je chatbot wezenlijk een beslissing over een specifieke persoon op het gebied van werkgelegenheid, onderwijs, krediet, essentiële diensten, rechtshandhaving, migratie of rechtspraak? Nee → geen hoog risico.
2. Zo ja, profileert hij personen? Nee, en de taak is eng afgebakend of voorbereidend → mogelijk uitgezonderd onder 6(3), maar documenteer het.
3. Krijgt de gebruiker te horen dat het een AI is, bij het eerste contact, zichtbaar? Nee → los dit deze week op. Lopende verplichting.
4. Genereert hij content die je zonder controle publiceert? Ja → label het, of voer controle in en draag de redactionele verantwoordelijkheid.
5. Heb je een sessie over AI-geletterdheid gehouden en vastgelegd? Nee → een halve dag, notuleer het.

De meeste bedrijven die deze lijst doorlopen ontdekken dat ze beperkt risico zijn met één echte lacune: de melding. Het kost een middag, het is handhaafbaar sinds augustus, en het is het meest voorkomende dat blijft liggen.