De AI-verordening voor online retail.

Het meeste wat e-commerce met AI doet, is minimaal of beperkt risico. Aanbevelingssystemen, zoekrangschikking, vraagvoorspelling, dynamische prijzen op producten - geen daarvan wordt genoemd in bijlage III. De blootstelling zit op drie smallere plekken, en twee daarvan liggen in fysieke winkels in plaats van online.

Waar online retail werkelijk landt

De ene vraag die een e-commercesysteem van minimaal naar hoog risico verplaatst: wordt er een persoon beoordeeld, of een product? SKU's rangschikken is prima. De kredietwaardigheid van de shopper scoren, of kenmerken afleiden uit zijn gezicht, is dat niet.

De BNPL-valkuil

Veel retailers hebben betalen in termijnen toegevoegd zonder zichzelf als kredietverstrekker te zien. Beslist jouw platform - of een model dat jij draait - of een klant krediet krijgt aangeboden, of beïnvloedt het dat wezenlijk, dan is dat bijlage III, punt 5(b), het met naam genoemde hoogrisicogeval. Het profileert individuele personen, dus artikel 6(3) is afgesloten.

Is de aanbieder een derde partij zoals Klarna, dan is het kredietbesluit meestal van hen en ben jij gebruiksverantwoordelijke. Score je klanten zelf voordat je ze doorgeeft, kijk dan zorgvuldig - "beïnvloedt de beslissing wezenlijk" telt als beslissen.

In de winkel zit het echte risico

Emotiedetectie bij personeel is verboden, niet gereguleerd. Artikel 5 verbiedt het afleiden van emoties op de werkplek ronduit. Analysepakketten voor retail bundelen soms scoring van "betrokkenheid van medewerkers" of "servicekwaliteit" uit camerabeelden - dat is de functie die je vandaag uitzet.

Demografische kenmerken afleiden uit camera's - de leeftijd, het geslacht of de etniciteit van een shopper schatten - is biometrische categorisering onder bijlage III, punt 1, en waar het gevoelige of beschermde kenmerken raakt, is het mogelijk helemaal niet toegestaan. Leveranciers verkopen dit als "audience analytics"; dat etiket verandert de indeling niet.

Bezoekers tellen zonder identificatie is over het algemeen prima. Lichamen tellen is geen mensen identificeren.

Wat elke retailer vandaag al moet leveren

• Eén zin in de begroeting van de winkelassistent die zegt dat het een AI is
• Zichtbare labeling van door AI gegenereerde productbeelden, en een controle of herkomstmetadata je CDN-pijplijn overleven
• Een sessie over AI-geletterdheid uit artikel 4 voor personeel in merchandising, CX en winkeloperatie, genotuleerd
• Een audit van elke camera-analyse in de winkel op het afleiden van emoties of demografische kenmerken
• Een gedateerde notitie van welke systemen je hebt beoordeeld en wat je concludeerde

De AI-verordening landt hier bovenop de DSA, de AVG en het consumentenrecht in plaats van die te vervangen. Een aanbevelingssysteem kan minimaal risico zijn onder de AI-verordening en toch transparantieplichten dragen onder de DSA als je een groot platform bent. Rapporten van Reglynn markeren de overlappen in plaats van elk regime als een apart project te behandelen.