Zelfscancontroles Jumbo: kans op toezicht en op mislukking
Door: Gé Lommen · leestijd 1 minuut NieuwsJumbo moet er rekening mee houden dat het nog kritiek kan krijgen op de eerder aangekondigde plannen om diefstal bij zelfscankassa’s te bestrijden. Sterker nog, die kritiek is er al.
Enkele weken terug meldde Jumbo dat het o.a. camera’s en software ging inzetten om zogeheten ‘afwijkend gedrag’ van klanten te herkennen. Zoals bewegingen die op diefstal kunnen duiden, of wanneer een klant zich lang op één plek in een Jumbo ophoudt of wanneer iemand onlogisch lang in een Jumbo is. Het gaat daarbij om ‘handelingen’ en niet om ‘mensen’, aldus een woordvoerder van Jumbo in een bericht in Het Financieele Dagblad deze week. Het gaat daarbij om een ‘pilot’ van drie maanden.
Maar een expert op het gebied van kunstmatige intelligentie is sceptisch. Professor Cees Snoek, ‘AI-expert’ aan de Universiteit van Amsterdam, zegt in een reactie dat hij ‘erg benieuwd is’ naar wat er uit de proef gaat komen waar Jumbo mee begint. En: “Als ik eerlijk ben, denk ik niet dat het gaat lukken.” Want hij denkt dat de technologie nog niet zo ver is. Ooit zal dat wél zo zijn, maar dat zal volgens hem nog wel even duren.
Snoek haalt een test aan van jaren geleden bij Schiphol: een systeem met kunstmatige intelligentie zou bijvoorbeeld zakkenrollers, flauwvallende mensen of achtergelaten koffers eruit kunnen halen. Het resultaat was: veel valse meldingen. Zo veel dat je het systeem niet kunt vertrouwen, aldus Snoek. “Het is dan moeilijk voor mensen om te bevatten dat iets ogenschijnlijk simpels, zoals het stelen in een supermarkt, voor AI bijna niet te onderscheiden is. (…) Misschien geeft Jumbo hier veel aandacht aan om mensen te laten denken dat de AI het al kan, als een soort waarschuwing. Ook al werkt de technologie nog niet.”
Ook ‘privacy-organisatie’ Bits for Freedom voorziet problemen bij de aanpak van Jumbo. Nadia Benaissa van Bits for Freedom wijst erop dat heel veel gedrag als afwijkend kan worden beschouwd, zoals onlogisch lang in een supermarkt zijn. “Maar dat kan komen doordat je een beperking hebt, of met je kinderen aan het winkelen bent.” Benaissa wijst er verder op dat in april de EU over een verordening over kunstmatige intelligentie stemt. En wat Jumbo gaat doen, valt in een categorie met zogezegd ‘hoog risico’. “Dan gaan er heel veel regels gelden”, aldus Benaissa. “Denk aan intern en extern toezicht, een ‘impact-assessment’ voor mensenrechten en transparantie-eisen.”
