AI in de fout bij herkennen telefoon achter het stuur

Sinds een paar jaar wordt er stevig gehandhaafd op het gebruik van mobiele apparatuur tijdens het rijden. Onder andere met een cameratechniek die kan detecteren of een weggebruiker achter het stuur met een smartphone in de weer is. Dat gaat niet áltijd goed.

De relatief nieuwe cameratechniek die telefoongebruik tijdens het autorijden kan spotten (tool), werkt meestal goed. Toch laat een recent incident zien dat er ook nog kinderziektes zijn. Een weggebruiker vond een gepeperde prent van € 380 op de mat, met daarbij de mededeling dat hij achter het stuur van zijn auto had gebeld en een boete dus op zijn plaats was. De man – zelf softwareontwikkelaar en goed ingevoerd in de materie – vroeg de betreffende foto op. Hij kwam al snel tot de conclusie dat hij precies op het moment dat hij langs de camera reed aan de zijkant van zijn oor krabde. Geen telefoon in zicht, slechts wat donkere pixels tussen zijn hand en zijn oor. Maar de algoritmes van artificial intelligence (AI) werken op basis van context en waarschijnlijkheid, en aangezien een hand aan het oor in de meeste gevallen telefoongebruik betekent, bestempelde het programma het handgebaar dus onterecht als een verkeersovertreding.

Controle door ambtenaar

Saillant aan deze kwestie: nadat AI zijn oordeel heeft geveld, gaat een foto nog ter beoordeling en controle naar een mens van vlees en bloed. En die ambtenaar merkte de fout dus niet op. Volgens de softwareontwikkelaar die de bon kreeg, zou dit kunnen komen omdat controleurs dagelijks veel foto’s moeten beoordelen én het AI-programma hen al in een bepaalde richting stuurt. Dit zou mogelijk voorkomen kunnen worden als AI slechts het neutrale feit meldt (‘hand aan oor’) in plaats van de conclusie (‘telefoongebruik tijdens rijden’). Het zijn allemaal overwegingen die organisaties bij het toepassen van AI in hun bedrijfsprocessen (artikel) kunnen meenemen, waardoor risico’s verkleind worden en zorgen weggenomen.