8.9 Wet- en regelgeving

privacyregels

De ontwikkelingen rond AI gaan razendsnel, en dat betekent bijna automatisch dat de wet- en regelgeving ‘achter de fanfare aanloopt’. Niettemin werken overheden aan specifieke regelgeving voor AI. Daarnaast zijn de privacyregels van de AVG natuurlijk wel gewoon van toepassing.

8.9.1 AI Act

verantwoord gebruik

De Europese Unie (EU) loopt voorop met regelgeving. Eind 2023 is er een politiek akkoord bereikt over een verordening, de AI Act. Deze regels moeten zorgen voor een verantwoord gebruik van AI binnen de EU. Zo komen er specifieke richtlijnen voor AI-specialisten: zij moeten zorgen dat zij op een transparante en verantwoorde manier modellen bouwen.

Impact

verboden

De AI Act maakt onderscheid naar de impact van de AI-toepassing. Hoe meer impact, hoe strenger de regelgeving is. De AI-toepassingen die volgens de EU een te grote bedreiging vormen voor fundamentele rechten, worden helemaal verboden. Een voorbeeld is het in een bulk verzamelen van gezichtsfoto’s van het internet voor het opzetten van een database voor gezichtsherkenning.

Risicomanagement

gevolgen

cyberveiligheid

Ook zijn er strenge regels voor AI-toepassingen met een ‘hoog risico’. Daarbij gaat het om toepassingen waarbij een verkeerde AI-beslissing grote gevolgen kan hebben, zoals bij medische toepassingen. Voor deze categorie geldt straks een hele trits voorschriften, bijvoorbeeld op het gebied van risicomanagement en cyberveiligheid. Voor AI-toepassingen die in de categorie ‘beperkt risico’ vallen, zoals AI-chatbots van webshops, gelden vrij soepele regels. Die komen er vooral op neer dat de toepassingen transparant moeten zijn over dát er AI gebruikt wordt.

Uitvoering

definitie

Wel zijn er nog vragen over de uitvoering van de AI Act in de toekomst. Zoals: wat is de definitie van AI en hoe weten organisaties of hun AI-toepassingen onder de verordening gaan vallen? Het kan ook zo zijn dat makers zeggen dat ze niet bezig zijn met AI, om zo onder de regels uit te komen. De verordening lijkt in elk geval een hoop administratie met zich mee te brengen.

8.9.2 Voorsorteren op wetgeving

Wanneer de regels van de AI Act precies ingaan, is op dit moment nog niet duidelijk. De verwachting is dat het op z’n vroegst met ingang van 2025 zal zijn. Wel kan uw organisatie inspelen op de komende wetgeving door de AI-toepassingen die u gebruikt, alvast tegen het licht te houden. Is de leverancier bezig met aanpassingen of kunt u het contract opzeggen als de toepassing straks niet aan de AI Act blijkt te voldoen?

8.9.3 Aansprakelijkheid

schade

Op het vlak van aansprakelijkheid loopt de wetgeving overigens nog wel achter. Want wie is er verantwoordelijk voor het niet goed functioneren van de AI-toepassing of als er schade ontstaat door de AI-toepassing? Is dat de ontwikkelaar van de toepassing of de gebruiker? Een belangrijk vraagstuk, maar hier is op het moment van schrijven nog geen wetgeving op gemaakt. Wel lopen er diverse rechtszaken over deze vragen, waarbij AI-ondernemingen beschuldigd worden van het stelen van data om hun model te trainen.