8.1 Waarschijnlijkheidstheorie
data
Houd in het achterhoofd dat AI in de kern een statistisch model is (maar dan eentje met heel dikke spierballen). Zo’n model is nooit 100% perfect, want het werkt met waarschijnlijkheidstheorie. Een taalmodel baseert zich op een bak data en maakt daar een eigen analyse van door woorden aan elkaar te rijgen. U weet niet of die data up-to-date is. Het model is dus meestal ook niet geschikt als zoekmachine.
Blijf AI altijd zien als handig hulpmiddel of superstagiair, en niet als een magische toverdoos. Neem daarnaast altijd de privacyregels in acht en houd de nieuwe Europese AI-regels uit de ‘AI Act’ in de gaten (zie paragraaf 8.9).
Aandachtspunten
hallucinaties
lock-in
uitbesteden
Kort gezegd zijn er drie categorieën aandachtspunten bij de toepassing van AI, waar uw organisatie een oplossing voor moet vinden, of een standpunt over moet innemen:
- Beperkingen, zoals: het AI-model moet het doen met de data waarmee het getraind is, antwoorden stroken niet altijd met de werkelijkheid, het model kan een eigen leven gaan leiden (‘hallucinaties’), toepassingen zitten niet ingebakken in de software waar werknemers mee werken.
- Risico’s, zoals: uw data kunnen gebruikt worden om het model te hertrainen, uw organisatie zit vast aan een externe leverancier die ook alle expertise over de toepassing in huis heeft, en zomaar overstappen kan niet (‘lock-in’).
- Ethische dilemma’s, zoals: mogelijk zijn de modellen getraind op materiaal van rechthebbenden, zoals schrijvers en fotografen. Wilt u daaraan meewerken? En hoever wil uw organisatie gaan bij het uitbesteden van taken aan AI?
Dit hoofdstuk beschrijft de belangrijkste risico’s en beperkingen van AI, en hoe daarmee om te gaan. Daarbij zijn de taalmodellen van generatieve AI als voorbeeld genomen, omdat die het vaakst gebruikt worden in organisaties.