Bij AI lijken we er een op eigen risico methodiek op na te houden.
Een gebrek aan verantwoording bij AI kan leiden tot boetes, merkschade en verloren klanten, dit alles kan worden voorkomen door due diligence uit te voeren en te voldoen aan een aantal simpele principes.
De risico’s van het verkeerd gebruik van AI zijn reëel en helaas vallen ze niet altijd rechtstreeks onder de controle van organisaties, overheden en onderneming.
“Risicobeoordeling van alle AI-bronnen wordt bemoeilijkt door een uitgebreide toeleveringsketen van componenten met mogelijk effecten op de output van het AI-systeem”.
De meeste organisaties, overheden en ondernemingen werken samen met andere partijen in AI-systemen meestal omdat de nodige technologie en vaardigheden niet in huis zijn.
Er kunnen zich problemen voordoen met verschillende toeleveranciers van onderdelen in de AI keten. En omdat we in de keten ook nog taalbarrieres tegen komen kunnen we soms niet volledig begrijpen waar dingen voor zijn of waar ze vandaan komen. Verkeerd gelabelde gegevens of onvolledige gegevens kunnen leiden tot schadelijke fouten, vooroordelen, privacy geschillen en zelfs veiligheidsproblemen.
Het hoogste risico op een systeemfout met negatieve gevolgen lijkt dan niet ver weg. Zeker als we AI gaan gebruiken voor medische diagnoses, strafrechtelijke veroordelingen en kredietbepaling, begeven we ons in gebieden waar een fout in AI ernstige gevolgen kan hebben.
Dit wil niet zeggen dat we geen AI moeten gebruiken voor deze doeleinden, we moeten gewoon heel voorzichtig zijn. Begrijpen en kunnen uitleggen hoe de AI-systemen gebouwd zijn en waar de kwetsbaarheden liggen. Want de complexiteit van AI-systemen is kwetsbaar voor fouten en net zo vatbaar voor vooroordelen als de gemiddelde inwoners van ons land.
Daarbij is er ook het risico dat AI-systemen worden gebruikt voor andere doelen dan waar ze ooit voor gebouwd zijn. Waardoor doelen veranderen en een simpel algoritme ineens een wapen kan in de strijd kan zijn.