Steeds meer nemen Autonome systemen de overhand in onze samenleving, Fysieke robots (zelfrijdende auto’s, grasmaaiers en stofzuigers), geavanceerde algoritmen, machine learning en kunstmatige intelligentie (AI). Naarmate deze autonome systemen meer mogelijkheden krijgen, vertrouwen we erop dat ze de juiste beslissingen nemen, steeds vaker zonder onze tussenkomst.
Maar autonome machines zijn geen mensen. Ze missen iets fundamenteels ze zijn niet van vlees en bloed en hebben geen geweten. Als mensen besluiten nemen, menen we dat ons geweten onze besluitvorming beïnvloedt. We zorgen ervoor dat onze beslissingen mensenrechten respecteren, regels naleven, risico’s vermijden en meer nuances die onze beslissing ondersteunen.
Wanneer een autonome machine namens ons een beslissing neemt, kan deze niet beoordelen of die beslissing ethisch goed of slecht is. Wat onbedoelde gevolgen kan hebben en zorgen voor misverstanden.
SyRI was een autonome systeem van het ministerie van Sociale Zaken waarin persoonsgegevens van Nederlandse burgers uit allerlei overheidsdatabases werden samengevoegd, gecombineerd en geanalyseerd met de bedoeling om sociale zekerheids-, arbeids- en belastingfraude tegen te gaan.
Het gebruik van SyRI zou tot risicomeldingen leiden, namelijk profielen van burgers en ‘verwonderadressen’ met een verhoogd risico op fraude. Verwonderadressen slaat op een loket van het UWV waar medewerkers adressen waarbij ze aan de correctheid twijfelen kunnen melden. Burgers met een verhoogd risico op fraude werden in een register opgenomen en konden vervolgens worden onderworpen aan strafrechtelijke en bestuurlijke onderzoeken en sancties.
Er kunnen een aantal verschillende dingen achter de vertekening zitten: de brongegevens en de gebruikte methoden. Elke vertekening in de gegevens die worden gebruikt om de algoritmen te trainen, wordt versterkt in de besluitvorming van de machine. “Bagger in – bagger uit”, zouden we zeggen. Maar mensen selecteren de gegevens; machines kunnen niet beoordelen of die gegevens tot een vertekend resultaat zullen leiden.
Ontwerpen zullen nooit helemaal ethisch neutraal zijn. De ontwikkelde methoden omvatten namelijk vooringenomenheden, die wordt onthuld in de resultaten van de autonome machine.
Ethiek klimt op de agenda door discussies over autonome systemen en ethiek. In een zakelijke context spelen ethische vragen een steeds strategischer rol in het bestuur en het samenspel van sociale en duurzame verantwoordelijkheden. Maar al te vaak richten vragen zich op privacy.
Digitale ethiek en privacy worden inmiddels gezien als een strategische trend. Door over te schakelen van privacy naar ethiek gaat het gesprek verder dan zijn we compliant in de richting van doen we het goed. Deze heroriëntatie kan een potentieel onbedoeld gevolg hebben voor autonome systemen: veranderingen op lange termijn in menselijk gedrag.
De ethische uitdaging is veel breder dan privacy. Het gaat erom dat wij, als mensen, de eindverantwoordelijkheid nemen voor de resultaten van de beslissingen die door onze autonome systemen worden genomen. Het gaat erom dat we ons niet verschuilen achter de technologie.