Ethics by design

Steeds meer nemen Autonome systemen de overhand in onze samenleving, Fysieke robots (zelfrijdende auto’s, grasmaaiers en stofzuigers), geavanceerde algoritmen, machine learning en kunstmatige intelligentie (AI). Naarmate deze autonome systemen meer mogelijkheden krijgen, vertrouwen we erop dat ze de juiste beslissingen nemen, steeds vaker zonder onze tussenkomst.

Maar autonome machines zijn geen mensen. Ze missen iets fundamenteels ze zijn niet van vlees en bloed en hebben geen geweten. Als mensen besluiten nemen, menen we dat ons geweten onze besluitvorming beïnvloedt. We zorgen ervoor dat onze beslissingen mensenrechten respecteren, regels naleven, risico’s vermijden en meer nuances die onze beslissing ondersteunen.

Wanneer een autonome machine namens ons een beslissing neemt, kan deze niet beoordelen of die beslissing ethisch goed of slecht is. Wat onbedoelde gevolgen kan hebben en zorgen voor misverstanden.

SyRI was een autonome systeem van het ministerie van Sociale Zaken waarin persoonsgegevens van Nederlandse burgers uit allerlei overheidsdatabases werden samengevoegd, gecombineerd en geanalyseerd met de bedoeling om sociale zekerheids-, arbeids- en belastingfraude tegen te gaan.

Het gebruik van SyRI zou tot risicomeldingen leiden, namelijk profielen van burgers en ‘verwonderadressen’ met een verhoogd risico op fraude. Verwonderadressen slaat op een loket van het UWV waar medewerkers adressen waarbij ze aan de correctheid twijfelen kunnen melden. Burgers met een verhoogd risico op fraude werden in een register opgenomen en konden vervolgens worden onderworpen aan strafrechtelijke en bestuurlijke onderzoeken en sancties.

Er kunnen een aantal verschillende dingen achter de vertekening zitten: de brongegevens en de gebruikte methoden. Elke vertekening in de gegevens die worden gebruikt om de algoritmen te trainen, wordt versterkt in de besluitvorming van de machine. “Bagger in – bagger uit”, zouden we zeggen. Maar mensen selecteren de gegevens; machines kunnen niet beoordelen of die gegevens tot een vertekend resultaat zullen leiden.

Ontwerpen zullen nooit helemaal ethisch neutraal zijn. De ontwikkelde methoden omvatten namelijk vooringenomenheden, die wordt onthuld in de resultaten van de autonome machine.

Ethiek klimt op de agenda door discussies over autonome systemen en ethiek. In een zakelijke context spelen ethische vragen een steeds strategischer rol in het bestuur en het samenspel van sociale en duurzame verantwoordelijkheden. Maar al te vaak richten vragen zich op privacy.

Digitale ethiek en privacy worden inmiddels gezien als een strategische trend. Door over te schakelen van privacy naar ethiek gaat het gesprek verder dan zijn we compliant in de richting van doen we het goed. Deze heroriëntatie kan een potentieel onbedoeld gevolg hebben voor autonome systemen: veranderingen op lange termijn in menselijk gedrag.

De ethische uitdaging is veel breder dan privacy. Het gaat erom dat wij, als mensen, de eindverantwoordelijkheid nemen voor de resultaten van de beslissingen die door onze autonome systemen worden genomen. Het gaat erom dat we ons niet verschuilen achter de technologie.

Progressieve webapps

De nieuwe standaard webtechnologie met toevoeging van enkele van de nieuwste JavaScript-functies. Dit zijn websites die de look en feel geven van een native Android- of iOS-applicatie met een backend-code van websites.

Progressive Web Apps hebben de deur geopend naar mogelijkheden om rijke ervaringen op het mobiele web te creëren. Dit is mogelijk gemaakt met behulp van gestandaardiseerde functies in JavaScript en webbrowsers.

Het is een platformonafhankelijk applicatieontwikkelingsplatform dat het werk van zowel Android- als iOS-app-ontwikkelaars verlicht. Progressieve ontwikkelaars van webapps proberen te concurreren met de functionaliteiten van native apps.

Bluetooth LE

Voor contacttracing lijkt Bluetooth LE om een ​​aantal redenen interessant doordat dit op elk toestel terug te vinden is. Een van de sleutels hier is het nabijheidsprofiel (PXP) van Bluetooth LE, de kerntechnologie waar Bluetooth op vertrouwt voor het lokaliseren en volgen van apparaten. Door te meten hoeveel stroom wordt ontvangen van een Bluetooth-signaal (de RSSI-waarde), kunnen we schatten hoe ver het is verwijderd.

Er zijn ook vergelijkbare toepassingen van Bluetooth LE-technologie, standalone toepassingen die je kunnen volgen en locatiegebaseerde meldingen kunnen activeren wanneer u in de buurt bent. Hoewel deze meestal worden gebruikt om klanten in winkels te volgen, deals aan te bieden en advertenties te tonen, lijkt de basistechnologie eigenlijk sterk op contacttracing.

Er zijn echter gebreken en oneffenheden: het werkt alleen goed tot een bepaald niveau van precisie. Bluetooth kan u helpen om ruwweg een object te vinden, maar de exacte fysieke locatie is niet iets waar Bluetooth LE-technologie in uitblinkt. Interferentie obstakels en obstakels tussen apparaten, zoals rugzakken, kleding, muren of ramen, zorgen voor een afname van nauwkeurigheid, omdat de signaal sterkte afneemt welke wordt gebruikt om de afstand te meten.

Daarom wordt er ook gekeken naar een andere technologie (Ultra Wideband-radio of UWB) te gebruiken voor het lokaliseren van andere apparaten. Echter het probleem is dat ondanks dat deze technologieën geschikter is, er maar heel weinig mobile telefoons de UWB-radio’s hebben.

Door de beperkingen van Bluetooth LE zullen we anders moeten gaan kijken hoe de techniek in te zetten. Een kortere afstand van elkaar zou de betrouwbaarheid op het gebied van bereik juist goed zijn om ons te helpen bij het waarschuwen voor blootstelling aan het virus. Aangezien het virus niet door muren kan lijkt een kortere afstand gerechtvaardigd.

Bluetooth LE is een oplossing waarbij gebruikers niet in de buurt van besmettingsbron hoeven te komen.

Verzamelen.

Tot voor kort hadden we nog geen contacttracing en nu moeten we worden overtuigd van het nut, om via bluetooth alle contactmomenten te registeren. Via unieke nummers die versleuteld worden opgeslagen op je eigen telefoon. Op zich zouden we als Nederlanders gecharmeerd kunnen zijn van contacttracing. Immers we sparen al jaren lang zegeltjes, speldjes, plaatjes en kilometers en dat kan nu zonder er moeite voor doen.

Maar het gebruik van de app is niet beperkt tot het sparen van uniekenummers omdat door deze unieke nummers weten of je ergens bent geweest en met wie je contact zou kunnen hebben gehad.

En behalve dat we weten dat jij bent langs geweest, weten we het ook van anderen.

Zoals de supers dat weten, als we boodschappen hebben gedaan en wat we hebben gekocht, toen we er waren en met wie. Deze techniek is wat privacy betreft niet helemaal water dicht omdat iedereen de unieke nummers kan uitzenden. Maar gelukkig niet kan uitlezen maar dat kunnen we zelf doen of bedrijven als ze ons maar genoeg redenen geven om onze uniekenummers te delen.

Beren op de weg.

Een bekende hindernis dus ook voor contacttracing is het overtuigen van gebruikers om deel te nemen. Gevoeligheid ligt bij het vertrouwen in beide bedrijven en zorgen over de privacy, gebruikers van contacttracing moeten een app installeren om deel uit te maken van het waarschuwingssysteem. Maar veel gebruikers gebruiken de app mogelijk niet, wat de betrouwbaarheid van het waarschuwingssysteem aantast.

Om effectief te zijn, heeft de app ongeveer 50 tot 70 procent van de bevolking nodig die de app actief gaat gebruiken. Anders zouden besmette mensen niet weten waar ze het virus opliepen en onbewust het virus blijven verspreiden.

Contacttracering.

Contacttracering zes weken geleden hadden we daar maar weinig van gehoord.

Een toepassingen van Bluetooth LE-technologie kennen we nog van iBeacons, de kleine cameraatjes uit de reclame borden. En doorgaans gebruikt om ons in winkels te volgen, of onze reactie op een advertentie te registreren, korting aan te bieden en advertenties te plaatsen, deze technologie lijkt de basistechnologie in feite sterk op het door Apple en Google voorgestelde systeem.

De gebruiker moet er deze keer voor kiezen om de service te gebruiken, zelfs wanneer de tweede fase wordt uitgerold en de techniek een onderdeel van het besturingssysteem is.

De technische oplossing zal een unieke cryptografisch gegenereerde code afgeven en deze uitzenden. De codes bevatten geen identificerende informatie of locatiegegevens.

Elke telefoon bewaart de codes die hij ontvangt gedurende 14 dagen. Wanneer iemand een Covid-19-infectie meldt, worden hun codes geüpload naar een centrale server. Andere telefoons zouden deze lijst periodiek controleren om te zien of ze een van die codes hadden ontvangen, wat aangeeft dat de eigenaar dicht bij een geïnfecteerde persoon is geweest.

COVID19-App Tender overheid

• Slimme digitale oplossing, die kan bijdragen aan bron- en contactopsporing, waarbij stringente eisen worden gesteld aan onder meer snelle beschikbaarheid, privacy en informatiebeveiliging

• Slimme digitale oplossing, die kan bijdragen aan zelfmonitoring en begeleiding op afstand, waarbij stringente eisen worden gesteld aan onder meer snelle beschikbaarheid, privacy en informatiebeveiliging

• Overige digitale oplossing, die kunnen bijdragen aan de transitiestrategie

• Randvoorwaarden waaronder dergelijke digitale oplossing  kan worden ingezet (met betrekking tot techniek, inhoud, werking, implementatie, de privacy en informatieveiligheid).

Overvloed aan data

Is de overvloed aan data een gevaar? Als we algoritmes voor ons laten werken, wordt de wereld dan juist veiliger?

Moeten we wel kiezen voor grootschalig gebruik van data!

Het gevaar dat organisaties, bedrijven en overheden worden gemarginaliseerd is aanwezig. Natuurlijk moeten we oppassen voor verkeerd gebruik van data en algoritmes. Immers Google heeft meer data over ons dan de staat der Nederlanden. 

Moeten we ons daar serieus zorgen over maken of is dit de nieuwe werkelijkheid waarin we leven. Tot voor kort hadden we nog het idee dat we samen dingen konden doen of regelen, en was er nog een beetje vertrouwen in de overheid.

Echter de overheid moet zijn plaats kennen, maar ook zijn rol durven te nemen. 

Waar ongelukken met data gebeuren, moeten we leren van deze fouten. Dat data bevooroordeeld is en gekleurd kan zijn, moeten we ons continu realiseren om algoritmes te kunnen herijken of nieuwe data te creëren.

We zitten nu vast in angst, waarbij de onmogelijkheden zitten in menselijke emoties. Deze horde moeten we zien te nemen zonder invloed op onze data te verliezen.

Data is niet openbaar.

De vraag rijst wat in deze tijden zwaarder weegt – volksgezondheid of het recht op privacy. “Het is levensgevaarlijk om data te laten verzamelen door de overheid”.

Data over personen verzamelen, opslaan en weergeven gaat te ver ook als dat vrijwillig gebeurt. “Wie garandeert dat de overheid er niet op een andere manier gebruik van gaat maken?” 

Schijnanonimiteit?

Data geanonimiseerd of is er sprake van ‘pheudonimisering’. Nu artificiële intelligentie de geanonimiseerde data alsnog kan achterhalen.

“Dat betekent dat er persoonsgegevens worden opgeslagen.”

Vrijwilligheid

Voor het gebruik van data starten met vrijwillige deelname. “Stel een vertrouwenspersoon vraagt mij of hij mijn data mag gebruiken.” Met mijn toestemming mag ik dan gevolgd worden, ook om bijvoorbeeld te controleren wat ik doe en met wie ik om ga, en wie ik onderweg ben tegengekomen.

Dilemma’s

Je privacy is veelal ongemerkt weggegeven om het recht op vrijheid te vergroten.

“Er is dus een dilemma tussen verschillende rechten.”

Als de regelgeving word opgeschort, hoe lang wordt je privacy weggegeven, en wie ziet toe op gebruik en het openstellen van data.

Er is haast geboden ook al is dit geen geldig argument. “Het mag niet zo zijn dat tijd wordt gebruikt om belangrijke rechten op te schorten.”

Zelfs niet als er eenmaal een groot draagvlak is, en het delen van data verplicht gesteld kan worden.

De belangrijkste privacyregels.

  • u om toestemming is gevraagd voor het gebruik van uw persoonsgegevens, vóórdat de data van uw apparaat is gehaald of daarop is geplaatst;
  • u apart om toestemming is gevraagd, voor de verschillende soorten persoonsgegevens die worden gebruikt;
  • duidelijke en begrijpelijke doelen zijn aangegeven waarvoor uw gegevens worden gebruikt en doelen niet tussentijds gewijzigd kunnen worden zonder uw toestemming;
  • uw gegevens niet langer worden bewaart dan nodig is;
  • u de mogelijkheid heeft uw toestemming in te trekken en de verzamelde persoonsgegevens te verwijderen;
  • er alleen gegevens verzamelt worden die echt nodig zijn;
  • uw persoonsgegevens voldoende beveiligt zijn, zowel in technisch opzicht (bijvoorbeeld versleuteling van uw gegevens) als in organisatorisch opzicht (bijvoorbeeld wie toegang heeft tot uw gegevens);
  • en gebruik van data vergezeld gaat van een leesbare, begrijpelijke en goed toegankelijke privacyverklaring.