We ontwikkelen te vaak technologie zonder een duidelijk doel voor ogen te hebben. Er is een oude syllogisme in de ethiek die vraagt: “Wat is het doel van een mes?” Het antwoord is: “Het doel van een mes is om te snijden.”
Wat is een goed mes? Een goed mes is een mes dat goed snijdt, en het lemmet moet op de juiste manier geslepen en gevormd zijn voor de taak die het moet uitvoeren.
De grootste bron van onderdrukking van de mens is niet dat we machteloos zijn. Het is dat we worden wijsgemaakt dat we machteloos zijn. Nu, het is ongelooflijk om te beseffen dat de krachtigste kracht op deze planeet, alleen beperkt door de wetten van de natuurkunde, de menselijke keuze is. We denken vaak: “Oh, maar dat is alleen de keuze van de mensen met formele macht, institutionele macht.”
Het zijn mensen die net een klein beetje, net een heel klein beetje, de juiste kant kiezen in een bepaalde kwestie. Maar als je te horen krijgt dat je er niet toe doet, dat je keuzes er niet toe doen, dat je machteloos bent, en je gaat dat geloven omdat de uitdaging zo overweldigend en complex lijkt, dan kun je die kans laten schieten om de persoon te zijn die de keuze maakt die de spreekwoordelijke druppel was die de emmer deed overlopen.
En als we het over de tech hebben, dan is een van de dingen waar we het momenteel heel veel over hebben, het potentieel van AI. Dus kunnen we dit met AI doen en het potentieel ervan om dit ongelooflijk transformerende effect te hebben, wat we nu al zien, dus het is niet iets.
Je hebt al een van de belangrijkste principes beantwoord, namelijk dat ‘kunnen’ niet betekent dat ‘moeten’. En het feit dat je iets kunt doen, betekent niet dat je het ook moet doen. En we weten intuïtief dat dit zo is. Er zijn heel veel dingen die we zouden kunnen doen, maar die we ervoor kiezen om niet te doen.
Het feit dat we – het grootste deel van ons leven – ronddwalen op straat, waar we ook wonen. Maken we ons meestal geen zorgen over berovingen of bedreigingen. Dat komt niet doordat er op elke hoek een agent staat of dat er overal surveillance is. Het komt doordat we in onszelf het besef hebben dat we elkaar allerlei vreselijke dingen zouden kunnen aandoen, maar dat we ervoor kiezen om dat niet te doen.
Niet uit angst om betrapt te worden, maar omdat dat, zoals wij het begrijpen, gewoonweg verkeerd zou zijn. En dus kan dat gevoel van zelfregulering worden ingezet met betrekking tot de toepassing van deze buitengewone technologie. Nu, het tweede punt dat we kunnen maken om dit te kaderen, is om ons af te vragen wat het doel is van de toepassing van deze technologie, en zelfs in een eerder stadium, toen deze voor het eerst werd ontwikkeld. dienen?
Dus, bijvoorbeeld in AI, is er een enorm verschil tussen het ontwikkelen van een AI-stack, wat simpelweg draait om het verhogen van de efficiëntie, waarbij je probeert de productiekosten per eenheid te verlagen. Als dat je doel is, en dat is je enige doel, dan investeer je dat idee in wat je maakt.
Dat is radicaal anders dan wanneer je een doel hebt dat beter aansluit bij de missie waarvoor je organisatie is opgericht. Dat is dus het tweede element: het begrijpen van het doel. Het derde onderdeel van een raamwerk dat ieder van ons kan interpreteren… Dus ik denk even na. Stel, ik ben een gewoon persoon die zegt: “Oh, wat vind ik van dit stukje AI?”
Een van de andere dingen die ik echt geweldig vind, is de uitleg van het verschil tussen ethiek, recht en moraal, die vaak door elkaar worden gebruikt – alsof het synoniemen zijn, maar waarvan je het verschil heel duidelijk uitlegt. En ik denk dat dat belangrijk is als we het hebben over, met name, het reguleren van AI en de kaders waarin we deze technologie wel of niet onze samenleving laten vormgeven.
De kunstmatige intelligentie waar we momenteel mee te maken hebben… Hoewel we ervaren dat er ethische kaders bestaan, is de kunstmatige intelligentie die we in de samenleving zien niet ethisch.
Je moet begrijpen dat wanneer je die keuze maakt, het vrijwel zeker, zo niet nu, dan wel in de toekomst, de noodzakelijke fictie vereist, en je verantwoordelijk zult worden gehouden voor wat er gebeurt, ook al kun je het niet weten. En dat als verdediging aanvoeren zal niet afdoende zijn.
En natuurlijk kunnen er spanningen bestaan binnen deze waarden en principes. Ik wou dat ik kon zeggen dat we in een universum leefden waar alles wat goed is op één lijn lag en er nooit spanning was. De waarheid is dat de meeste uitdagende ethische vragen waarmee we in ons leven worden geconfronteerd, niet gaan over goed en kwaad, juist en onjuist.
Het is goed tegen goed. Het is juist tegen juist. Eh, dat, dat is… En daarom houden mensen niet zo van ethiek, geven ze de voorkeur aan de zekerheid die een fundamentalist van welke aard dan ook, politiek, religieus of anderszins, kan bieden, of aan ontsnappen in een soort hedonistische waas in de hoop dat iemand anders het wel oplost.
Nu denk ik dat we niet alleen moeten denken in termen van een technische vraag die moet worden opgelost of beantwoord door ethiek, maar als een veel groter systeem over het soort samenleving dat we willen zijn. We zullen dus moeten nadenken over een wereld waarin al het gevaarlijke, vuile en zware werk wordt overgenomen door systemen die het kunnen doen zonder blootstelling aan pijn of leed, en die ons van die lasten verlossen op een manier die in het verleden niet mogelijk was.
Ik zou graag leven in een wereld waar alles wat gunstig is, benut kan worden met goed ingeperkte risico’s, en waar het dient om een samenleving te verheffen in plaats van haar simpelweg te onderwerpen aan een bepaald model of mensen te reduceren tot handelswaar die in dienst staan van de machine.
Laat je nieuwsgierigheid de vrije loop en vraag je af: is wat er wordt voorgesteld in een vorm die je in staat stelt het doel te identificeren dat ermee gediend zal worden? Is het een doel waar je mee kunt instemmen? En komen de waarden en principes die ze zeggen te willen belichamen overeen met die van jou? En zo niet, wat ga je eraan doen?
In plaats van je handen ervan af te trekken en onverschillig te blijven. En het kan simpelweg gaan om een kleine aankoop die je doet, waarmee je een beetje economische soevereiniteit uitoefent, of het kan gaan om de manier waarop je stemt, de brief die je schrijft, of het feit dat je naar een vergadering gaat of iets interessants bijwoont.
