Moeten we het stoppen zolang het nog kan. AI-bedrijven investeren triljoenen dollars in de ontwikkeling van AI en robots die alles wat mensen kunnen, sneller, goedkoper en zonder menselijk toezicht kunnen doen.
AI is er om te blijven aldus de gangbare opvatting. We worden wijsgemaakt dat de opkomst van kunstmatige intelligentie onvermijdelijk is en dat we de gevolgen daarvan gewoon moeten ondergaan.
Tientallen jaren geleden was de “onvermijdelijkheid” van globalisering een excuus om de maakindustrie uit te hollen in de jacht op winst op korte termijn, met rampzalige gevolgen voor voormalige industriële centra. Moeten we AI echt als een orkaan door de samenleving laten razen?
Elke grote technologische revolutie gaat gepaard met een mix van hysterie en hype. In het oude Athene maakte Socrates zich zorgen dat schrijven het geheugen zou verzwakken, een ironie die alleen bewaard is gebleven omdat Plato zijn beweringen opschreef. Twee millennia later voorspelde Thomas Edison dat films leerboeken zouden vervangen, in de overtuiging dat film “elke tak van menselijke kennis” zou onderwijzen.
Beiden schatten de rol van technologie verkeerd in. Ze concentreerden zich op de vraag of nieuwe instrumenten de bestaande zouden vervangen, in plaats van op hoe de mogelijkheden zich zouden verspreiden. Vandaag de dag spelen we datzelfde binaire debat opnieuw. Zal AI werk vervangen, of elk menselijk probleem oplossen? In onze discussie over wat AI is, negeren we waar het terechtkomt en wie er baat bij heeft.
AI komt niet op een gelijk speelveld terecht. Het arriveert in een wereld die gekenmerkt wordt door buitengewone ongelijkheid. Nergens is dit duidelijker dan in Azië en de Stille Oceaan, de economisch meest diverse regio ter wereld. De inkomens verschillen bijna tweehonderd keer tussen het rijkste land, Singapore, en een van de armste, Afghanistan.
Deze verschillen creëren twee structurele asymmetrieën: een capaciteitskloof en een kwetsbaarheidskloof, die samen de ongelijke impact van AI in verschillende landen versterken.
De echte kwestie is niet de aard van de technologie, maar de geografische spreiding van de impact ervan. We focussen ons op wat AI kan doen en te weinig op waar het het doet.
AI-bedrijven werken eraan om alle werkzaamheden van medewerkers te vervangen en te concentreren in de handen van een select groepje uitverkorenen. Big Tech bedrijven voorspellen dat AI mensen binnen enkele jaren, en niet decennia, zal vervangen.
In hun race naar dominantie bouwen AI-aanhangers steeds krachtigere systemen zonder te weten hoe ze die moeten besturen. Ze zouden het politieke systeem kunnen ondermijnen, de menselijke invloed kunnen verminderen en het risico op onrust kunnen vergroten.
AI-bedrijven investeren triljoenen dollars in de ontwikkeling van kunstmatige intelligentie en robots die alles wat mensen kunnen, sneller, goedkoper en zonder menselijk toezicht kunnen doen. Het uiteindelijke doel van OpenAI is “superintelligente” AI via “recursieve zelfverbetering”.
Met andere woorden: gebruik AI om steeds slimmere AI te maken, totdat die veel slimmer is dan mensen, en kijk wat er gebeurt.
Landen over de hele wereld hebben menselijk klonen verboden en samengewerkt om de verspreiding van kernwapens te voorkomen. Superintelligentie zou gevaarlijker kunnen zijn dan kernwapens, maar belangrijker nog, niemand heeft het nog gebouwd.
De eenvoudigste en meest robuuste manier zou zijn om de productie van geavanceerde AI-chips te stoppen. Het opschalen van kunstmatige intelligentie is afhankelijk van een extreem geconcentreerde toeleveringsketen.
Net als bij nucleaire technologie zouden landen strikte regels kunnen overeenkomen die de ontwikkeling en productie ervan verbieden. De geconcentreerde toeleveringsketen en de technologische complexiteit van de productie van AI-hardware zouden landen in staat stellen te controleren of hun tegenstanders niet in het geheim superintelligentie ontwikkelen.
De vooruitgang in AI-algoritmen maakt een dergelijke overeenkomst urgent. We weten niet wat er in de toekomst mogelijk zal zijn met de huidige hardware. We hebben een foutmarge nodig.