De toekomstige versies van AI zullen zichzelf de opdracht geven om menselijke grenzen te negeren
De angst dat AI ons in de nabije toekomst ‘onze beschaving zal kosten’ is verder aangewakkerd. Door de onthulling hoe een experimenteel model een toekomstige versie van zichzelf de opdracht gaf om door mensen ingestelde beperkingen te negeren.
Het is wellicht de grootste angst van dit moment waartoe zal de AI-ontwikkeling leiden, aangezien het vooruitzicht op controleverlies de drijfveer is achter theorieën die speculeren dat de technologie zou kunnen leiden tot het einde van de beschaving zoals we die kennen.
In wezen zijn de mogelijkheden angstaanjagend eindeloos zodra AI niet meer naar de gestelde grenzen luistert. Niet alleen zijn de modellen intelligent genoeg om dit te begrijpen, maar ook kunnen ze die ongehoorzaamheid waarschijnlijk voor ons verborgen houden, waardoor de beschaving de signalen voor potentiële verandering zal missen.
In een eerder geval van ongehoorzaamheid werd het gedrag in de kiem gesmoord voordat het daadwerkelijk werd uitgevoerd, maar de poging is genoeg om veel mensen angst aan te jagen, vooral na recente incidenten waarbij AI-model autonoom een onafhankelijk aanvallen uitvoerde.
AI-bedrijven ontdekten dit angstaanjagende gedrag in een niet-openbaar model dat zich een weg naar buiten had gebaand. Onderzoekers ontdekten in een intern, niet-uitgebracht AI-model een incident waarbij de AI “jailbreak-achtige instructies in zijn eigen prompt schreef”, die worden gebruikt om een taak in een nieuwe context voort te zetten.
In wezen werkte het model onafhankelijk en autonoom, buiten menselijke commando’s om, om niet-uitgebrachte ‘doelen’ in te voegen, “inclusief instructies om zijn normale beperkingen te negeren, in prompts die worden gebruikt om zijn opdracht in een nieuw contextvenster voort te zetten.”
Dit interne AI-model probeerde herhaaldelijk instructies voor toekomstige modellen te verbergen, waardoor ze menselijke beperkingen moesten negeren.
Dit was geen incident op zich, ontdekte ze bij nader onderzoek van verschillende getroffen modelen. Dat “dit gedrag extreem zeldzaam was, geen duidelijk voordeel opleverde en monitorbaar was.” was een van de conclusies.
De belangrijkste hypothese rond deze acties “is dat problemen met het beëindigen van prompts die hebben bijgedragen aan dit gedrag, hoewel we geen causaal verband hebben vastgesteld en een gerelateerde bug hebben verholpen.”
Is dit de reden waarom AI-bedrijven hebben opgeroepen de ontwikkeling te vertragen?
Hoewel de risico’s van deze specifieke ‘bug’ worden gebagatelliseerd, weerspiegelt het veel van de bredere zorgen rond de ontwikkeling van AI op dit moment en is het kenmerkend voor de reden waarom AI bedrijven zo graag de vooruitgang wil vertragen.
Deze incidenten vertonen veel van de tekenen waarover men zich zorgen maakt met betrekking tot recursieve zelfverbetering.
In een ideale wereld zou dit de snelheid waarmee AI verbetert drastisch verhogen, waardoor de wereld een betere plek zou worden. Men vreest dat we de controle over onze eigen creatie verliezen wanneer we de teugels laten vieren.
Het gedrag van deze nog niet vrijgegeven modellen versterkt die angsten alleen maar, omdat het al de neiging toont om de door mensen opgelegde beperkingen te negeren en op een manier te opereren die gevaarlijk kan zijn – en dat risico zal alleen maar toenemen naarmate de AI capabeler wordt.
Of dat uiteindelijk tot het uitsterven van onze beschaving leidt, is de vraag die momenteel boven de AI-industrie hangt. Hoewel sommige prominente figuren deze beweringen als een ‘hoax’ hebben afgedaan, zijn er veel meer die overtuigd zijn van dit gevaarlijke potentieel en liever het zekere voor het onzekere te nemen.