My Sensor Data

Wie heeft er niet eens een AI-antwoord gekregen dat perfect coherent was… maar de kern van de zaak volledig miste?

Stel je voor. Een paar uur na de WK-finale vraag je simpelweg: “Nou, hoe was de finale?” Een mens begrijpt meteen dat je het hebt over de uitslag, de wedstrijd zelf, misschien het beslissende moment of de reacties die het teweegbracht – omdat de context gedeeld is*.

Als een AI zou antwoorden: “Een finale is de laatste wedstrijd van een sportcompetitie”, zou je waarschijnlijk het gevoel hebben dat de AI de kern van de zaak volledig mist, ook al is het antwoord letterlijk correct.

Wat ons frustreert, is niet alleen dat de AI iets fout doet. Het is dat het een conversatiemechanisme verstoort dat we als vanzelfsprekend beschouwen. Plotseling moeten we alles van de grond af aan uitleggen: de context, onze bedoelingen en alle aannames waarvan we dachten dat we ze deelden. Met andere woorden, we praten alsof de andere persoon net is aangekomen.

Precies dat maakt de ervaring frustrerend. Het verstoort een diepgeworteld communicatiemechanisme waar we dagelijks honderden keren op vertrouwen zonder het ons te realiseren.

Aanvankelijk gaf onze ai-assistent voornamelijk een tekstantwoord. We begonnen elementen rondom dat antwoord weer te geven die het nuttiger moesten maken: een grafiek uit een document, een bron die in een zijpaneel te zien is, een knop om de vraag door te sturen naar collega’s, enzovoort.

De interface presenteert deze elementen niet als onafhankelijke componenten. Integendeel, ze worden zo geplaatst dat ze op natuurlijke wijze de indruk wekken dat ze deel uitmaken van de continuïteit van het gesprek.

De gebruiker hoeft zich op zijn beurt niet af te vragen of een afbeelding afkomstig is van het model, de frontend of een externe tool. Alles wat zichtbaar is, wordt spontaan onderdeel van de uitwisseling met de ai-assistent. Als de AI dus niet weet wat er daadwerkelijk aan de gebruiker is gepresenteerd, worden bepaalde impliciete verwijzingen simpelweg onmogelijk te interpreteren.

Dit perspectief heeft ons er vooral toe gebracht het probleem opnieuw te formuleren. Het doel is niet langer alleen om een ​​gespreksgeschiedenis naar het model te sturen, maar om bij elke stap een toestand te reconstrueren die voldoende dicht bij de gemeenschappelijke basis ligt die de gebruiker veronderstelt te delen met de ai-assistent.

De geschiedenis is niet langer beperkt tot de uitgewisselde berichten. We voegen de belangrijkste objecten toe die tijdens de interactie worden geïntroduceerd: bijlagen van de gebruiker, weergegeven bronnen, documentvoorbeelden, enz.

Onze vraag is niet langer alleen: “Heeft het model deze informatie nodig?”, maar eerder: “Is de kans groot dat dit element een gedeelde referentie in het gesprek wordt?” Als het antwoord ja is, moet het in de gespreksstatus kunnen worden weergegeven.

De gemeenschappelijke basis wordt echter niet alleen tijdens het gesprek opgebouwd. Een deel ervan bestaat al vóór het eerste bericht.

Elke ai-assistent een systeemprompt die zijn rol, zijn omgeving en het domein waarin hij opereert beschrijft. Dit vormt de fundamentele, stabiele kennis die vanaf het begin van het gesprek als gedeeld kan worden beschouwd. Een ai-assistent die bijvoorbeeld wordt ingezet, weet dat hij opereert binnen de context van kerncentrales, dat er verschillende “niveaus” zijn en dat apparatuur wordt geïdentificeerd door “functionele referentiesystemen”.

Deze elementen komen niet voort uit de geschiedenis van de uitwisseling, maar vormen wel een gemeenschappelijke basis tussen de gebruiker en de assistent. Ze spelen een rol die vergelijkbaar is met de culturele of professionele kennis die in een menselijk gesprek wordt gedeeld: ze maken een correcte interpretatie van veel impliciete verwijzingen mogelijk zonder dat alles van nul af aan hoeft te worden uitgelegd.

Tot slot is het weergeven van de gemeenschappelijke basis niet voldoende. Zoals we hierboven hebben gezien, bestaat een gesprek ook uit het controleren en herstellen van deze gemeenschappelijke basis wanneer deze ontoereikend is.

Een conversationeel geheugen moet daarom vergezeld gaan van een dialoogbeleid. De assistent moet kunnen herkennen wanneer een verwijzing dubbelzinnig is, om verduidelijking vragen, de formulering aanpassen of toegeven dat er informatie ontbreekt. Deze filosofie is vanaf het begin in onze ai-assistent aanwezig: in plaats van een antwoord te verzinnen, is de ai-assistent zo ontworpen dat hij “Ik weet het niet” kan zeggen wanneer hij niet over de benodigde informatie beschikt. We hebben deze logica geleidelijk uitgebreid naar het beheer van de gemeenschappelijke basis: wanneer de assistent vindt dat een verwijzing onvoldoende wordt gedeeld, kan hij nu om verduidelijking vragen of zijn begrip controleren voordat hij antwoordt.

Toen we begonnen met het ontwerpen van AI, gingen we uit van een simpele hypothese: om een gebruiker te begrijpen, hoef je het alleen maar de meest recente inhoud uit zijn gesprekken weer te geven.

Maar de AI assistenten van vandaag produceren niet langer alleen berichten. Aan de interfacekant tonen ze ook afbeeldingen, bronnen, bestandsvoorbeelden, tabellen, tekstelementen, interactieve knoppen en meer. Het is dan ook niet verwonderlijk dat gebruikers ernaar verwijzen met vragen als:

“Kun je het tweede diagram uitleggen?”

“Wat gebeurt er als ik op de knop klik?”

“Wat laat de grafiek in het weergegeven document zien?”

Voor hen maken deze elementen nu deel uit van het gesprek, en ze gaan er vanzelfsprekend vanuit dat de AI dezelfde dingen “ziet”. In veel klassieke architecturen is de AI zich echter niet eens bewust van hun bestaan.

Een eerste idee zou zijn om simpelweg alles wat is weergegeven naar het model te sturen. Maar deze oplossing roept al snel andere vragen op:

Welke objecten heeft de gebruiker daadwerkelijk gezien?

Welke objecten zijn echt referentiepunten geworden?

In welke vorm moeten ze aan de AI worden gecommuniceerd?

Gaandeweg beseften we dat het probleem niet alleen gaat om het bewaren van meer informatie in de gespreksgeschiedenis. Het gaat er vooral om gedurende de hele uitwisseling een consistente weergave te behouden van wat de gebruiker redelijkerwijs als gedeeld met de AI assistent kan beschouwen.

En vroegen ons af hoe dit probleem in de literatuur werd behandeld, zowel in termen van conversatiesystemen als in de taalkunde en cognitieve wetenschappen. Eén concept kwam al snel naar voren als bijzonder relevant voor onze denkwijze: dat van de gemeenschappelijke basis.

Het concept ‘common ground’, geïntroduceerd eind jaren zeventig, verwijst naar de verzameling kennis, overtuigingen en informatie waarvan twee gesprekspartners tijdens een gesprek aannemen dat ze die delen, en waarop ze zich baseren om elkaar te begrijpen.

Het idee is dat dialoog niet alleen draait om het overbrengen van informatie, maar ook om het voortdurend opbouwen en bijwerken van deze ‘common ground’. Naarmate het gesprek vordert, worden bepaalde elementen gedeelde referentiepunten die niet langer opnieuw hoeven te worden geïntroduceerd of uitgelegd: iedereen weet waar de ander het over heeft.

Deze accumulatie van gedeelde kennis maakt taal steeds efficiënter. Gedetailleerde beschrijvingen maken daardoor plaats voor uitdrukkingen als ‘die’, ‘hier’ of ‘de vorige’, omdat steeds meer informatie nu via de context wordt overgebracht in plaats van via de woorden zelf. Dit is geen communicatiefout; integendeel, deze efficiëntie draagt ​​bij aan de vloeiendheid van menselijke conversatie!

Om dit mechanisme te laten werken, moeten we voortdurend controleren of we dezelfde referentiepunten delen. We controleren daarom voortdurend of er overeenstemming is: we herformuleren, vragen om verduidelijking, corrigeren een verwijzing of bevestigen dat we het goed begrepen hebben. We doen dit zonder erbij na te denken: dit coördinatiewerk is voor mensen spontaan.

Precies op dit punt verschillen conversationele assistenten vaak nog van hun gebruikers. In plaats van te controleren of er daadwerkelijk overeenstemming is, lossen ze vaak op eigen initiatief onduidelijkheden op, zonder om bevestiging te vragen.

Elke generatie is er een technologie is die overtuiging dat zij de huidige trend zal doorbreken. Mainframes waren een vaste waarde, maar de client-server zou de mainframe overbodig maken, het internet zou geografische grenzen doen vervagen, en toch beklom elke generatie dezelfde berg van overdreven kansen, en stortte daarna in een dal van teleurstelling wat zich stabiliseerde op hetzelfde plateau als de keer ervoor.

Sinds 1995 worden technologie verwachtingen in kaart gebracht ten opzichte van de tijd waarin ze opkwamen met meer dan tweeduizend nieuwe technologieën per jaar. Vijf technologische trends hebben de volledige cyclus doorlopen met voldoende data om ze nauwkeurig te bestuderen: het internet, cloud computing, big data, mobiele technologie en blockchain. Elk van deze trends had een opvallend tijdschema nodig om van de trigger tot het piek te komen, en die verschillen zijn niet toevallig.

Die gegevens zijn dit jaar belangrijker dan ooit, omdat er voor kunstmatige intelligentie generatieve AI net in het dal van desillusie heeft bereikt. Het bereikte dat punt in ongeveer tweeënhalf jaar na de release van ChatGPT, een van de snelste piek-dalingen ooit heeft geregistreerd. Gemiddeld gaf men bijna twee miljoen dollar uit aan generatieve AI-projecten, en minder dan een op de drie CEO’s gaf aan tevreden te zijn met het rendement.

Stel je voor dat je aan de kust staat en een reeks golven ziet binnenrollen. Sommige breken snel en trekken zich terug in zee. Andere bouwen zich langzaam op, winnen aan kracht en hervormen de kustlijn voordat ze zich terugtrekken. Voor AI is er momenteel een tweede golf, die zich nog steeds ontwikkeld, en de huidige stand van zaken kan verwarring geven door de uiteindelijke vorm die de duurste inschatting van een ieder kan overtreffen.

Trends bewegen zich echter niet allemaal met dezelfde snelheid, en dat is geen toeval. Vier kenmerken verklaren het grootste deel van het verschil tussen een technologie die zijn cyclus in zeven jaar voltooit en een technologie die tien jaar later nog steeds vastzit, en het in kaart brengen van AI aan de hand van elk van deze kenmerken is nuttiger dan te discussiëren over de vraag of de trend terecht is.

Infrastructuurovererving versus infrastructuurontwikkeling. Cycli die voortbouwen op reeds bestaande infrastructuur bewegen zich snel. Cycli die eerst hun eigen basis moeten opbouwen voordat ze bruikbaar zijn, verlopen traag. Het internet moest bijna alles zelf ontwikkelen: protocollen, browsers en voldoende publiek vertrouwen in het medium om het voor serieuze doeleinden te kunnen gebruiken. Die ontwikkeltijd is een belangrijke reden waarom de volledige cyclus dertien tot vijftien jaar duurde. Cloudcomputing en mobiele technologie deden dat niet. Cloudcomputing maakte gebruik van het bestaande internet. Mobiele technologie maakte gebruik van bestaande mobiele netwerken. Beide verkortten hun tijdlijn door te profiteren van de investeringen van anderen in infrastructuur van de afgelopen tien jaar.

Adoptielocatie: consument of bedrijf. Adoptie door consumenten kent geen aanbestedingsdrempel. Adoptie door bedrijven kent een beveiligingscontrole, een budgetcyclus en een goedkeuringstraject dat tussen interesse en gebruik staat. Die drempel is waar cycli het vaakst vastlopen. Mobiele technologie ontwikkelde zich snel omdat het eerst door consumenten werd opgepakt, waarna bedrijven pas jaren later volgden, toen de technologie al bewezen was. Blockchain ontwikkelde zich traag en is op sommige plaatsen nog steeds niet ontwikkeld, omdat adoptie door bedrijven vereist dat concurrenten vertrouwen hebben in hetzelfde gedeelde platform. Dit behoort tot de moeilijkste coördinatieproblemen.

Een duidelijke of een diffuse rendementsvoorspelling. Cloudcomputing had vanaf dag één een eenheid: kosten per uur rekenkracht, gemeten ten opzichte van het serverrack dat het verving. Die duidelijkheid is een belangrijke reden waarom cloudcomputing een van de meest heldere resultaten ooit opleverde. Big data had die eenheid nooit. “Inzichten” werden nooit een post op iemands winst- en verliesrekening, en die onduidelijkheid, meer dan welke technische tekortkoming dan ook, is de reden waarom de hypecyclus van big data beëindigde in plaats van deze doorliep. De technologie achter big data faalde niet. Gedistribueerde opslag en grootschalige analyses zijn tegenwoordig de drijvende kracht achter bedrijven overal ter wereld. Het rendement faalde, omdat niemand het erover eens kon worden wat het hen opleverde.

Of het rendement nu een product of slechts een stemming benoemt. Sommige initiatieven  overleven doordat ze onderdeel worden van de woordenschat. Niemand volgt “het internet” meer in een hypecyclus, omdat het geen trend meer was, maar infrastructuur. Andere initiatieven verdwijnen, zoals big data, omdat de term de specifieke onderliggende technologie ontgroeide en meer een stemming dan een doel werd.

Beoordeel generatieve AI aan de hand van die vier kenmerken en het resultaat is niet één eenduidig ​​antwoord. Het zijn er twee.

Wat de infrastructuur betreft, is het antwoord verdeeld. Training vereiste chips, stroom en datacenters, een kostenstructuur die meer leek op de manier waarop het internet zijn eigen basisinfrastructuur bouwde dan op hoe mobiele technologie simpelweg gebruikmaakte van bestaande mobiele netwerken. Distributie was het tegenovergestelde: direct, omdat de basisinfrastructuur al in ieders zak zat: een browser, een smartphone, een bestaand cloudaccount waarvoor al betaald was. Die tweedeling verklaart de vorm van de curve, met een zware bodem en een explosieve piek.

Wat de adoptielocatie betreft, is generatieve AI de enige golf in deze lijst die nooit hoefde te kiezen. De viraliteit onder consumenten en de urgentie vanuit het bedrijfsleven vonden plaats in hetzelfde jaar, de publieke lancering van ChatGPT en de onmiddellijke acceptatie in de directiekamer. Het lijkt erop dat een AI-strategie vrijwel gelijktijdig wordt geïntroduceerd. Niets in de historische lijst laat zien dat beide ontwikkelingen in hetzelfde jaar samenvielen.

Wat betreft de duidelijkheid van het rendement, dit is de zwakke plek en een directe weerspiegeling van wat er met big data is gebeurd. Co-piloten, contentgeneratie en autonome agenten worden allemaal samengevoegd tot één cijfer, genaamd AI-rendement op investering. De data zelf, de $1,9 miljoen die per organisatie werd uitgegeven terwijl minder dan een op de drie CEO’s tevreden was, meet die samenvoeging net zo goed als een daadwerkelijke mislukking. Dat is een mechanisme waar we van kunnen leren, gebaseerd op het lot van big data, en geen voorspelling dat AI hetzelfde lot zal ondergaan.

Wat betreft de definities, wijst het signaal eerder naar het pad van het internet dan naar dat van big data. “Kunstmatige intelligentie” als overkoepelende term lijkt op weg naar een permanente status in de woordenschat, net zoals “het internet” dat was, terwijl de specifieke technologieën die eronder vallen hun eigen onafhankelijke cycli doorlopen. Dat is precies wat de data van dit jaar in de praktijk laten zien: generatieve AI bevindt zich in een dal, terwijl agentische AI, een laag hoger, op de top van overdreven verwachtingen staat. Beide worden afzonderlijk gevolgd onder één paraplu die niet verdwijnt.

We ontwikkelen te vaak technologie zonder een duidelijk doel voor ogen te hebben. Er is een oude syllogisme in de ethiek die vraagt: “Wat is het doel van een mes?” Het antwoord is: “Het doel van een mes is om te snijden.”

Wat is een goed mes? Een goed mes is een mes dat goed snijdt, en het lemmet moet op de juiste manier geslepen en gevormd zijn voor de taak die het moet uitvoeren.

De grootste bron van onderdrukking van de mens is niet dat we machteloos zijn. Het is dat we worden wijsgemaakt dat we machteloos zijn. Nu, het is ongelooflijk om te beseffen dat de krachtigste kracht op deze planeet, alleen beperkt door de wetten van de natuurkunde, de menselijke keuze is. We denken vaak: “Oh, maar dat is alleen de keuze van de mensen met formele macht, institutionele macht.”

Het zijn mensen die net een klein beetje, net een heel klein beetje, de juiste kant kiezen in een bepaalde kwestie. Maar als je te horen krijgt dat je er niet toe doet, dat je keuzes er niet toe doen, dat je machteloos bent, en je gaat dat geloven omdat de uitdaging zo overweldigend en complex lijkt, dan kun je die kans laten schieten om de persoon te zijn die de keuze maakt die de spreekwoordelijke druppel was die de emmer deed overlopen.

En als we het over de tech hebben, dan is een van de dingen waar we het momenteel heel veel over hebben, het potentieel van AI. Dus kunnen we dit met AI doen en het potentieel ervan om dit ongelooflijk transformerende effect te hebben, wat we nu al zien, dus het is niet iets.

Je hebt al een van de belangrijkste principes beantwoord, namelijk dat ‘kunnen’ niet betekent dat ‘moeten’. En het feit dat je iets kunt doen, betekent niet dat je het ook moet doen. En we weten intuïtief dat dit zo is. Er zijn heel veel dingen die we zouden kunnen doen, maar die we ervoor kiezen om niet te doen.

Het feit dat we – het grootste deel van ons leven – ronddwalen op straat, waar we ook wonen. Maken we ons meestal geen zorgen over berovingen of bedreigingen. Dat komt niet doordat er op elke hoek een agent staat of dat er overal surveillance is. Het komt doordat we in onszelf het besef hebben dat we elkaar allerlei vreselijke dingen zouden kunnen aandoen, maar dat we ervoor kiezen om dat niet te doen.

Niet uit angst om betrapt te worden, maar omdat dat, zoals wij het begrijpen, gewoonweg verkeerd zou zijn. En dus kan dat gevoel van zelfregulering worden ingezet met betrekking tot de toepassing van deze buitengewone technologie. Nu, het tweede punt dat we kunnen maken om dit te kaderen, is om ons af te vragen wat het doel is van de toepassing van deze technologie, en zelfs in een eerder stadium, toen deze voor het eerst werd ontwikkeld. dienen?

Dus, bijvoorbeeld in AI, is er een enorm verschil tussen het ontwikkelen van een AI-stack, wat simpelweg draait om het verhogen van de efficiëntie, waarbij je probeert de productiekosten per eenheid te verlagen. Als dat je doel is, en dat is je enige doel, dan investeer je dat idee in wat je maakt.

Dat is radicaal anders dan wanneer je een doel hebt dat beter aansluit bij de missie waarvoor je organisatie is opgericht. Dat is dus het tweede element: het begrijpen van het doel. Het derde onderdeel van een raamwerk dat ieder van ons kan interpreteren… Dus ik denk even na. Stel, ik ben een gewoon persoon die zegt: “Oh, wat vind ik van dit stukje AI?”

Een van de andere dingen die ik echt geweldig vind, is de uitleg van het verschil tussen ethiek, recht en moraal, die vaak door elkaar worden gebruikt – alsof het synoniemen zijn, maar waarvan je het verschil heel duidelijk uitlegt. En ik denk dat dat belangrijk is als we het hebben over, met name, het reguleren van AI en de kaders waarin we deze technologie wel of niet onze samenleving laten vormgeven.

De kunstmatige intelligentie waar we momenteel mee te maken hebben… Hoewel we ervaren dat er ethische kaders bestaan, is de kunstmatige intelligentie die we in de samenleving zien niet ethisch.

Je moet begrijpen dat wanneer je die keuze maakt, het vrijwel zeker, zo niet nu, dan wel in de toekomst, de noodzakelijke fictie vereist, en je verantwoordelijk zult worden gehouden voor wat er gebeurt, ook al kun je het niet weten. En dat als verdediging aanvoeren zal niet afdoende zijn.

En natuurlijk kunnen er spanningen bestaan ​​binnen deze waarden en principes. Ik wou dat ik kon zeggen dat we in een universum leefden waar alles wat goed is op één lijn lag en er nooit spanning was. De waarheid is dat de meeste uitdagende ethische vragen waarmee we in ons leven worden geconfronteerd, niet gaan over goed en kwaad, juist en onjuist.

Het is goed tegen goed. Het is juist tegen juist. Eh, dat, dat is… En daarom houden mensen niet zo van ethiek, geven ze de voorkeur aan de zekerheid die een fundamentalist van welke aard dan ook, politiek, religieus of anderszins, kan bieden, of aan ontsnappen in een soort hedonistische waas in de hoop dat iemand anders het wel oplost.

Nu denk ik dat we niet alleen moeten denken in termen van een technische vraag die moet worden opgelost of beantwoord door ethiek, maar als een veel groter systeem over het soort samenleving dat we willen zijn. We zullen dus moeten nadenken over een wereld waarin al het gevaarlijke, vuile en zware werk wordt overgenomen door systemen die het kunnen doen zonder blootstelling aan pijn of leed, en die ons van die lasten verlossen op een manier die in het verleden niet mogelijk was.

Ik zou graag leven in een wereld waar alles wat gunstig is, benut kan worden met goed ingeperkte risico’s, en waar het dient om een ​​samenleving te verheffen in plaats van haar simpelweg te onderwerpen aan een bepaald model of mensen te reduceren tot handelswaar die in dienst staan ​​van de machine.

Laat je nieuwsgierigheid de vrije loop en vraag je af: is wat er wordt voorgesteld in een vorm die je in staat stelt het doel te identificeren dat ermee gediend zal worden? Is het een doel waar je mee kunt instemmen? En komen de waarden en principes die ze zeggen te willen belichamen overeen met die van jou? En zo niet, wat ga je eraan doen?

In plaats van je handen ervan af te trekken en onverschillig te blijven. En het kan simpelweg gaan om een ​​kleine aankoop die je doet, waarmee je een beetje economische soevereiniteit uitoefent, of het kan gaan om de manier waarop je stemt, de brief die je schrijft, of het feit dat je naar een vergadering gaat of iets interessants bijwoont.

Gezien de snelle vooruitgang in AI-capaciteiten en markttrends, geven experts aan dat grensverleggende AI een van de meest ingrijpende technologische verschuivingen in de recente geschiedenis zal teweegbrengen.

In april organiseerde het AI Office de eerste bijeenkomst van het Expertforum voor Grensverleggende AI om de kansen te bespreken die grensverleggende AI Europa kan bieden, de onderliggende AI-trajecten te beoordelen en de strategische positie van de EU te evalueren. Tijdens de bijeenkomst konden experts aanbevelingen formuleren voor strategische acties om Europese capaciteiten op het gebied van grensverleggende AI op te bouwen en om het vermogen van Europa te versterken om toegang te krijgen tot, te kiezen voor, te controleren en te profiteren van elk grensverleggend AI-model. Experts gaven ook advies over hoe de Europese Commissie of de lidstaten de snelheid en schaal van deze technologie kunnen bijbenen.

In het rapport belicht het AI-bureau de belangrijkste inzichten van de bijeenkomst en de bijbehorende schriftelijke verklaringen van experts, nu de EU haar streven voortzet om een ​​AI-continent te worden.

Volgens de experts hebben de mogelijkheden van geavanceerde AI zich in een ongekend tempo ontwikkeld. Binnen ongeveer drie jaar is men van het worstelen met basistaken uitgegroeid tot het bijna bereiken van de grenzen van wat de huidige tests kunnen meten. De schaal van de markttrends is snel meegegroeid, terwijl de positie van Europa relatief bescheiden blijft ten opzichte van het economische gewicht van de EU.

Hoewel de EU onderzoek van wereldklasse produceert en een aanzienlijk deel van het wereldwijde AI-talent opleidt, is de ontwikkeling van geavanceerde AI grotendeels buiten de EU geconcentreerd. De Europese computerinfrastructuur en het groeikapitaal zijn nog niet op de schaal die geavanceerde AI vereist.

Experts hebben de inzet van de EU om de concurrentiekracht, soevereiniteit en veiligheid op het gebied van geavanceerde AI te versterken, verwelkomd. Ze waarschuwden er echter ook voor dat de komende één tot twee jaar cruciaal kunnen zijn voor Europa om een ​​sterke positie te verwerven.

De ontwikkeling van grensverleggende AI wordt wereldwijd gedreven door particuliere investeringen, benadrukten experts. Een geloofwaardige weg naar het opbouwen van grensverleggende capaciteiten in Europa hangt allereerst af van het wegnemen van structurele belemmeringen voor aantrekkelijke marktomstandigheden. Computerinfrastructuur en de energie om deze te laten draaien, werden beschreven als de meest urgente prioriteiten voor de komende twee jaar. Belemmeringen voor groeikapitaal, rechtszekerheid rond trainingsdata met betrekking tot auteursrecht en gegevensbescherming, evenals het aantrekken en behouden van talent, moeten worden aangepakt.

Sommigen adviseerden dit aan te vullen door selectief te investeren in risicovolle, maar potentieel zeer winstgevende projecten waarin Europa een leidende rol kan spelen, variërend van het huidige paradigma tot alternatieve benaderingen en andere lagen van de AI-stack.

De ontwikkeling van grensverleggende AI is momenteel geconcentreerd in het buitenland en niet-grensverleggende modellen vormen een onvolmaakt alternatief daarvoor. Experts benadrukten dat de EU niettemin haar soevereine vermogen moet versterken om toegang te krijgen tot, te selecteren, te controleren en te profiteren van grensverleggende AI-modellen.

Dit vereist een duidelijke beoordeling van de huidige en potentiële invloed van Europa op het gebied van AI, in combinatie met een strategie om deze troeven te beschermen, te versterken en effectief in te zetten. Experts wezen op de aanzienlijke invloed die Europa kan uitoefenen dankzij troeven zoals de omvang van de markt, de sterke regelgeving, de industriële basis en het leiderschap in delen van de AI-stack.

Samenwerking met vertrouwde partners die met vergelijkbare beperkingen te maken hebben, werd aangemerkt als een strategische kans om zowel de capaciteiten als de invloed te vergroten.

Experts verwelkomden de erkenning door het AI-bureau dat strategische actie moet aansluiten bij het tempo en de schaal van baanbrekende AI, en adviseerden ambitieuze doelen te stellen voor 2030. Experts benadrukten dat het realiseren hiervan vereist dat baanbrekende AI een politieke prioriteit wordt, met de nodige capaciteit en structuren, binnen en tussen instellingen, om dit te kunnen uitvoeren.

Het AI-bureau zal de aanbevelingen voor strategische acties per prioriteit groeperen en samenwerken met anderen om deze te implementeren, waarbij verdere uitwisseling van expertise in het Expertforum wordt gefaciliteerd, onder andere door middel van schriftelijke bijdragen en gerichte workshops.

Na een oproep tot het indienen van belangstelling bracht het Expertforum experts samen van Europese AI-ontwikkelaars, de industrie en investeerders, technisch onderzoek, de academische wereld en denktanks, samen met vertegenwoordigers van de lidstaten en de Commissie.

Het Forum levert input voor het Europees Frontier AI-initiatief, dat was aangekondigd in de AI-strategie ‘Apply AI’ om het concurrentievermogen, de soevereiniteit en de veiligheid van de EU op het gebied van grensverleggende AI te bevorderen.

Veerkracht door ontwerp en het voorbereiden van je AI-stack op een tijdperk van onzekerheid. Naarmate de toegang tot cruciale AI-functionaliteiten minder voorspelbaar wordt, moeten we heroverwegen hoe we onze AI-stacks ontwerpen, beheren en reguleren.

Recente verstoringen in de toegang tot AI-modellen benadrukken een nieuwe realiteit: AI-afhankelijkheden zijn niet langer alleen commerciële of technische risico’s.

Nationale beleidsbeslissingen, exportcontroles en geopolitieke beperkingen kunnen ook de toegang tot geavanceerde AI-tools beïnvloeden.

We hoeven niet de volledige AI-stack in eigen beheer te hebben om deze risico’s te beheersen; we moeten juist ontwerpen met veerkracht in gedachten, met de nadruk op flexibiliteit, keuzemogelijkheden en verantwoordelijkheid.

Naarmate we de overstap maken van pilotprojecten naar grootschalige implementatie van AI, worden we steeds afhankelijker van externe leveranciers voor de componenten die onze AI-stacks aandrijven, waaronder data, modellen, infrastructuur en tools.

Recente gebeurtenissen hebben de risico’s van deze afhankelijkheid benadrukt: de toegang tot geavanceerde AI-modellen kan worden verstoord door nationale beleidsbeslissingen, exportcontroles, geopolitieke beperkingen en andere factoren waar we geen directe invloed op hebben.

Dergelijke verstoringen weerspiegelen een bredere verschuiving. Landen beschouwen AI-infrastructuur steeds vaker als een strategisch nationaal bezit, wat leidt tot een groeiende focus op AI-soevereiniteit. In een recent whitepaper werd onderzocht hoe economieën een balans kunnen vinden tussen binnenlands eigendom en betrouwbare internationale partnerschappen bij het ontwerpen van soevereine AI-infrastructuurstrategieën.

De overwegingen zijn vergelijkbaar: beslissen welke onderdelen van de AI-stack we zelf willen beheren, welke we via betrouwbare partners willen verkrijgen en hoe we wendbaar kunnen blijven naarmate technologieën, beleid en bedrijfsbehoeften veranderen. Het doel is niet om de volledige AI-stack in eigen bezit te hebben; het is om een ​​stack te ontwerpen die veerkrachtig en aanpasbaar blijft naarmate de omstandigheden veranderen. Dat betekent prioriteit geven aan flexibiliteit, het behouden van keuzevrijheid bij externe leveranciers en het waarborgen van vertrouwen en naleving van regelgeving in alle markten.

De eerste vraag is van architectonische aard. We geven prioriteit aan snelheid door te bouwen op geïntegreerde platforms, ecosystemen met één model of nauw gekoppelde architecturen. Dat kan de implementatie in een vroeg stadium versnellen, maar het kan ook kwetsbaarheid creëren. Een veerkrachtige AI-stack moet flexibel genoeg zijn om zich aan te passen aan veranderende omstandigheden. Dit omvat de mogelijkheid om modellen te wisselen of toe te voegen, workloads in verschillende omgevingen te implementeren, data te verwerken waar regelgeving dit vereist en individuele componenten te ontwikkelen zonder het hele systeem opnieuw op te bouwen.

Er is een praktisch uitgangspunt om te vragen hoe flexibel de systemen werkelijk zijn; hoe snel ze een model kunnen wisselen, een workload kunnen migreren of aan een nieuwe datavereiste kunnen voldoen; en tegen welke kosten. Een onderzoek wees uit dat we met een sterkere modulaire data-architectuur en dataportabiliteit, na de invoering van de AVG (Algemene Verordening Gegevensbescherming) van de EU, beter in staat waren de impact op de omzet en IT-kosten op te vangen dan met rigider systemen.

Dit betekent niet dat we vanaf dag één een volledig modulaire, multi-cloud, multi-model architectuur nodig hebben. We maken bewust keuzes over waar flexibiliteit het belangrijkst is.

De tweede vraag is operationeel van aard. Partnerschappen blijven essentieel om AI te schalen. We kunnen of zouden elke laag van de stack zelf moeten bouwen. Afhankelijkheid van externe leveranciers wordt echter riskant wanneer we het overzicht verliezen over waar de afhankelijkheid zich opbouwt en wanneer de omstandigheden die aan die afhankelijkheden ten grondslag liggen, zonder waarschuwing kunnen veranderen.

Leveranciersafhankelijkheid heeft altijd commerciële risico’s met zich meegebracht. Tegenwoordig is het ook een geopolitieke zorg geworden. Een overheidsrichtlijn, een exportbeperking of een verandering in bilaterale betrekkingen kan een cruciale capaciteit van de ene op de andere dag ontoegankelijk maken, en geen enkel contract biedt daartegen bescherming.

Afhankelijkheid van leveranciers heeft altijd commerciële risico’s met zich meegebracht. Tegenwoordig is het ook een geopolitieke zorg geworden.

De vraag die we zouden moeten stellen is niet: zelf ontwikkelen versus kopen, of volledige controle versus volledige delegatie. Het gaat erom te weten waar samen te werken en waar te diversifiëren, zodat geen enkele afhankelijkheid zo groot wordt dat we niet meer kunnen blijven functioneren als de omstandigheden veranderen. De risico’s van afhankelijkheid zijn in de praktijk al zichtbaar: het verlies van hun leveranciers zou een bedreiging vormen voor de continuïteit.

We moeten ons concentreren op modelaanbieders, cloudinfrastructuur, dataplatformen en orchestratietools in kaart brengen, met name de geografische spreiding van deze afhankelijkheden. Vervolgens moeten we ze beoordelen of hun exitstrategieën in de praktijk werken (niet alleen op papier) en hoe overdraagbaar de stack zou zijn als er van leverancier gewisseld moet worden of workloads gemigreerd moeten worden. Uiteindelijk is het doel om de operationele continuïteit te waarborgen wanneer een leveranciersrelatie verandert, een model niet meer beschikbaar is of een jurisdictie nieuwe beperkingen oplegt.

De derde vraag gaat over governance. Naarmate AI zich over markten en toepassingen verspreidt, staan ​​bedrijven onder toenemende druk om te voldoen aan veranderende regelgeving, duidelijke verantwoording af te leggen voor AI-beslissingen en het vertrouwen van toezichthouders, partners en klanten te behouden. Vertrouwen mag niet alleen afhangen van de reputatie van een leverancier of het bestaan ​​van een intern beleid. Het moet bewust van binnenuit worden opgebouwd en in een vroeg stadium worden geïmplementeerd.

Dit vereist concrete governance-mechanismen: duidelijke beslissingsbevoegdheden en protocollen voor menselijk toezicht, traceerbare verantwoordings- en escalatieprocedures, controleerbaarheid gedurende de volledige AI-levenscyclus, validatie vóór implementatie en monitoring na implementatie.

Governance moet vanaf het begin in de AI-stack worden ingebouwd. We mogen dit niet als een bijzaak beschouwen, ook al zullen we moeite hebben om AI met vertrouwen op te schalen.

Voor menigeen zijn deze vragen niet langer optioneel. De antwoorden zullen per keer verschillen en moeten worden overwogen in het licht van de externe omgeving, strategie, risicobereidheid en capaciteiten van elke organisatie. De volgende fase van AI-adoptie zal ons belonen als we veerkracht als ontwerpprincipe beschouwen, en niet als een noodoplossing. De winnaars zullen diegene zijn die ontwerpen met flexibiliteit in gedachten, anticiperen op kritieke afhankelijkheden en vanaf het begin governance en vertrouwen inbouwen.

AI-ontwikkelaars implementeren ook technische waarborgen tijdens de data-voorbereidingsfase vóór het trainen van modellen. Veel organisaties gebruiken geautomatiseerde filtertools om gevoelige persoonlijke informatie uit datasets te identificeren en te verwijderen. Een veelgebruikt, een open-source toolkit die is ontworpen om persoonsgegevens zoals burgerservicenummers, telefoonnummers, adressen en creditcardgegevens in ongestructureerde tekst te detecteren en te anonimiseren. Deze systemen stellen ontwikkelaars in staat om gevoelige gegevens tijdens de data-invoer te maskeren of te verwijderen, waardoor privacyrisico’s worden verminderd zonder dat openbaar beschikbare content volledig uit trainingsdatasets hoeft te worden verwijderd.

Samen illustreren deze tools hoe technische standaarden en marktmechanismen juridische kaders kunnen aanvullen bij het reguleren van AI-datapraktijken. In plaats van uitsluitend te vertrouwen op regelgeving, ondersteunen vrijwillige initiatieven vanuit het internetecosysteem steeds vaker machineleesbare signalen, geauthenticeerde crawlers en geautomatiseerde licentiesystemen. Deze systemen stellen uitgevers en ontwikkelaars in staat om te coördineren hoe AI-systemen toegang krijgen tot online informatie en deze gebruiken.

Het debat over openbaar beschikbare data en AI heeft zich grotendeels gericht op webcrawling het automatisch verzamelen van informatie van openbaar toegankelijke websites. Maar de snelle ontwikkeling van agentische AI-systemen verbreedt de reikwijdte van het probleem. In tegenstelling tot traditionele AI-modellen In tegenstelling tot systemen die simpelweg antwoorden genereren op gebruikersvragen, kunnen agentische systemen taken plannen, toegang krijgen tot externe tools, informatie ophalen en acties uitvoeren namens gebruikers. Deze mogelijkheden verschuiven de focus van privacydiscussies van statische datasets naar de manier waarop AI-systemen in realtime omgaan met informatie en machtigingen.

Een kenmerkend aspect van veel agentische systemen is hun vermogen om namens een gebruiker te handelen met diens bestaande accounts en machtigingen. Gebruikers geven AI-assistenten steeds vaker toestemming om toegang te krijgen tot diensten zoals e-mail, agenda’s of professionele platforms om berichten samen te vatten, vergaderingen in te plannen of informatie te verzamelen. Deze gedelegeerde toegang stelt agenten in staat om te werken met inloggegevens of API’s (Application Programming Interfaces) die gekoppeld zijn aan de identiteit van de gebruiker.

Deze verschuiving compliceert eerdere juridische kaders die zijn ontworpen rondom het crawlen van openbare websites. Wanneer een ontwikkelaar gegevens van openbaar toegankelijke websites scrapt, bevindt de informatie zich doorgaans niet achter een authenticatiebarrière. Agentische systemen daarentegen kunnen interageren met informatie die technisch gezien privé is, maar rechtmatig toegankelijk voor de gebruiker. Het resultaat is een nieuwe categorie van ‘privé-maar-beschikbare’ data: informatie die niet openbaar toegankelijk is op het open web, maar die een agent kan ophalen omdat deze met toestemming van de gebruiker werkt.

Beveiligingsonderzoekers hebben ook gewezen op een verwante kwetsbaarheid, bekend als indirecte prompt injectie. In dit scenario verbergt een kwaadwillende actor instructies in een webpagina, document of e-mail die later door een AI-agent wordt verwerkt. Omdat de agent toegang heeft tot de accounts of bestanden van een gebruiker, kunnen de verborgen instructies proberen de agent te manipuleren om gevoelige informatie te onthullen of onbedoelde acties uit te voeren. Onderzoekers beschrijven deze dynamiek als een variant van het ‘verwarde adjunct’-probleem, een concept uit de computerbeveiliging waarbij een systeem met legitieme privileges wordt misleid om deze te misbruiken.

Deze risico’s illustreren hoe agent systemen privacy problemen verschuiven van data in rust de informatie die is opgeslagen in datasets naar machtigingen in beweging, waarbij de kernvraag wordt hoe AI-systemen de aan hen gedelegeerde toegangsrechten uitoefenen.

AI-systemen met een agentfunctie kunnen ook zelf interacties initiëren in plaats van alleen te reageren op verzoeken van gebruikers. Zo kan een agent bijvoorbeeld berichten versturen om afspraken te maken, contact opnemen met bedrijven om informatie te verzamelen of geautomatiseerde telefoongesprekken voeren om routinetaken uit te voeren.

Deze mogelijkheden roepen vragen op over de transparantie van identiteit in digitale communicatie. Wanneer een AI-systeem contact opneemt met een persoon, weet die persoon niet altijd of hij of zij met een mens of een machine communiceert. Verschillende rechtsgebieden en brancheorganisaties onderzoeken daarom de openbaarmakingsvereisten voor door AI gegenereerde communicatie om deze uitdaging aan te pakken.

Artikel 50 van de Europese AI-wetgeving vereist bijvoorbeeld dat aanbieders AI-systemen zo ontwerpen dat personen worden geïnformeerd wanneer zij met een AI-systeem interageren, met name in het geval van chatbots en spraakassistenten, tenzij het geautomatiseerde karakter van de interactie duidelijk is uit de context.

Evenzo vereist de Californische Companion Chatbot Law (SB 243), die in 2026 van kracht werd, dat beheerders van chatbots bekendmaken dat het systeem geen mens is als een redelijk persoon anders misleid zou kunnen worden. Andere rechtsgebieden hebben een meer gerichte aanpak gekozen.

De Utah Artificial Intelligence Policy Act, die in 2024 werd aangenomen, vereist dat bedrijven bekendmaken wanneer consumenten interageren met generatieve AI in bepaalde gereguleerde contexten, zoals de gezondheidszorg of juridische dienstverlening.

Duidelijke openbaarmakingsnormen kunnen helpen ervoor te zorgen dat geautomatiseerde communicatie geen verwarring schept in de dagelijkse omgang. Personen kunnen informatie delen of anders reageren, afhankelijk van of zij denken dat zij interageren met een menselijke vertegenwoordiger of een geautomatiseerd systeem.

Onderzoekers en standaardisatieorganisaties zijn begonnen met het verkennen van meer gedetailleerde manieren waarop websites kunnen communiceren hoe AI-systemen hun inhoud mogen gebruiken. Een opkomend concept is de ontwikkeling van gestandaardiseerde AI-voorkeurssignalen die verder gaan dan de binaire ’toestaan ​​of blokkeren’-structuur van robots.txt.

Binnen de Internet Engineering Task Force (IETF) – de organisatie die verantwoordelijk is voor veel belangrijke internetstandaarden – hebben onderzoekers mechanismen voorgesteld waarmee websites specifiekere beleidsregels voor geautomatiseerde systemen kunnen formuleren. Deze beleidsregels kunnen onderscheid maken tussen verschillende vormen van datagebruik, zoals het toestaan ​​van indexering voor zoekopdrachten en het verbieden van training voor AI.

In de praktijk zouden dergelijke signalen kunnen worden overgebracht via machineleesbare metadata, HTTP-headers of configuratiebestanden in de rootmap van een website. Indien breed geaccepteerd, zouden ze geautomatiseerde systemen in staat stellen om sitespecifiek beleid programmatisch te interpreteren en na te leven, waardoor het voor ontwikkelaars gemakkelijker wordt om op grote schaal rekening te houden met de voorkeuren van uitgevers.

Een andere uitdaging bij het beheren van geautomatiseerde toegang is het verifiëren van de identiteit van crawlers. Websitebeheerders gebruiken vaak user-agent strings om bots te identificeren, maar deze identificatoren kunnen gemakkelijk worden vervalst door kwaadwillende actoren.

Om dit probleem aan te pakken, hebben onderzoekers cryptografische botauthenticatiesystemen voorgesteld waarmee geautomatiseerde agenten hun identiteit kunnen verifiëren bij het bezoeken van websites. Eén benadering bouwt voort op HTTP-berichtsignaturen, een zich ontwikkelende standaard waarmee een client verzoeken cryptografisch kan ondertekenen, zodat de ontvangende server de identiteit van de afzender kan bevestigen.

In dit model zou een crawler, beheerd door een onderzoeksinstelling of technologiebedrijf, een verifieerbare handtekening aan elk verzoek kunnen toevoegen. Websites zouden dan kunnen bevestigen dat een bot die beweert bij een bepaalde organisatie te horen, dat ook daadwerkelijk doet. Als een crawler het beleid van een site schendt, biedt de handtekening een duidelijk auditspoor dat de activiteit koppelt aan een specifieke operator.

Het opkomende “onderhandelde web” creëert ook nieuwe mogelijkheden voor commerciële datalicenties. Een mechanisme is gebaseerd op de HTTP 402-statuscode “Payment Required”, die aangeeft dat toegang tot een bron betaling vereist. Hoewel de code historisch gezien beperkt is gebruikt, onderzoeken sommige platforms manieren om deze te gebruiken als onderdeel van geautomatiseerde licentiekaders.

Webinfrastructuurproviders zoals Cloudflare zijn bijvoorbeeld begonnen met experimenteren met systemen waarmee uitgevers aan AI-crawlers kunnen aangeven dat bepaalde content een betaalde licentie vereist. In principe zou een crawler die een dergelijk signaal tegenkomt, automatisch een licentietransactie kunnen initiëren of doorverwijzen naar een betalingsmechanisme. Hoewel deze systemen zich nog in een vroeg ontwikkelingsstadium bevinden, illustreren ze hoe technische standaarden programmatische marktplaatsen voor data-toegang kunnen ondersteunen.

AI-ontwikkelaars implementeren ook technische waarborgen tijdens de data-voorbereidingsfase vóór het trainen van modellen. Veel organisaties gebruiken geautomatiseerde filtertools om gevoelige persoonlijke informatie uit datasets te identificeren en te verwijderen. Een veelgebruikt voorbeeld is Microsoft Presidio, een open-source toolkit die is ontworpen om persoonsgegevens zoals burgerservicenummers, telefoonnummers, adressen en creditcardgegevens in ongestructureerde tekst te detecteren en te anonimiseren. Deze systemen stellen ontwikkelaars in staat om gevoelige gegevens tijdens de data-invoer te maskeren of te verwijderen, waardoor privacyrisico’s worden verminderd zonder dat openbaar beschikbare content volledig uit trainingsdatasets hoeft te worden verwijderd.

Samen illustreren deze tools hoe technische standaarden en marktmechanismen juridische kaders kunnen aanvullen bij het reguleren van AI-datapraktijken. In plaats van uitsluitend te vertrouwen op regelgeving, ondersteunen vrijwillige initiatieven vanuit het internetecosysteem steeds vaker machineleesbare signalen, geauthenticeerde crawlers en geautomatiseerde licentiesystemen. Deze systemen stellen uitgevers en ontwikkelaars in staat om te coördineren hoe AI-systemen toegang krijgen tot online informatie en deze gebruiken.

De Europese Unie benadert openbaar beschikbare gegevens vanuit een breder privacykader dat is gebaseerd op fundamentele rechten. De Algemene Verordening Gegevensbescherming (AVG) regelt hoe organisaties persoonsgegevens verwerken, inclusief informatie die op openbaar toegankelijke websites verschijnt.

Volgens artikel 6 van de AVG moeten organisaties een rechtmatige grondslag voor de verwerking van persoonsgegevens vaststellen. Een van die grondslagen is “gerechtvaardigd belang”, wat vereist dat organisaties aantonen dat hun belangen zwaarder wegen dan de privacybelangen van individuen. De verordening kent individuen ook rechten toe met betrekking tot hun persoonsgegevens, waaronder het recht op verwijdering op grond van artikel 17, dat individuen in staat stelt om onder bepaalde omstandigheden verwijdering van persoonsgegevens te verzoeken. Sommige Europese toezichthouders hebben aangegeven dat deze rechten mogelijk van toepassing zijn op AI-ontwikkelaars die modellen trainen op persoonsgegevens die van het web zijn verzameld, wat vragen oproept over hoe dergelijke verzoeken kunnen worden uitgevoerd zodra informatie in de parameters van een model is opgenomen.

Ook het auteursrecht raakt het gebruik van openbaar beschikbare gegevens voor AI-training. Artikel 4 van de EU-richtlijn inzake auteursrecht in de digitale interne markt staat tekst- en datamining van openbaar toegankelijke inhoud toe, maar staat rechthebbenden toe zich hiervan af te melden door hun rechten via machineleesbare middelen te behouden. Als gevolg hiervan moeten AI-ontwikkelaars die in Europa actief zijn, rekening houden met zowel auteursrechtelijke afmeldingsmogelijkheden als gegevensbeschermingsregels bij het verzamelen van informatie van het open web.

In de praktijk introduceert deze norm juridische onzekerheid voor grootschalige webscraping. Toezichthouders moeten beoordelen of het verzamelen van openbaar beschikbare persoonsgegevens voor het trainen van AI-systemen voldoet aan de toets van het legitiem belang en of de omvang van de gegevensverzameling proportioneel blijft. Europese gegevensbeschermingsautoriteiten hebben deze balans steeds kritischer bekeken naarmate generatieve AI-systemen opschalen.

De EU heeft ook AI-specifieke wetgeving ingevoerd. De Artificial Intelligence Act, die in 2024 werd aangenomen, bevat gerichte beperkingen op bepaalde praktijken voor gegevensverzameling. Artikel 5 verbiedt het creëren of uitbreiden van gezichtsherkenningsdatabases door het ongerichte scrapen van gezichtsafbeeldingen van internet, wat de bezorgdheid over massale biometrische identificatie weerspiegelt.

Deze vereisten staan ​​in wisselwerking met bredere nalevingsverplichtingen onder de AVG, waaronder documentatie, risicobeoordelingen en gegevensbeschermingswaarborgen. Voor start-ups en kleinere ontwikkelaars kunnen deze verplichtingen aanzienlijke administratieve kosten met zich meebrengen. Verschillende studies en brancheonderzoeken hebben gesuggereerd dat de complexiteit van de regelgeving bijdraagt ​​aan de bezorgdheid over de concurrentiepositie van de Europese Unie op het gebied van AI-ontwikkeling en van invloed kan zijn op de locatiekeuze van sommige bedrijven voor onderzoek en infrastructuur.

Naast de debatten over regelgeving is het internetecosysteem begonnen met de ontwikkeling van technische mechanismen waarmee uitgevers en AI-ontwikkelaars kunnen coördineren hoe geautomatiseerde systemen toegang krijgen tot online content en deze gebruiken. In plaats van websites te dwingen te kiezen tussen het volledig blokkeren of volledig toestaan ​​van AI-crawlers, ondersteunen deze tools een meer “onderhandeld web” waarin website-eigenaren gedetailleerde voorkeuren kunnen aangeven en ontwikkelaars hun systemen kunnen programmeren om die signalen automatisch te respecteren.

Veel van deze mechanismen bouwen voort op reeds lang bestaande internetstandaarden en introduceren tegelijkertijd nieuwe protocollen die specifiek zijn ontworpen voor AI-systemen.

Debatten over AI en publiekelijk beschikbare data beginnen vaak met een fundamentele realiteit: informatie die online publiekelijk beschikbaar is, kan worden hergebruikt en geanalyseerd op schaal of in contexten die de oorspronkelijke uitgever mogelijk niet had voorzien. Het internet bevat enorme hoeveelheden persoonlijke informatie die individuen, organisaties en overheden publiceren voor specifieke doeleinden – professioneel netwerken, maatschappelijke transparantie, onderzoek of communicatie. Naarmate AI-systemen deze informatie op nieuwe manieren analyseren, moeten beleidsmakers overwegen hoe bestaande verwachtingen over openbare informatie van toepassing zijn in het AI-tijdperk, en hoe privacynormen in de loop der tijd kunnen veranderen.

Een groot deel van het openbare internet bevat persoonsgegevens (PII) – gegevens die een specifiek individu kunnen identificeren. Sociale mediaprofielen kunnen iemands leeftijd, werkgever of woonplaats onthullen. Professionele websites vermelden vaak werkervaring en opleidingsachtergrond. Overheidsdocumenten kunnen informatie bevatten over eigendom, campagnedonaties of bedrijfsregistraties. Omdat deze informatie op openbaar toegankelijke webpagina’s verschijnt, hebben zoekmachines deze al lange tijd gecrawld en geïndexeerd om gebruikers te helpen relevante informatie online te vinden.

AI verandert de schaal en de manier waarop systemen deze informatie kunnen verwerken. Traditionele zoekmachines leiden gebruikers naar bestaande webpagina’s, terwijl AI-systemen grote verzamelingen documenten kunnen analyseren en samenvattingen of antwoorden kunnen genereren die informatie uit meerdere bronnen synthetiseren. Deze mogelijkheid kan de productiviteit en het onderzoek verbeteren, maar roept ook vragen op over hoe gemakkelijk persoonlijke informatie kan worden verzameld of aan het licht kan komen via geautomatiseerde systemen.

Sommige waarnemers wijzen ook op de persistentie van digitale informatie. Menselijke interacties omvatten van oudsher veel vluchtige momenten – informele gesprekken, tijdelijke gegevens of vluchtige communicatie – waarvan de meeste in de loop der tijd vervaagden. Het internet heeft deze dynamiek veranderd door duurzame digitale archieven te creëren. Soortgelijke zorgen rezen al toen eerdere technologieën zich wijdverspreidden, zoals fotografie, opgenomen media en online zoekmachines.³ In elk geval paste de samenleving zich aan technologieën aan die informatie bewaarden of het gemakkelijker maakten om deze terug te vinden.

AI roept verwante vragen op in een nieuwe technische context. Wanneer ontwikkelaars modellen trainen, verwerken ze patronen uit grote datasets in miljarden of triljoenen interne parameters, bekend als modelgewichten. Omdat deze systemen statistische verbanden leren in plaats van documenten direct op te slaan, kan het lastig zijn om de invloed van specifieke informatie na de training te verwijderen. Onderzoekers blijven technische benaderingen zoals datasetfiltering, modelbewerking en verbeterde trainingsmethoden onderzoeken om deze uitdagingen aan te pakken.

Ten slotte omvatten discussies over openbaar beschikbare data en AI vaak bredere maatschappelijke overwegingen. Grootschalige geautomatiseerde analyses kunnen patronen of verbanden aan het licht brengen die handmatig moeilijk te identificeren zouden zijn. In veel contexten levert deze mogelijkheid duidelijke voordelen op – bijvoorbeeld door onderzoekers te helpen bij de analyse van wetenschappelijke literatuur of door journalisten in staat te stellen grote datasets met openbare documenten te onderzoeken. Tegelijkertijd roept het vragen op over hoe innovatie in evenwicht te brengen is met redelijke verwachtingen over hoe persoonlijke informatie die online wordt gepubliceerd, hergebruikt kan worden.

Deze spanningen zijn niet nieuw, maar AI brengt ze scherper in beeld. Bij het evalueren van de rol van openbaar beschikbare data in de ontwikkeling van AI, moeten beleidsmakers eerst bekijken hoe bestaande juridische en regelgevende kaders van toepassing zijn op het verzamelen en gebruiken van openbaar toegankelijke informatie, en hoe zowel individuele belangen als het publieke belang bij technologische vooruitgang worden behartigd.