AI-ontwikkelaars implementeren ook technische waarborgen tijdens de data-voorbereidingsfase vóór het trainen van modellen. Veel organisaties gebruiken geautomatiseerde filtertools om gevoelige persoonlijke informatie uit datasets te identificeren en te verwijderen. Een veelgebruikt, een open-source toolkit die is ontworpen om persoonsgegevens zoals burgerservicenummers, telefoonnummers, adressen en creditcardgegevens in ongestructureerde tekst te detecteren en te anonimiseren. Deze systemen stellen ontwikkelaars in staat om gevoelige gegevens tijdens de data-invoer te maskeren of te verwijderen, waardoor privacyrisico’s worden verminderd zonder dat openbaar beschikbare content volledig uit trainingsdatasets hoeft te worden verwijderd.
Samen illustreren deze tools hoe technische standaarden en marktmechanismen juridische kaders kunnen aanvullen bij het reguleren van AI-datapraktijken. In plaats van uitsluitend te vertrouwen op regelgeving, ondersteunen vrijwillige initiatieven vanuit het internetecosysteem steeds vaker machineleesbare signalen, geauthenticeerde crawlers en geautomatiseerde licentiesystemen. Deze systemen stellen uitgevers en ontwikkelaars in staat om te coördineren hoe AI-systemen toegang krijgen tot online informatie en deze gebruiken.
Het debat over openbaar beschikbare data en AI heeft zich grotendeels gericht op webcrawling het automatisch verzamelen van informatie van openbaar toegankelijke websites. Maar de snelle ontwikkeling van agentische AI-systemen verbreedt de reikwijdte van het probleem. In tegenstelling tot traditionele AI-modellen In tegenstelling tot systemen die simpelweg antwoorden genereren op gebruikersvragen, kunnen agentische systemen taken plannen, toegang krijgen tot externe tools, informatie ophalen en acties uitvoeren namens gebruikers. Deze mogelijkheden verschuiven de focus van privacydiscussies van statische datasets naar de manier waarop AI-systemen in realtime omgaan met informatie en machtigingen.
Een kenmerkend aspect van veel agentische systemen is hun vermogen om namens een gebruiker te handelen met diens bestaande accounts en machtigingen. Gebruikers geven AI-assistenten steeds vaker toestemming om toegang te krijgen tot diensten zoals e-mail, agenda’s of professionele platforms om berichten samen te vatten, vergaderingen in te plannen of informatie te verzamelen. Deze gedelegeerde toegang stelt agenten in staat om te werken met inloggegevens of API’s (Application Programming Interfaces) die gekoppeld zijn aan de identiteit van de gebruiker.
Deze verschuiving compliceert eerdere juridische kaders die zijn ontworpen rondom het crawlen van openbare websites. Wanneer een ontwikkelaar gegevens van openbaar toegankelijke websites scrapt, bevindt de informatie zich doorgaans niet achter een authenticatiebarrière. Agentische systemen daarentegen kunnen interageren met informatie die technisch gezien privé is, maar rechtmatig toegankelijk voor de gebruiker. Het resultaat is een nieuwe categorie van ‘privé-maar-beschikbare’ data: informatie die niet openbaar toegankelijk is op het open web, maar die een agent kan ophalen omdat deze met toestemming van de gebruiker werkt.
Beveiligingsonderzoekers hebben ook gewezen op een verwante kwetsbaarheid, bekend als indirecte prompt injectie. In dit scenario verbergt een kwaadwillende actor instructies in een webpagina, document of e-mail die later door een AI-agent wordt verwerkt. Omdat de agent toegang heeft tot de accounts of bestanden van een gebruiker, kunnen de verborgen instructies proberen de agent te manipuleren om gevoelige informatie te onthullen of onbedoelde acties uit te voeren. Onderzoekers beschrijven deze dynamiek als een variant van het ‘verwarde adjunct’-probleem, een concept uit de computerbeveiliging waarbij een systeem met legitieme privileges wordt misleid om deze te misbruiken.
Deze risico’s illustreren hoe agent systemen privacy problemen verschuiven van data in rust de informatie die is opgeslagen in datasets naar machtigingen in beweging, waarbij de kernvraag wordt hoe AI-systemen de aan hen gedelegeerde toegangsrechten uitoefenen.
AI-systemen met een agentfunctie kunnen ook zelf interacties initiëren in plaats van alleen te reageren op verzoeken van gebruikers. Zo kan een agent bijvoorbeeld berichten versturen om afspraken te maken, contact opnemen met bedrijven om informatie te verzamelen of geautomatiseerde telefoongesprekken voeren om routinetaken uit te voeren.
Deze mogelijkheden roepen vragen op over de transparantie van identiteit in digitale communicatie. Wanneer een AI-systeem contact opneemt met een persoon, weet die persoon niet altijd of hij of zij met een mens of een machine communiceert. Verschillende rechtsgebieden en brancheorganisaties onderzoeken daarom de openbaarmakingsvereisten voor door AI gegenereerde communicatie om deze uitdaging aan te pakken.
Artikel 50 van de Europese AI-wetgeving vereist bijvoorbeeld dat aanbieders AI-systemen zo ontwerpen dat personen worden geïnformeerd wanneer zij met een AI-systeem interageren, met name in het geval van chatbots en spraakassistenten, tenzij het geautomatiseerde karakter van de interactie duidelijk is uit de context.
Evenzo vereist de Californische Companion Chatbot Law (SB 243), die in 2026 van kracht werd, dat beheerders van chatbots bekendmaken dat het systeem geen mens is als een redelijk persoon anders misleid zou kunnen worden. Andere rechtsgebieden hebben een meer gerichte aanpak gekozen.
De Utah Artificial Intelligence Policy Act, die in 2024 werd aangenomen, vereist dat bedrijven bekendmaken wanneer consumenten interageren met generatieve AI in bepaalde gereguleerde contexten, zoals de gezondheidszorg of juridische dienstverlening.
Duidelijke openbaarmakingsnormen kunnen helpen ervoor te zorgen dat geautomatiseerde communicatie geen verwarring schept in de dagelijkse omgang. Personen kunnen informatie delen of anders reageren, afhankelijk van of zij denken dat zij interageren met een menselijke vertegenwoordiger of een geautomatiseerd systeem.