Het Europees Comité voor gegevensbescherming (EDPB) en de Europese Toezichthouder voor gegevensbescherming (EDPS) hebben een gezamenlijk advies uitgebracht over het voorstel van de Europese Commissie voor de ‘Digitale Omnibus inzake AI’. Het voorstel beoogt de implementatie van bepaalde geharmoniseerde regels in het kader van de AI-wetgeving te vereenvoudigen om een effectieve toepassing ervan te waarborgen.
Het EDPB en de EDPS steunen het doel om praktische uitdagingen met betrekking tot de implementatie van de AI-wetgeving aan te pakken. Administratieve vereenvoudiging mag echter niet ten koste gaan van de bescherming van fundamentele rechten. Het gezamenlijke advies erkent de complexiteit van het AI-landschap en verwelkomt de inspanningen om de lasten voor organisaties te verlichten. Bepaalde voorgestelde wijzigingen zouden echter de bescherming van personen in de context van AI kunnen ondermijnen.
Innovatie en efficiëntie zijn cruciaal en kunnen hand in hand gaan met het waarborgen van de verantwoordingsplicht van AI-aanbieders. We verwelkomen EU-brede regelgevingssandboxes en vereenvoudigde procedures om innovatie te bevorderen en het mkb in Europa te ondersteunen. Gegevensbeschermingsautoriteiten moeten echter een centrale rol blijven spelen bij de verwerking van persoonsgegevens. Samenwerking tussen gegevensbeschermingsautoriteiten, het AI-bureau en markttoezichtautoriteiten is essentieel om rechtszekerheid voor organisaties te garanderen en innovatie te stimuleren, met behoud van de fundamentele rechten van individuen.
Vereenvoudiging is welkom wanneer het verplichtingen verduidelijkt, individuen meer macht geeft en het vertrouwen versterkt. Er moet een zorgvuldige balans worden gevonden door de administratieve lasten waar mogelijk te verminderen, zonder de bescherming van fundamentele rechten te ondermijnen. Bovendien moeten we ervoor zorgen dat de rol van het AI-bureau duidelijk is gedefinieerd en geen afbreuk doet aan het onafhankelijke toezicht van de instellingen van de Europese Unie op hun eigen gebruik van AI-systemen.
Het voorstel zou de mogelijkheid om bijzondere categorieën persoonsgegevens (zoals etniciteit of gezondheidsgegevens) te verwerken voor het opsporen en corrigeren van bias uitbreiden naar aanbieders en gebruikers van AI-systemen en -modellen, onder voorbehoud van passende waarborgen. Het Europees Comité voor gegevensbescherming (EDPB) en de Europese Toezichthouder voor gegevensbescherming (EDPS) bevelen aan om te specificeren dat deze gegevens alleen mogen worden gebruikt voor het opsporen en corrigeren van bias in afgebakende situaties waarin het risico op nadelige gevolgen van dergelijke bias voldoende ernstig wordt geacht.
Het EDPB en de EDPS raden af om de registratieplicht voor AI-systemen te schrappen wanneer deze onder de categorieën met een hoog risico vallen, zelfs als de aanbieders hun systemen als ‘niet-hoog risico’ beschouwen. Het EDPB en de EDPS zijn van mening dat deze wijziging de verantwoordingsplicht aanzienlijk zou ondermijnen en een ongewenste prikkel zou creëren voor aanbieders om ten onrechte vrijstellingen te claimen om publieke controle te vermijden.
Het EDPB en de EDPS verwelkomen de oprichting van regelgevende sandboxes voor AI op EU-niveau om innovatie te bevorderen. Om rechtszekerheid te waarborgen, beveelt het gezamenlijke advies aan dat bevoegde gegevensbeschermingsautoriteiten (DPA’s) rechtstreeks betrokken worden bij het toezicht op de gegevensverwerking binnen sandboxes. Daarnaast dient het Europees Comité voor gegevensbescherming (EDPB) een adviserende rol en de status van waarnemer te krijgen bij de Europese Raad voor kunstmatige intelligentie (AI) om consistentie te garanderen met betrekking tot sandboxes op EU-niveau. Verder dient de toezichtsrol van het AI-bureau ten aanzien van AI-systemen gebaseerd op een algemeen AI-model duidelijk te worden omschreven in het uitvoerende deel en mag deze niet overlappen met het onafhankelijke toezicht door het Europees Comité voor gegevensbescherming (EDPS) op AI-systemen die ontwikkeld of gebruikt worden door instellingen, organen, bureaus of agentschappen van de Unie.
Het EDPB en het EDPS steunen het doel om de samenwerking tussen autoriteiten of organen voor grondrechten en markttoezichtautoriteiten te stroomlijnen en te vertrouwen op een centraal contactpunt om de efficiëntie te verhogen. Zij bevelen echter aan de rol van de markttoezichtautoriteiten als administratieve contactpunten voor de uitvoering en doorzending van verzoeken aan aanbieders en implementeerders te verduidelijken en ervoor te zorgen dat de onafhankelijkheid en bevoegdheden van de DPA’s niet worden aangetast.
Het Europees Comité voor de bescherming van ethiek (EDPB) en het Europees Comité voor de bescherming van ethiek (EDPS) bevelen ook aan om de plicht voor AI-aanbieders en -implementeerders te handhaven om ervoor te zorgen dat hun personeel AI-geletterdheid bezit. Elke nieuwe verplichting voor de Commissie of de lidstaten om AI-geletterdheid te bevorderen, moet een aanvulling zijn op, en geen vervanging van, de verantwoordelijkheden van de organisaties die deze systemen daadwerkelijk ontwikkelen en gebruiken.
Tot slot uiten het EDPB en het EDPS hun bezorgdheid over het voorgestelde uitstel van de kernbepalingen voor AI-systemen met een hoog risico. Gezien de snelle ontwikkeling van het AI-landschap, verzoeken zij de medewetgevers te overwegen of de oorspronkelijke planning voor bepaalde verplichtingen, zoals transparantievereisten, kan worden gehandhaafd en om vertragingen zoveel mogelijk te beperken.