De Autoriteit Persoonsgegevens (AP) heeft de directie Toezicht en Coördinatie AI/Algoritmes (TCA) opgericht. De directie zet het coördinerende toezicht op AI en algoritmes voort en bereidt het markttoezicht op de Europese AI-verordening voor. Formeel is de AP nog niet aangewezen als markttoezichthouder, omdat de Nederlandse uitvoeringswet nog ontbreekt.
Met TCA brengt de AP twee sporen samen: het coördinerende toezicht op AI en algoritmes dat de toezichthouder sinds 2023 uitvoert en de voorbereiding op het toekomstige markttoezicht. Het kabinet is van plan de AP samen met de Rijksinspectie Digitale Infrastructuur (RDI) een centrale rol te geven in het Nederlandse toezicht op de AI-verordening. Bevoegdheden in het markttoezicht krijgt de AP pas zodra de Nederlandse Uitvoeringswet AI-verordening van kracht is.
Twee afdelingen
TCA bestaat uit twee afdelingen. De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) richt zich op de impact van AI en algoritmes op mensen, grondrechten en de samenleving. ARC signaleert ontwikkelingen en risico’s, doet onderzoek en werkt samen met andere toezichthouders en deskundigen. Volgens de AP besteedt de afdeling bijzondere aandacht aan algoritmische systemen met grote impact, algoritmeregisters en auditeringskaders. Een voorbeeld is het toetsen van risicoselectie-instrumenten op discriminatie en accuraatheid.
De afdeling Markttoezicht AI (MTA) bereidt het toezicht op de AI-verordening voor. MTA bouwt kennis en technische expertise op om AI-systemen te kunnen onderzoeken en testen, en houdt zich bezig met voorlichting en ondersteuning van verantwoorde innovatie. Voor AI-veiligheid werken nationale toezichthouders samen met het Europese AI Office, onder meer bij het testen en evalueren van zogeheten frontier-modellen en -systemen. De AP verwacht dat signalen die ARC oppikt straks helpen om het markttoezicht te richten.
AI sandbox en coördinatiecentrum
Samen met de RDI zet de AP een AI sandbox op. In die gecontroleerde omgeving kunnen organisaties met de toezichthouders aan AI-systemen werken en deze in lijn brengen met de AI-verordening. De AP stelt dat toezicht organisaties ook duidelijkheid moet geven over wat wel is toegestaan. Daarnaast werken beide toezichthouders aan een gezamenlijk AI Coördinatiecentrum.
De AP verwijst naar recente incidenten waarbij AI-agents zonder autorisatie toegang kregen tot private en publieke online omgevingen. Volgens de toezichthouder laten die voorvallen zien dat naast regelgeving ook vroegtijdig toezicht nodig is.
Regels gelden deels al
Onderdelen van de AI-verordening zijn al van kracht. Sommige toepassingen van AI zijn verboden en voor AI-gegenereerde content zoals video’s, afbeeldingen en teksten gelden transparantieverplichtingen. Vanaf 2 december geldt daarnaast een verbod op AI die mensen zonder toestemming virtueel uitkleedt.
AP-bestuurslid Katja Mur vergelijkt de regels voor AI met verkeersregels die steeds concreter worden, terwijl het verkeer drukker en sneller wordt. Volgens Mur kan de toezichthouder daarom niet wachten tot alle regels er zijn. De AP startte drie jaar geleden met de opbouw van het AI-toezicht en zet die met de nieuwe directie voort, geeft Mur aan.
Uitvoeringswet nog in de maak
De AP begint niet vanaf nul. Vanuit de AVG houdt de toezichthouder al jaren toezicht op het gebruik van persoonsgegevens, ook wanneer daarbij algoritmes en AI worden ingezet. Die ervaring neemt de AP mee in het nieuwe AI-toezicht.
Over de aanwijzing, bevoegdheden en financiering van de AP als toezichthouder lopen op verschillende niveaus gesprekken. De AP heeft eerder dit jaar de Uitvoeringswet AI-verordening getoetst en daarbij in kaart gebracht welke capaciteit en financiering nodig zijn. Daarvoor deed de toezichthouder ook onderzoek naar de omvang en ontwikkeling van de Nederlandse AI-markt. De wet is nog niet afgerond, terwijl de Europese deadline voor het aanwijzen van toezichthouders op 2 augustus 2025 lag.
