Wanneer AI faalt: encryptie als sleutel tot betrouwbare informatie

Cybersecurity- en dataprotectiestrateeg Onur Korucu houdt tijdens Cybersec Netherlands een keynote met de titel The Innovation-Ethics Paradox: Can AI Be Both Bold and Responsible. In haar bijdrage staat de vraag centraal of AI tegelijkertijd radicaal vernieuwend en verantwoord kan zijn. Het thema raakt aan een groeiend probleem: de opkomst van zogeheten data hallucinaties, foutieve of misleidende uitkomsten van AI-systemen die steeds vaker een rol spelen in besluitvorming en securityprocessen. 

Korucu, lid van de Forbes Tech Council en wereldwijd actief als spreker, ziet dat organisaties volop experimenteren met AI maar vaak onvoldoende stilstaan bij de kwetsbaarheden die daarmee gepaard gaan. Terwijl een mens in staat is om aannames te corrigeren of feiten te verifiëren, produceert een taalmodel teksten op basis van waarschijnlijkheden. Het gevolg is dat een systeem overtuigend kan klinken, maar in werkelijkheid fictieve data presenteert. Voor sectoren waar integriteit van informatie van levensbelang is, zoals cybersecurity, compliance en risicomanagement, is dat een reëel gevaar.

Onderzoek laat zien dat hallucinaties niet soms opduiken, maar een ingebakken kenmerk zijn van hoe grote taalmodellen functioneren. Ze ontstaan doordat de algoritmen patronen uit trainingsdata extrapoleren zonder een echt begrip van de werkelijkheid. Voor een securityteam kan dit betekenen dat een AI-ondersteund detectiesysteem verkeerde meldingen genereert of juist dreigingen mist. Ook kan misleidende output bijdragen aan desinformatiecampagnes of verkeerde beleidsbeslissingen.

Betrouwbare databronnen

De sector zoekt intussen naar manieren om dit risico te verkleinen. Een bekende benadering is retrieval-augmented generation, waarbij een model zijn antwoorden aanvult met actuele en betrouwbare externe databronnen. Andere onderzoekers werken aan algoritmen die automatisch de betrouwbaarheid van een AI-antwoord inschatten of onzekerheid expliciet aangeven. Ook worden privacyversterkende technologieën, zoals federated learning of zero-knowledge proof, ingezet om de inzet van AI in gevoelige domeinen te ondersteunen. Nuttige technieken, maar het gaat hierbij wel om correcties achteraf.

Korucu kiest voor een fundamenteler perspectief: in plaats van pleisters plakken pleit zij voor encryptie aan de basis van AI-modellen. Volgens haar ontstaat echte weerbaarheid pas wanneer beveiliging, integriteit en transparantie vanaf het ontwerp zijn meegenomen. Technologieën zoals fully homomorphic encryption maken het mogelijk om berekeningen uit te voeren op versleutelde data, zonder die ooit te ontsleutelen. Daarmee is de privacy beter geborgd, maar wordt ook de kans op manipulatie of desinformatie stukken kleiner. Universiteiten en onderzoeksinstituten werken al aan toepassingen die aantonen dat dit haalbaar is, al is de rekenintensiteit nog wel een drempel.

Trustworthy AI

Het idee sluit aan bij bredere internationale discussies over trustworthy AI. Daarbij gaat het om systemen die uitlegbaar, robuust en verantwoord zijn. Encryptie speelt in die context een sleutelrol, omdat het voorkomt dat data onderweg gecompromitteerd raken en het vertrouwen in de output wordt ondermijnd. Voor CISO’s betekent dit dat ze niet langer kunnen volstaan met het implementeren van losse mitigaties, maar strategische keuzes moeten maken over hoe AI-systemen vanaf de basis zijn ingericht.

Korucu’s keynote zal die discussie aanscherpen door te laten zien dat innovatie en ethiek elkaar niet hoeven uit te sluiten. Integendeel: juist door encryptie en governance in te bouwen, ontstaat er ruimte om AI grootschalig en creatief toe te passen zonder dat organisaties hun geloofwaardigheid of compliance op het spel zetten. Voor bestuurders en securityverantwoordelijken die balanceren tussen kansen en risico’s, biedt haar verhaal praktische handvatten en een strategische visie op de toekomst van AI.

ChannelConnect is mediapartner van Cybersec Netherlands 2025

De ICT-wereld is snel. Mis niets.

Het allerlaatste ICT nieuws in jouw mailbox

Aanmelden