AI-systemen zijn steeds beter in staat om zonder menselijke tussenkomst end-to-end aanvallen op cloudomgevingen uit te voeren. Dat blijkt uit nieuw onderzoek van Unit 42, het onderzoeksteam van Palo Alto Networks. De bevindingen laten zien dat bestaande detectiesystemen moeite hebben om dit soort aanvallen te herkennen, en dat de tijd tussen eerste toegang en dataverlies snel afneemt.
Unit 42, het onderzoeksteam van Palo Alto Networks, onderzocht in hoeverre AI-systemen volledig autonoom complexe cyberaanvallen kunnen uitvoeren op cloudomgevingen. Eerder onderzoek van Unit 42 toonde al aan dat AI als operator kan functioneren binnen cyberoperaties. De nieuwe vraag was of menselijke sturing nog noodzakelijk is, of dat systemen een volledige aanvalsketen zelfstandig kunnen doorlopen.
Proof-of-concept met meerdere AI-agents
Voor het onderzoek ontwikkelde Unit 42 een proof-of-concept genaamd Zealot: een systeem waarin meerdere AI-agents samenwerken binnen één aanvalsscenario. In een gecontroleerde testomgeving wist Zealot zelfstandig een volledige aanval uit te voeren. Volgens Unit 42 omvatte dit het misbruiken van kwetsbaarheden, het verkrijgen van toegangsgegevens, het toe-eigenen van beheerrechten en het buitmaken van data.
Het onderzoeksteam stelt dat huidige AI-modellen aanvalsstappen zelfstandig aan elkaar kunnen koppelen met minimale menselijke begeleiding. Daardoor neemt de tijd tussen eerste toegang en dataverlies verder af. Volledig autonoom opereren bleek in de tests nog niet mogelijk zonder enige menselijke controle: handmatig ingrijpen was soms nodig om te voorkomen dat het systeem vastliep in irrelevante zijpaden.
Detectiesystemen onvoldoende voorbereid
Een opvallende bevinding is dat bestaande detectiesystemen moeite hebben om AI-gedreven aanvallen te herkennen. Unit 42 geeft aan dat deze systemen doorgaans zijn afgestemd op menselijk aanvalsgedrag. Omdat AI razendsnel meerdere acties combineert, valt dat patroon buiten het bereik van traditionele detectiemechanismen.
Het onderzoeksteam verwacht dat de ontwikkeling van AI-gedreven dreigingen snel doorgaat. Organisaties die hun securitystrategie niet aanpassen aan dit nieuwe dreigingslandschap, lopen het risico dat hun bestaande verdedigingslagen onvoldoende bescherming bieden tegen aanvallers die AI inzetten als operationeel instrument.
