Hackersgroepen die gelieerd zijn aan China, Rusland, Noord-Korea en Iran zetten AI in bij verkenning, malwareontwikkeling en social engineering. Volgens onderzoek van TrendAI stappen Chinese actoren over op binnenlandse modellen zodra de toegang tot westerse modellen wegvalt. Ook Russische malware maakt gebruik van een Chinees model.
Dat blijkt uit het rapport From State AI Ecosystems to Global APT Cyberthreats van TrendAI. De onderzoekers brachten in kaart hoe APT-groepen uit de vier landen AI gebruiken, van het op schaal aanpassen van exploits tot het inzetten van deepfake-identiteiten bij arbeidsfraude. Westerse AI-aanbieders proberen de toegang van deze groepen tot hun modellen te beperken. Volgens TrendAI heeft China inmiddels een eigen AI-ecosysteem opgebouwd waar aan China gelieerde actoren al actief gebruik van maken.
Chinese groepen wisselen tijdens aanvallen van model
TrendAI stelt dat Chinese cyberactoren binnenlandse AI inmiddels structureel in het aanvalsproces integreren, waar het eerder bij experimenten bleef. Bij een recente aanval die de onderzoekers toeschrijven aan de APT-groep Earth Lamia, stapte de aanvaller tijdens een lopende inbraak over van het westerse model Claude naar het Chinese MiMo-V2.5-Pro, toen de toegang tot Claude onbetrouwbaar werd. De groepen Earth Krahang en Earth Naga gebruiken AI volgens het rapport om exploits op schaal aan te passen en malwarecode iteratief te genereren en te herschrijven.
Rusland, Noord-Korea en Iran
Volgens TrendAI hoeft een land geen koploper in AI-ontwikkeling te zijn om AI in cyberaanvallen te benutten. Rusland compenseert beperkingen in de eigen AI-infrastructuur door bestaande modellen te hergebruiken. De onderzoekers wijzen op de malware LAMEHUG, die via een openbare API met het Chinese model Qwen opdrachten genereert op een gecompromitteerd systeem.
Noord-Korea zet AI in om via IT-werknemers geld en bedrijfsgeheimen te verkrijgen. Agenten gebruiken deepfakes, door AI gegenereerde cv’s en live ondersteuning van taalmodellen tijdens sollicitatiegesprekken om binnen te komen bij westerse bedrijven, waaronder AI-bedrijven. Iraanse groepen zoals APT42 leunen volgens het rapport op commerciële modellen zoals Gemini voor gepersonaliseerde phishingmails, het debuggen van malware en gerichte desinformatiecampagnes.
Feike Hacquebord, Principal Threat Researcher bij TrendAI en co-auteur van het onderzoek, stelt dat staatsgelieerde aanvallers niet over de nieuwste modellen hoeven te beschikken om er profijt van te hebben. Volgens hem draait het vooral om toegang tot de technologie. Hacquebord geeft aan dat AI nu al wordt gebruikt om verkenning, social engineering, malwareontwikkeling en acties na een compromittering te versnellen. Verdedigers zouden zich volgens hem minder moeten richten op het model dat een aanvaller gebruikt en meer op de snelheid, schaal en automatisering die AI toevoegt aan bestaande aanvalstechnieken.
Gevolgen voor detectie en attributie
Volledig autonome AI-aanvallen komen volgens het rapport nog niet op grote schaal voor. Mensen bepalen nog altijd doelwitten en strategie, al vervaagt de grens tussen menselijke aansturing en uitvoering door AI. TrendAI ziet drie verschuivingen voor verdedigers.
Malware die live verbinding maakt met externe AI-API’s is via netwerkverkeer te herkennen. Wanneer aanvallers lokaal gehoste modellen gebruiken, zoals Noord-Korea volgens de onderzoekers doet met Ollama, verdwijnt die zichtbaarheid. Detectie verschuift dan naar gedragsanalyse op het endpoint.
Daarnaast wordt attributie lastiger. Omdat code en teksten vaker met generatieve AI worden geschreven, verliezen stijlkenmerken van hackers hun waarde. TrendAI adviseert meer te letten op infrastructuur en werkwijze. Tot slot signaleren de onderzoekers dat Rusland, China, Noord-Korea en Iran meer samenwerken op AI-gebied, waardoor kennis, R&D en hulpmiddelen sneller tussen deze landen worden uitgewisseld.
Het advies van TrendAI is om minder energie te steken in het identificeren van specifieke modellen en meer in endpoint-detectie en het bijbenen van de snelheid van AI-gestuurde aanvallen.
Het volledige rapport is te lezen via From State AI Ecosystems to Global APT Cyberthreats.
