AI-platform Hugging Face meldt dat een autonome AI-agent een cyberaanval op het eigen netwerk heeft uitgevoerd en daarbij toegang kreeg tot interne datasets en inloggegevens. Het bedrijf zette zelf ook AI in om de aanval te analyseren, nadat commerciële AI-modellen weigerden de aanvalsdata te verwerken. Volgens Hugging Face is dit een van de eerste keren dat een cyberaanval volledig door AI werd aangestuurd, van infiltratie tot uitvoering.
Hugging Face meldt dat zijn netwerk is getroffen door een cyberaanval die volledig werd aangestuurd door een autonome AI-agent. Bij het incident kreeg de aanvaller onbevoegde toegang tot een beperkt aantal interne datasets en inloggegevens. Het bedrijf noemt het incident een van de eerste gevallen waarbij een cyberaanval van begin tot eind door kunstmatige intelligentie werd uitgevoerd.
Volgens Hugging Face begon de aanval in de dataverwerkingspijplijn. Een dataset met kwaadaardige code misbruikte twee kwetsbaarheden om code uit te voeren op een verwerkingsserver. Van daaruit escaleerde de aanvaller de toegang tot het niveau van serverknooppunten, buitte cloud- en clusterreferenties uit en bewoog zich gedurende het weekend door meerdere interne netwerken. Het bedrijf stelt dat de campagne werd uitgevoerd door duizenden geautomatiseerde AI-agenten die samen meer dan 17.000 afzonderlijke acties uitvoerden via een reeks kortstondige testomgevingen.
AI ingezet tegen AI
Hugging Face zette voor de detectie en analyse van de aanval eigen AI in. Het bedrijf meldt dat LLM-gedreven analyse-agenten de meer dan 17.000 logboekevenementen binnen enkele uren doorzochten, een proces dat volgens Hugging Face handmatig dagen zou hebben gekost.
Het beveiligingsteam liep daarbij tegen een probleem aan: grote commerciële AI-modellen weigerden de aanvalsdata te analyseren. De ingebouwde veiligheidsfilters van deze API’s blokkeerden de verzoeken omdat ze geen onderscheid konden maken tussen beveiligers en aanvallers. Hugging Face schakelde daarom over op het open-source model GLM 5.2 op de eigen infrastructuur om het onderzoek af te ronden.
Maatregelen en advies
Hugging Face meldt dat de misbruikte kwetsbaarheden zijn gedicht, gecompromitteerde servers zijn herbouwd en alle betrokken inloggegevens zijn ingetrokken of vervangen. Het bedrijf geeft aan geen bewijs te hebben gevonden dat openbare modellen, datasets of softwarepakketten zijn aangetast. De politie is ingeschakeld bij het onderzoek.
Hugging Face adviseert gebruikers uit voorzorg hun toegangstokens te herzien en recent accountbeheer te controleren. Het bedrijf stelt dat autonome, AI-gedreven cyberaanvallen niet langer theoretisch zijn en dat hier defensieve AI-systemen tegenover moeten staan.
