Horizon3 heeft het Adversarial Intelligence Frontier Lab opgericht. Het lab onderzoekt closed-loop systemen die aanvalspaden in productieomgevingen opsporen en dichten. Als basis gebruikt het bedrijf aanvalsdata uit NodeZero-tests bij zijn klanten. Een onderzoeker van Purdue University leidt het lab.
Horizon3 stelt dat het lab een ander vertrekpunt kiest dan veel AI-securityonderzoek. Dat onderzoek gaat vaak uit van sensortelemetrie of van tests tegen digital twins. Het nieuwe lab begint met geverifieerde end-to-end aanvalspaden die al met succes zijn uitgevoerd tegen live systemen. Volgens het bedrijf richt het onderzoek zich op het veilig, observeerbaar en beheersbaar houden van offensieve en defensieve systemen in productieomgevingen.
Onderzoeksleider uit Purdue
Z. Berkay Celik wordt de eerste directeur van het lab. Hij is universitair hoofddocent informatica aan Purdue University en mededirecteur van het Purdue Security Laboratory. Zijn onderzoek richt zich op de security van complexe software en systemen. Hij legt daarbij de nadruk op het opsporen van kwetsbaarheden, het analyseren van aanvallen en het ontwerpen en evalueren van verdedigingsmethoden voor autonome en agentic systemen. Celik leidde eerder onderzoeksprojecten met partners uit de academische wereld, het bedrijfsleven en de overheid.
Onderzoekers van Horizon3 publiceerden al eerder wetenschappelijke artikelen. Een daarvan is Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR, een evaluatieframework voor de autonome configuratie van commerciële EDR-oplossingen. Andere publicaties gaan over misleidingstechnieken tegen AI-aanvallers en over een LLM-architectuur voor autonome cyberverdediging.
Vier onderzoeksgebieden
Het lab start met vier onderzoeksgebieden. Het eerste gebied betreft aanvallen met behulp van AI. Het lab onderzoekt hoe AI-modellen het vinden van kwetsbaarheden versnellen en hoe aanvalstools en gecoördineerde agentzwermen werken en opschalen. Ook kijkt het lab hoe verdedigers zulke aanvallen kunnen detecteren en verstoren.
Het tweede gebied gaat over adaptieve verdediging. Het lab onderzoekt hoe AI-aanvallen securitymaatregelen omzeilen. Daarnaast bekijkt het hoe offensieve en defensieve agents samen de cyclus van hacken, repareren en verifiëren kunnen versnellen. Adaptieve misleiding en het veilig delen van bevindingen tussen omgevingen vallen ook onder dit gebied.
Het derde gebied richt zich op beheersbare autonomie. Het gaat om architecturen en evaluatiemethoden voor autonome agents. Daarbij is er aandacht voor scopebeperkingen, onderbreking en herstel, en herhaalbare metingen van effectiviteit en veiligheid. Het vierde gebied betreft de cyberweerbaarheid van kritieke infrastructuur en de coördinatie tussen operationele domeinen. Ook de vaardigheden en training die toekomstige securityprofessionals nodig hebben, vallen hieronder.
Daarnaast kondigt Horizon3 aan dat het lab de training van klantspecifieke cyber world models gaat versnellen. Volgens het bedrijf vormen die modellen de gedeelde context en het langetermijngeheugen voor red en blue agents. Horizon3 verwacht dat de agents daardoor beter kunnen coördineren tijdens aanvals- en verdedigingscycli.
Trainingsdata uit productieomgevingen
Het onderzoek steunt op data van de ruim 7.000 klanten van Horizon3. Daartoe behoren banken, overheidsinstanties, productiebedrijven en ziekenhuizen. Via honderdduizenden NodeZero-tests op productiesystemen ontstaat gelabelde trainingsdata. Horizon3 schat dat het dagelijks 30 miljard tokens aan geanonimiseerde en geaggregeerde data verzamelt.
Die data bevat elke uitgevoerde aanval, geslaagd of mislukt. Ook de reacties van verdedigingsmiddelen en de configuratie van services achter de firewall zijn erin vastgelegd. Het bedrijf stelt dat dit een gedetailleerder beeld geeft van de interactie tussen aanvaller en verdediger dan datasets op basis van sensortelemetrie, synthetische omgevingen of digital twins.
Snehal Antani, CEO en medeoprichter van Horizon3, geeft aan dat het bedrijf jarenlang de benodigde aanvals- en verdedigingsdata heeft verzameld. Volgens Antani is de volgende stap om geverifieerde aanvalspaden te gebruiken. Daarmee wil het bedrijf de samenwerking tussen offensieve en defensieve agents in productieomgevingen verbeteren.
Kritieke infrastructuur
Het lab krijgt ook toezicht op de Cyber Resilience Centers of Excellence van Horizon3. Deze centra richten zich op kritieke infrastructuur. Horizon3 verwacht dat de centra de onderzoeksresultaten vertalen naar praktische toepassingen. Het gaat om omgevingen waar een storing of inbraak nationale of economische gevolgen kan hebben. De centra gebruiken daarvoor gevalideerde informatie over aanvalspaden en klantspecifieke cybermodellen.
Het volledige rapport is te lezen via Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR.
