Horizon3 hat das Adversarial Intelligence Frontier Lab gegründet. Das Lab erforscht Closed-Loop-Systeme, die Angriffspfade in Produktivumgebungen aufspüren und schließen. Als Grundlage dienen dem Unternehmen Angriffsdaten aus NodeZero-Tests bei seinen Kunden. Geleitet wird das Lab von einem Forscher der Purdue University.
Laut Horizon3 wählt das Lab einen anderen Ausgangspunkt als viele Forschungsarbeiten zur KI-Security. Diese stützen sich häufig auf Sensortelemetrie oder auf Tests gegen Digital Twins. Das neue Lab setzt dagegen bei verifizierten End-to-End-Angriffspfaden an, die bereits erfolgreich gegen Live-Systeme ausgeführt wurden. Nach Angaben des Unternehmens konzentriert sich die Forschung darauf, offensive und defensive Systeme in Produktivumgebungen sicher, beobachtbar und kontrollierbar zu halten.
Forschungsleiter von der Purdue University
Z. Berkay Celik wird erster Direktor des Labs. Er ist Associate Professor für Informatik an der Purdue University und Co-Direktor des Purdue Security Laboratory. Seine Forschung befasst sich mit der Security komplexer Software und Systeme. Den Schwerpunkt legt er dabei auf das Aufspüren von Schwachstellen, die Analyse von Angriffen sowie den Entwurf und die Evaluierung von Abwehrmethoden für autonome und agentische Systeme. Celik leitete bereits Forschungsprojekte mit Partnern aus Wissenschaft, Wirtschaft und öffentlicher Hand.
Forscher von Horizon3 haben bereits wissenschaftliche Artikel veröffentlicht. Einer davon ist Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR, ein Evaluierungsframework für die autonome Konfiguration kommerzieller EDR-Lösungen. Weitere Veröffentlichungen behandeln Täuschungstechniken gegen KI-Angreifer sowie eine LLM-Architektur für autonome Cyberabwehr.
Vier Forschungsbereiche
Das Lab startet mit vier Forschungsbereichen. Der erste Bereich betrifft KI-gestützte Angriffe. Das Lab untersucht, wie KI-Modelle das Auffinden von Schwachstellen beschleunigen und wie Angriffstools und koordinierte Agentenschwärme funktionieren und skalieren. Zudem untersucht das Lab, wie Verteidiger solche Angriffe erkennen und stören können.
Der zweite Bereich widmet sich der adaptiven Abwehr. Das Lab erforscht, wie KI-Angriffe Sicherheitsmaßnahmen umgehen. Außerdem untersucht es, wie offensive und defensive Agents gemeinsam den Zyklus aus Hacken, Beheben und Verifizieren beschleunigen können. Auch adaptive Täuschung und der sichere Austausch von Erkenntnissen zwischen Umgebungen fallen in diesen Bereich.
Der dritte Bereich konzentriert sich auf kontrollierbare Autonomie. Dabei geht es um Architekturen und Evaluierungsmethoden für autonome Agents. Im Fokus stehen Scope-Beschränkungen, Unterbrechung und Wiederherstellung sowie wiederholbare Messungen von Wirksamkeit und Sicherheit. Der vierte Bereich betrifft die Cyberresilienz kritischer Infrastrukturen und die Koordination zwischen operativen Domänen. Auch die Fähigkeiten und Schulungen, die künftige Security-Fachkräfte benötigen, gehören dazu.
Darüber hinaus kündigt Horizon3 an, dass das Lab das Training kundenspezifischer Cyber World Models beschleunigen wird. Nach Angaben des Unternehmens bilden diese Modelle den gemeinsamen Kontext und das Langzeitgedächtnis für Red und Blue Agents. Horizon3 erwartet, dass sich die Agents dadurch während Angriffs- und Abwehrzyklen besser koordinieren können.
Trainingsdaten aus Produktivumgebungen
Die Forschung stützt sich auf Daten der über 7.000 Kunden von Horizon3. Dazu zählen Banken, Behörden, Fertigungsunternehmen und Krankenhäuser. Aus Hunderttausenden NodeZero-Tests auf Produktivsystemen entstehen gelabelte Trainingsdaten. Horizon3 schätzt, dass täglich 30 Milliarden Tokens an anonymisierten und aggregierten Daten zusammenkommen.
Diese Daten umfassen jeden ausgeführten Angriff, ob erfolgreich oder gescheitert. Auch die Reaktionen von Abwehrmitteln und die Konfiguration von Services hinter der Firewall sind darin erfasst. Das Unternehmen erklärt, dass dies ein detaillierteres Bild der Interaktion zwischen Angreifer und Verteidiger liefere als Datensätze auf Basis von Sensortelemetrie, synthetischen Umgebungen oder Digital Twins.
Snehal Antani, CEO und Mitgründer von Horizon3, betont, dass das Unternehmen über Jahre hinweg die erforderlichen Angriffs- und Abwehrdaten gesammelt habe. Laut Antani bestehe der nächste Schritt darin, verifizierte Angriffspfade zu nutzen. Damit will das Unternehmen die Zusammenarbeit zwischen offensiven und defensiven Agents in Produktivumgebungen verbessern.
Kritische Infrastrukturen
Das Lab übernimmt zudem die Aufsicht über die Cyber Resilience Centers of Excellence von Horizon3. Diese Zentren konzentrieren sich auf kritische Infrastrukturen. Horizon3 erwartet, dass die Zentren die Forschungsergebnisse in praktische Anwendungen überführen. Es geht um Umgebungen, in denen eine Störung oder ein Einbruch nationale oder wirtschaftliche Folgen haben kann. Die Zentren nutzen dafür validierte Informationen über Angriffspfade und kundenspezifische Cybermodelle.
Der vollständige Bericht ist abrufbar unter Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR.
Dieser Artikel ist ursprünglich auf Niederländisch bei MSP Business erschienen. Zum Originalartikel →
