SecurityNews

Staatsnahe Hacker weichen auf chinesische KI-Modelle aus

Hackergruppen mit Verbindungen zu China, Russland, Nordkorea und Iran setzen KI für Aufklärung, Malware-Entwicklung und Social Engineering ein. Laut einer Untersuchung von TrendAI steigen chinesische Akteure auf heimische Modelle um, sobald der Zugang zu westlichen Modellen wegfällt. Auch russische Malware nutzt ein chinesisches Modell.

Das geht aus dem Bericht From State AI Ecosystems to Global APT Cyberthreats von TrendAI hervor. Die Forscher haben untersucht, wie APT-Gruppen aus den vier Ländern KI nutzen, von der Anpassung von Exploits in großem Maßstab bis zum Einsatz von Deepfake-Identitäten bei Beschäftigungsbetrug. Westliche KI-Anbieter versuchen, den Zugang dieser Gruppen zu ihren Modellen einzuschränken. Laut TrendAI hat China inzwischen ein eigenes KI-Ökosystem aufgebaut, das von China-nahen Akteuren bereits aktiv genutzt wird.

Chinesische Gruppen wechseln während Angriffen das Modell

TrendAI zufolge integrieren chinesische Cyberakteure heimische KI inzwischen fest in den Angriffsprozess, während es zuvor bei Experimenten blieb. Bei einem kürzlich erfolgten Angriff, den die Forscher der APT-Gruppe Earth Lamia zuschreiben, wechselte der Angreifer während eines laufenden Einbruchs vom westlichen Modell Claude zum chinesischen MiMo-V2.5-Pro, als der Zugang zu Claude unzuverlässig wurde. Die Gruppen Earth Krahang und Earth Naga nutzen KI laut dem Bericht, um Exploits in großem Maßstab anzupassen und Malware-Code iterativ zu generieren und umzuschreiben.

Russland, Nordkorea und Iran

Laut TrendAI muss ein Land kein Vorreiter in der KI-Entwicklung sein, um KI für Cyberangriffe zu nutzen. Russland gleicht Einschränkungen der eigenen KI-Infrastruktur aus, indem es bestehende Modelle wiederverwendet. Die Forscher verweisen auf die Malware LAMEHUG, die über eine öffentliche API mit dem chinesischen Modell Qwen Befehle auf einem kompromittierten System generiert.

Nordkorea setzt KI ein, um über IT-Mitarbeiter an Geld und Geschäftsgeheimnisse zu gelangen. Agenten nutzen Deepfakes, KI-generierte Lebensläufe und Live-Unterstützung durch Sprachmodelle in Vorstellungsgesprächen, um in westliche Unternehmen einzudringen, darunter auch KI-Unternehmen. Iranische Gruppen wie APT42 stützen sich laut dem Bericht auf kommerzielle Modelle wie Gemini, um personalisierte Phishing-Mails zu erstellen, Malware zu debuggen und gezielte Desinformationskampagnen zu betreiben.

Feike Hacquebord, Principal Threat Researcher bei TrendAI und Mitautor der Studie, betont, dass staatsnahe Angreifer nicht über die neuesten Modelle verfügen müssen, um davon zu profitieren. Ihm zufolge geht es vor allem um den Zugang zur Technologie. Hacquebord gibt an, dass KI bereits heute eingesetzt wird, um Aufklärung, Social Engineering, Malware-Entwicklung und Aktionen nach einer Kompromittierung zu beschleunigen. Verteidiger sollten sich seiner Ansicht nach weniger auf das Modell konzentrieren, das ein Angreifer verwendet, und mehr auf die Geschwindigkeit, Skalierung und Automatisierung, die KI bestehenden Angriffstechniken hinzufügt.

Folgen für Erkennung und Attribution

Vollständig autonome KI-Angriffe kommen laut dem Bericht noch nicht in großem Umfang vor. Menschen bestimmen nach wie vor Ziele und Strategie, auch wenn die Grenze zwischen menschlicher Steuerung und Ausführung durch KI verschwimmt. TrendAI sieht drei Verschiebungen für Verteidiger.

Malware, die eine Live-Verbindung zu externen KI-APIs herstellt, lässt sich über den Netzwerkverkehr erkennen. Nutzen Angreifer lokal gehostete Modelle, wie es Nordkorea laut den Forschern mit Ollama tut, entfällt diese Sichtbarkeit. Die Erkennung verlagert sich dann auf die Verhaltensanalyse am Endpoint.

Zudem wird die Attribution schwieriger. Da Code und Texte zunehmend mit generativer KI geschrieben werden, verlieren stilistische Merkmale von Hackern an Aussagekraft. TrendAI empfiehlt, stärker auf Infrastruktur und Vorgehensweise zu achten. Schließlich beobachten die Forscher, dass Russland, China, Nordkorea und Iran im KI-Bereich enger zusammenarbeiten, wodurch Wissen, F&E und Werkzeuge schneller zwischen diesen Ländern ausgetauscht werden.

TrendAI rät, weniger Energie in die Identifizierung bestimmter Modelle zu stecken und mehr in Endpoint-Erkennung sowie darin, mit der Geschwindigkeit KI-gesteuerter Angriffe Schritt zu halten.

Der vollständige Bericht ist unter From State AI Ecosystems to Global APT Cyberthreats abrufbar.

Dieser Artikel ist ursprünglich auf Niederländisch bei MSP Business erschienen. Zum Originalartikel →