Aanvallers kunnen via één foutieve AI-koppeling zich razendsnel verspreiden door bedrijfsnetwerken. Orange Cyberdefense waarschuwt dat organisaties AI onderschatten als beveiligingsrisico, terwijl de technologie vaak meer toegang heeft dan gemiddelde medewerkers. Recente incidenten zoals EchoLeak tonen de urgentie van strengere maatregelen.
Volgens Orange Cyberdefense ontstaat een nieuw type supplychain-dreiging via AI-systemen zelf. Het bedrijf waarschuwt dat één enkele misleiding, prompt injection of gestolen toegangstoken zich razendsnel door bedrijfsnetwerken kan verspreiden.
Recente incidenten tonen risico’s
De urgentie wordt zichtbaar in de meest recente editie van de Security Navigator, het jaarlijkse onderzoeksrapport van Orange Cyberdefense. Orange Cyberdefense meldt dat de EchoLeak-aanval op Microsoft 365 Copilot toonde hoe een verborgen opdracht in een e-mail voldoende was om de ingebouwde AI te misleiden. Ook een OAuth-aanval op Salesloft en Drift gaf via een gestolen token van een AI-chatbot toegang tot honderden bedrijfsomgevingen.
Volgens Van der Wel-ter Weel zijn dit vroege signalen van een structureel risico. Hij geeft aan dat AI steeds meer een verbindende laag tussen systemen wordt. Als een aanvaller één AI-koppeling weet te manipuleren, kan dat ongemerkt doorwerken naar processen, applicaties en data waar die AI toegang toe heeft.
Nieuwe ketenrisico’s door AI-koppelingen
Orange Cyberdefense stelt dat de kwetsbaarheden ontstaan doordat AI steeds dieper in bedrijfsprocessen terechtkomt. Veel organisaties gebruiken AI-agenten in applicaties, plug-ins en interne workflows, wat het lastig maakt om precies te zien waar AI toegang heeft.
Het bedrijf onderscheidt drie lagen die samen een nieuw ketenrisico vormen:
- De invoer die een AI-model ontvangt
- De koppelingen met apps, tokens en plug-ins
- De datastromen waar AI zelfstandig mee werkt
Volgens Van der Wel-ter Weel vormen deze lagen samen een netwerk waarin één fout zich kan verspreiden naar andere systemen, soms zonder dat medewerkers iets hoeven te openen of klikken.
Orange Cyberdefense waarschuwt ook voor nieuwe afhankelijkheden van een klein aantal mondiale AI-leveranciers. Het bedrijf stelt dat hoge ontwikkelkosten, geopolitieke spanningen en snelle productwijzigingen het risico vergroten dat organisaties plots zonder ondersteuning staan.
Organisaties onderschatten impact
Volgens Orange Cyberdefense behandelen veel bedrijven AI nog als vrijblijvende functionaliteit, terwijl de technologie vaak toegang heeft tot dezelfde data en rechten als kritieke bedrijfsapplicaties. In sommige gevallen beschikt AI zelfs over meer toegang dan de gemiddelde medewerker, wat AI tot een hoog geprivilegieerd systeem maakt.
Drie beveiligingsmaatregelen
Orange Cyberdefense adviseert om AI direct te behandelen als een systeembeheerderaccount. Het bedrijf beveelt drie maatregelen aan:
- Inzicht in AI-koppelingen: Veel organisaties weten volgens Orange Cyberdefense niet waar AI actief is of welke plug-ins meedraaien. Het bedrijf raadt een inventarisatie aan vergelijkbaar met assetmanagement voor kritieke systemen.
- Beperkte rechten en tokens: Orange Cyberdefense ziet in incidentonderzoeken dat overmatige rechten de impact vergroten. Het bedrijf adviseert privileges te scheiden, tokens te isoleren en minimale toegang in te stellen.
- Continue monitoring: AI-systemen opereren autonoom en vragen volgens Orange Cyberdefense om monitoring die verder gaat dan klassieke detectiesystemen. Het bedrijf beveelt opname van AI in SOC-processen aan, met detectie op gedragsniveau.
Meer informatie is beschikbaar in Security Navigator.
