Drie dagen. Langer duurde het eerste publieke leven van Claude Fable 5 niet. Anthropic lanceerde zijn nieuwe topmodel op 9 juni, samen met de beperkt beschikbare Mythos 5. Op 12 juni haalde het bedrijf beide modellen alweer offline. Aanleiding was een exportbevel van de Amerikaanse overheid dat buitenlandse staatsburgers de toegang tot de modellen ontzegt. Anthropic besloot daarop Fable 5 en Mythos 5 volledig uit te schakelen. Ook Amerikaanse klanten kunnen de modellen daardoor voorlopig niet gebruiken.
Fable 5 en Mythos 5 zijn gebaseerd op hetzelfde onderliggende model, maar Anthropic heeft ze voor verschillende doelgroepen ingericht. Fable 5 was bedoeld als de breed beschikbare variant. Het model kreeg extra beveiligingslagen om misbruik op gebieden als cybersecurity, biologie en chemie tegen te gaan. Verzoeken die volgens Anthropic te gevoelig waren, werden doorgestuurd naar het minder krachtige Claude Opus 4.8.
Mythos 5 kreeg minder van deze beperkingen. Anthropic stelde dit model uitsluitend beschikbaar aan een kleine groep cyberverdedigers en beheerders van vitale infrastructuur. De verspreiding liep via Project Glasswing, een programma waarbij het bedrijf samenwerkte met de Amerikaanse overheid.
De modellen moesten een nieuwe categorie binnen het Claude-aanbod vormen. Anthropic plaatste de Mythos-klasse boven zijn bestaande Opus-modellen. Fable 5 kon volgens het bedrijf langduriger autonoom werken, grote softwareprojecten analyseren en taken uitvoeren die dagen in beslag nemen. Mythos 5 beschikte over uitgebreidere mogelijkheden voor het vinden en onderzoeken van kwetsbaarheden in software. Die laatste eigenschap maakte het model waardevol voor beveiligingsonderzoekers, maar riep bij de Amerikaanse overheid kennelijk ook vragen op.
Exportbevel treft alle buitenlandse staatsburgers
Op vrijdag 12 juni ontving Anthropic om 17.21 uur lokale tijd een bevel van de Amerikaanse overheid. Daarin stond dat geen enkele buitenlandse staatsburger nog toegang mocht krijgen tot Fable 5 of Mythos 5. Het verbod geldt voor mensen buiten de Verenigde Staten, maar ook voor buitenlandse staatsburgers die in het land wonen of voor Anthropic werken. Het bevel verplichtte Anthropic niet letterlijk om de modellen wereldwijd uit te zetten. Het bedrijf moest voorkomen dat buitenlandse staatsburgers ermee konden werken. Anthropic stelde dat het deze eis niet op korte termijn kon naleven zonder de toegang voor alle gebruikers te blokkeren.
AWS trok op verzoek van Anthropic eveneens de toegang tot Fable 5 en Mythos 5 in alle regio’s in. Andere modellen van het bedrijf, waaronder Claude Opus 4.8, bleven beschikbaar. De Amerikaanse overheid baseerde de maatregel volgens Anthropic op zorgen over een mogelijke jailbreak van Fable 5. Bij zo’n jailbreak weet een gebruiker de ingebouwde veiligheidsmaatregelen te omzeilen. Het model zou daardoor kunnen helpen bij het vinden van kwetsbaarheden in software die het onder normale omstandigheden niet hoort te onderzoeken.
Anthropic betwist de ernst van de jailbreak
Anthropic zegt een demonstratie van de bewuste methode te hebben bekeken. Volgens het bedrijf leverde deze een klein aantal al bekende en relatief eenvoudige kwetsbaarheden op. Andere publiek beschikbare AI-modellen zouden dezelfde fouten kunnen vinden zonder dat daarvoor een jailbreak nodig is. In de weken voor de introductie liet Anthropic Fable 5 naar eigen zeggen duizenden uren testen door interne teams, externe beveiligingsonderzoekers, het Britse AI Security Institute en de Amerikaanse overheid. Tijdens die onderzoeken werd geen universele jailbreak gevonden waarmee de veiligheidslagen breed konden worden uitgeschakeld.
Het bedrijf erkent wel dat volledige bescherming tegen jailbreaks waarschijnlijk niet haalbaar is. Daarom koos Anthropic voor een combinatie van filters, monitoring en gegevensopslag. Verkeer via Fable 5 werd dertig dagen bewaard, zodat verdachte patronen konden worden onderzocht. Volgens Anthropic stond het mogelijke lek niet in verhouding tot de ingreep. Het bedrijf waarschuwde dat toepassing van dezelfde norm op andere aanbieders de introductie van vrijwel ieder nieuw frontiermodel zou kunnen blokkeren. Anthropic noemt de situatie een misverstand en zegt dat regelgeving rond risicovolle AI-modellen transparant, controleerbaar en gebaseerd op technische feiten moet zijn. Het bedrijf vindt dat bij dit bevel niet aan die voorwaarden is voldaan.
Meer dan een technisch conflict
De maatregel staat niet los van de moeizame relatie tussen Anthropic en de regering-Trump. Eerder ontstond een conflict doordat het AI-bedrijf beperkingen wilde stellen aan militair gebruik van Claude, waaronder volledig autonome wapens en binnenlandse surveillance. De Amerikaanse overheid plaatste Anthropic daarop op een lijst met bedrijven die mogelijk een risico vormen voor de militaire toeleveringsketen. Het ligt voor de hand om de exportmaatregel als een politieke vergeldingsactie te zien. Daar is geen hard bewijs voor. De overheid zegt dat nationale veiligheid de reden voor de ingreep is. Geavanceerde modellen kunnen aanvallers sneller kwetsbaarheden laten vinden in complexe software, waaronder systemen in de financiële sector en vitale infrastructuur.
De gekozen aanpak is wel uitzonderlijk. Amerikaanse exportbeperkingen rond AI richtten zich tot nu toe vooral op chips, productiemiddelen en rekenkracht. Met Fable 5 en Mythos 5 wordt de toegang tot de mogelijkheden van een online AI-model zelf beperkt. Hiermee ontstaat een lastig precedent. De nationaliteit van een gebruiker kan voortaan bepalen of die persoon toegang krijgt tot bepaalde clouddiensten, zelfs wanneer diegene legaal in de Verenigde Staten woont of voor de aanbieder werkt.
Technische teams naar Washington
Anthropic probeert de modellen zo snel mogelijk weer beschikbaar te maken. Ervaren technische specialisten van het bedrijf zijn inmiddels naar Washington gestuurd voor overleg met het Witte Huis. Volgens Axios willen beide partijen tot een oplossing komen. Op maandag 15 juni waren Fable 5 en Mythos 5 nog altijd niet beschikbaar. Anthropic heeft nog geen datum genoemd waarop de toegang kan worden hersteld. Ook is niet duidelijk welke extra beveiligingsmaatregelen of toegangscontroles de Amerikaanse overheid zal eisen.
Een mogelijke oplossing is een strengere identiteitscontrole, maar die roept nieuwe vragen op. Cloudleveranciers controleren doorgaans waar gebruikers zich bevinden en welke organisatie een account beheert. Het vaststellen van nationaliteit vraagt om veel gevoeligere persoonsgegevens. Dat kan grote gevolgen hebben voor privacy, onboarding en het beheer van zakelijke accounts.
AI-afhankelijkheid vraagt om uitwijkmogelijkheden
Fable 5 was bij de start veelbelovend. Op internet waren lovende kritieken te lezen over de mogelijkheden en de kwaliteit van de output. Door de actie van de Amerikaanse overheid komt een nieuw leveranciersrisico bovendrijven. De beschikbaarheid van een AI-model (of andere geavanceerde tools) hangt niet alleen af van storingen, capaciteit of een commerciële beslissing van de aanbieder, maar kan ook de inzet worden van (geo)politieke machtsspelletjes.
