Vorige week schreef ik hier twee keer over Claude Fable 5: eerst over de lancering, daarna over een middag echt werk ermee. Ik sloot af met “ik kan niet wachten om hier meer mee te werken”. Dat wachten duurt nu langer dan ik dacht. Sinds 12 juni is Fable 5 niet meer te gebruiken.
Wat er is gebeurd
Anthropic ontving die dag om 17:21 uur (ET) een exportcontrole-directief van de Amerikaanse overheid, met een beroep op nationale veiligheid. De opdracht: alle toegang tot Fable 5 en Mythos 5 stilleggen voor elke buitenlandse gebruiker, binnen of buiten de VS, inclusief de eigen buitenlandse werknemers van Anthropic. Om daaraan te voldoen moest Anthropic de twee modellen voor iedereen uitschakelen. Alle andere Claude-modellen blijven gewoon werken.
De aanleiding, voor zover bekend: de overheid denkt een methode te hebben gezien om Fable 5 te “jailbreaken”, de veiligheidsremmen te omzeilen. Anthropic zegt die demonstratie te hebben bekeken en er een handvol al bekende, kleine kwetsbaarheden in te herkennen. Simpele kwetsbaarheden, schrijven ze, die andere publiek beschikbare modellen ook vinden zonder dat er een truc voor nodig is.
Twee verhalen, één kant
Hier moet ik eerlijk zijn over wat we wel en niet weten. We hebben tot nu toe vooral de versie van Anthropic. Het bedrijf voldoet aan het bevel, maar is het er openlijk mee oneens. De kern van hun bezwaar: één smalle, mogelijke jailbreak is volgens hen geen reden om een commercieel model dat door honderden miljoenen mensen wordt gebruikt terug te roepen. Zou je die maatstaf breed toepassen, dan kun je volgens hen geen enkel grensverleggend model meer uitrollen.
Anthropic zegt vóór de lancering duizenden uren te hebben getest met de Amerikaanse overheid zelf, het Britse AISI en externe partijen, en dat niemand een universele jailbreak vond. Hun standpunt was altijd dat perfecte weerbaarheid niet bestaat, dat elk model in de industrie kwetsbaar is voor smalle omzeilingen, en dat je je daarom verdedigt in lagen plus monitoring. Dat ze dat vooraf zo hadden opgeschreven, is hun sterkste kaart in dit gesprek.
Wat ontbreekt, is de onderbouwing van de overheid. Het bevel noemt geen specifieke zorg. Dat maakt het lastig om te beoordelen wie hier gelijk heeft. Het kan een misverstand zijn, zoals Anthropic stelt. Het kan ook zijn dat de overheid iets ziet dat niet in de blogpost past. Ik houd het daarom bij wat vaststaat: het model is offline, het bedrijf werkt aan herstel, en er zou binnen een dag meer informatie komen.
Waarom dit voor de bouwer telt
Voor wie alleen af en toe een chatvenster opent, is dit een nieuwsberichtje. Voor wie werk op deze modellen bouwt, zoals ik, is het een test van een aanname.
In mijn testrun stelde ik Fable 5 zelf de vraag of een ander model dezelfde klus had gekund. Het antwoord was: grotendeels wel. De scripts, de gates, de regels in mijn workflow zijn bewust modelonafhankelijk gebouwd. Toen voelde dat als een nuance. Nu blijkt het een vangnet. Een model kan van de ene op de andere dag verdwijnen, om redenen die buiten jou en buiten het bedrijf liggen. Wie zijn hele stack vastklikt op precies dat ene model, staat dan stil. Wie zijn systeem eromheen heeft gebouwd, schakelt terug naar Opus 4.8 en draait door.
Dat is precies de les die ik vorige week opschreef, en die nu sneller dan verwacht op de proef werd gesteld: het systeem doet meer dan het model. De magie zat nooit in dat ene modelnummer. Ze zit in de regels, het geheugen en de keten eromheen. Een terugroepactie doet pijn, maar maakt geen einde aan het werk.
En eerlijk: ik vind het jammer. Maar ik begrijp het ook. Als een overheid twijfelt of een capaciteit veilig is, is even pas op de plaats het verstandige antwoord, ook al kost het mij mijn favoriete gereedschap van dit moment. Ik hoop dat het terugkomt, en ik denk dat het dat ook moet. Niet omdat het ongemak weg moet, maar omdat we alleen leren omgaan met modellen van dit niveau door ze echt te gebruiken en hun grenzen in de openbaarheid op te zoeken. Wegstoppen leert niemand iets.
Of Fable 5 terugkomt, en wanneer, weet ik niet. Ik volg het, en zodra er meer bekend is, lees je het hier.
Dit stuk verscheen ook in het Engels: Fable 5 pulled: the government withdrew the strongest model.