Anthropic heeft twee AI-modellen wereldwijd offline gehaald. De Amerikaanse overheid dwong dit af met een blokkade. Het gaat om Claude Mythos 5 en de spin-off Fable 5. Beide modellen presteren sterk op het gebied van cybersecurity en programmeren. Juist die kracht maakt de VS nu voorzichtig.
De Amerikaanse overheid maakt zich zorgen over de veiligheid van het model. Volgens de VS kunnen gebruikers de ingebouwde beperkingen omzeilen. Deze techniek heet jailbreaken. Daarmee zou iemand het systeem voor verkeerde doelen kunnen inzetten. Denk aan het schrijven van schadelijke code of het misbruiken van beveiligingskennis. Door de hoge vaardigheden van het model weegt dit risico extra zwaar.
Anthropic reageert nuchter op de ingreep. Het bedrijf noemt het probleem minimaal en goed onder controle. Toch koos het ervoor de modellen tijdelijk terug te trekken. Zo geeft Anthropic gehoor aan de blokkade van de overheid. De stap laat zien hoe gevoelig krachtige AI inmiddels ligt.
Deze zaak toont de groeiende spanning tussen techbedrijven en toezichthouders. Overheden willen grip houden op modellen die misbruikt kunnen worden. Bedrijven willen tegelijk snel blijven innoveren. Wanneer Anthropic Claude Mythos 5 en Fable 5 weer terugkeren, is nog niet bekend. Het bedrijf werkt waarschijnlijk eerst aan extra waarborgen tegen jailbreaken.
