Amazon belde de Amerikaanse overheid en daardoor verdween het AI-model Fable 5 binnen enkele dagen offline. Anthropic had dit krachtige model net publiek beschikbaar gemaakt. Onderzoekers van Amazon ontdekten een methode om de veiligheidsmaatregelen van het model te omzeilen. Volgens hen kon iemand het systeem zo informatie laten geven die nuttig is voor cyberaanvallen.
Die waarschuwing zorgde voor grote drukte binnen het Witte Huis. Amazon en minstens vijf andere bedrijven belden donderdagavond en vrijdagochtend hoge ambtenaren. Vrijdagavond volgde de ingreep. De regering-Trump beval Anthropic om Fable 5 en Mythos 5 te blokkeren voor alle buitenlandse gebruikers, binnen en buiten de Verenigde Staten. Anthropic koos er daarop voor om beide modellen wereldwijd uit te schakelen.
Anthropic kreeg geen concrete details over de veiligheidsrisico’s. Het bedrijf bestrijdt bovendien de kritiek van Amazon. Volgens Anthropic was de zogenaamde jailbreak simpel en werkte die ook bij andere modellen. Het wijst erop dat het model meer dan duizend uur veiligheidstests doorstond. Klanten die voor Fable 5 betaalden, krijgen nu hun geld terug.
De zaak roept vragen op over de rol van Amazon. Het bedrijf investeerde eerder dertien miljard dollar in Anthropic. Toch bracht het juist dit jaar een veel groter bedrag onder bij een concurrent. Daardoor lijkt Amazon een opvallend harde klap uit te delen aan een partner.
