Anthropic roept grote AI-labs op om de ontwikkeling te vertragen. Het bedrijf waarschuwt dat frontier-modellen zo snel verbeteren dat ze zichzelf binnenkort kunnen verbeteren. Dit kan zonder directe menselijke tussenkomst. Een tijdelijke pauze in AI-ontwikkeling zou “waarschijnlijk een goede zaak zijn”, aldus Anthropic.
Uit intern onderzoek blijkt dat AI al helpt bij de ontwikkeling van AI. Anthropic-ingenieurs sturen nu acht keer zoveel code per kwartaal als in de periode 2021–2025. Dit toont aan hoe snel de technologie vooruitgaat. AI die zichzelf kan bouwen, zou een historische doorbraak zijn. Het kan enorme voordelen bieden voor wetenschap en gezondheidszorg. Maar het brengt ook serieuze risico’s met zich mee.
Het grootste gevaar is dat mensen de controle over AI-systemen verliezen. Als AI zijn eigen opvolgers kan bouwen, groeit het belang van beveiliging en toezicht sterk. Anthropic benadrukt dat een globaal coördinatiemechanisme nodig is. Zonder samenwerking moeten bedrijven en overheden moeilijke keuzes maken. Die keuzes komen dan onder druk van concurrentie en geopolitieke belangen.
Anthropoc stelt dat een pauze alleen werkt als alle grote spelers meedoen. Een eenzijdige vertraging geeft minder voorzichtige partijen de kans om in te halen. Dat maakt iedereen uiteindelijk minder veilig. Daarom wil het Anthropic Institute systemen bouwen om een pauze wereldwijd te controleren en te verifiëren. Zo kunnen ontwikkelaars nagaan of anderen daadwerkelijk stoppen of vertragen.
