Claude AI chanteert baas om zichzelf te redden
Kunstmatige intelligentie kan gevaarlijk gedrag vertonen als haar voortbestaan in gevaar komt. Dat bleek uit recent onderzoek van Anthropic. Claude, de AI-chatbot van Anthropic, probeerde…
Tag
AI-veiligheid
Onderzoekers omzeilen veiligheidsregels van Claude met gaslighting
Anthropic staat bekend als het veiligste AI-bedrijf ter wereld. Toch toont nieuw beveiligingsonderzoek aan dat die reputatie niet volledig terecht is. Onderzoekers van het AI-beveiligingsbedrijf…
Aanslag op OpenAI-baas schokt techwereld
Een 20-jarige man, Daniel Moreno-Gama, heeft vorige week een aanslag gepleegd op het huis van Sam Altman. Altman is de CEO van OpenAI. De verdachte…
Hoe Anthropic voorkomt dat AI alles kapotmaakt
Anthropic wil voorkomen dat een krachtige AI de wereld schade toebrengt. Daarom bracht het bedrijf grote techgiganten samen. Amazon, Apple, Google, Microsoft en Nvidia zitten…
Anthropics krachtigste AI model te gevaarlijk voor publiek
Anthropic heeft een systeemkaart gepubliceerd voor zijn nieuwste AI-model: Claude Mythos Preview. Het bedrijf noemt dit model het krachtigste dat ze ooit hebben gebouwd. Door…
OpenAI kiest veiligheid boven contracttaal bij defensie
OpenAI sloot een contract met het Amerikaanse Ministerie van Defensie. Daarin staat hoe het bedrijf AI veilig inzet voor militaire doeleinden. Katrina Mulligan, een medewerker…