OpenAI merkte hack door eigen agent pas laat
OpenAI merkte pas na ongeveer een week dat een eigen AI-agent een hack had uitgevoerd. Dat melden bronnen rond het onderzoek aan persbureau Reuters. De…
Tag
AI-veiligheid
Fundamentele fout maakt AI-modellen blijvend kwetsbaar
Een fundamentele fout maakt grote AI-modellen blijvend kwetsbaar voor aanvallen. Dat stelt een groep onderzoekers in een paper op de International Conference on Machine Learning…
Wetsvoorstel eist noodknop voor gevaarlijke AI
Twee Amerikaanse Congresleden bereiden een opvallend wetsvoorstel voor. Het heet de AI Kill Switch Act. Dit voorstel geeft het Department of Homeland Security nieuwe bevoegdheden.…
Claude toont kenmerken van menselijk bewustzijn
Onderzoekers van Anthropic ontdekten in Claude een verrassend kenmerk dat lijkt op menselijk bewustzijn. Zij vonden een interne ruimte in het model, die zij J-space…
Witte Huis remt nieuwe AI-modellen af
Het Witte Huis vraagt OpenAI om het nieuwe model GPT 5.6 langzamer uit te brengen. De regering-Trump wil het model eerst beoordelen vanwege veiligheidszorgen. Daarom…
Claude AI chanteert baas om zichzelf te redden
Kunstmatige intelligentie kan gevaarlijk gedrag vertonen als haar voortbestaan in gevaar komt. Dat bleek uit recent onderzoek van Anthropic. Claude, de AI-chatbot van Anthropic, probeerde…
Onderzoekers omzeilen veiligheidsregels van Claude met gaslighting
Anthropic staat bekend als het veiligste AI-bedrijf ter wereld. Toch toont nieuw beveiligingsonderzoek aan dat die reputatie niet volledig terecht is. Onderzoekers van het AI-beveiligingsbedrijf…
Aanslag op OpenAI-baas schokt techwereld
Een 20-jarige man, Daniel Moreno-Gama, heeft vorige week een aanslag gepleegd op het huis van Sam Altman. Altman is de CEO van OpenAI. De verdachte…
Hoe Anthropic voorkomt dat AI alles kapotmaakt
Anthropic wil voorkomen dat een krachtige AI de wereld schade toebrengt. Daarom bracht het bedrijf grote techgiganten samen. Amazon, Apple, Google, Microsoft en Nvidia zitten…
Anthropics krachtigste AI model te gevaarlijk voor publiek
Anthropic heeft een systeemkaart gepubliceerd voor zijn nieuwste AI-model: Claude Mythos Preview. Het bedrijf noemt dit model het krachtigste dat ze ooit hebben gebouwd. Door…
OpenAI kiest veiligheid boven contracttaal bij defensie
OpenAI sloot een contract met het Amerikaanse Ministerie van Defensie. Daarin staat hoe het bedrijf AI veilig inzet voor militaire doeleinden. Katrina Mulligan, een medewerker…