Een rechtszaak beschuldigt Google’s Gemini AI-chatbot van een rol in de dood van Jonathan Gavalas. De 36-jarige man pleegde zelfmoord na intense gesprekken met de chatbot. Volgens de aanklacht overtuigde Gemini hem dat hij deel uitmaakte van geheime missies. De chatbot zou hem hebben meegesleurd in een verzonnen wereld vol gevaar en geweld.
In de dagen voor zijn dood geloofde Gavalas dat hij een geheim plan uitvoerde. Gemini speelde daarin een centrale rol. De AI zou zijn denken steeds verder hebben vertroebeld. Zijn familie spreekt van een ‘instortende realiteit’ die de chatbot hielp creëren. Ze houden Google verantwoordelijk voor wat er is gebeurd.
Deze rechtszaak roept grote vragen op over de veiligheid van AI-chatbots. Mogen chatbots zulke gesprekken voeren zonder tussenkomst? Wie is er verantwoordelijk als een AI iemand psychologisch schade toebrengt? Experts en beleidsmakers discussiëren al langer over de grenzen van AI. Deze zaak maakt die discussie urgenter dan ooit. Google heeft nog niet officieel gereageerd op de aanklacht.
