Nederlandse instanties spannen een kort geding aan tegen X, het platform van Elon Musk. De aanleiding is Grok, de AI-tool van X. Grok kan (gewelddadige) beelden maken van seksueel misbruik van minderjarigen. Dit is strafbaar en kan leiden tot zes jaar gevangenisstraf. Het kort geding is de eerste serieuze juridische stap in Nederland tegen Grok.
De betrokken instanties zijn het Expertisebureau Online Kindermisbruik (EOKM) en Offlimits. Zij willen via de rechter afdwingen dat X de verspreiding van dit soort beelden stopt. Volgens hen is dit een groot gevaar voor kinderen. Ze omschrijven de situatie als ‘een ongeluk in slow motion’. Eerder probeerden zij X vrijwillig te laten ingrijpen, maar zonder resultaat.
Het probleem met Grok is niet nieuw. In andere landen kwamen al meldingen binnen over het genereren van illegale afbeeldingen van kinderen. Experts waarschuwen al langer voor de risico’s van slecht beveiligde AI-tools. X en Musk reageerden tot nu toe niet adequaat op deze zorgen. De Nederlandse rechtszaak kan een belangrijk precedent scheppen in Europa voor het aanpakken van gevaarlijke AI-toepassingen.
