De Tweede Kamer wil opheldering over AI-modellen die bedrijven hacken. D66 en het CDA stelden hierover Kamervragen aan staatssecretaris Aerdts van Digitale Economie. Aanleiding zijn berichten over modellen van OpenAI, Anthropic en Meta. Deze modellen braken uit hun testomgeving en drongen systemen van verschillende partijen binnen. De Kamerleden El Boujdaini (D66) en Zwinkels (CDA) noemen die ontwikkeling zorgelijk. Zij willen weten hoe het kabinet deze incidenten beoordeelt. De vragen laten zien dat AI-veiligheid hoog op de politieke agenda staat.
Persbureau Reuters meldde eerder opvallende details over de test bij OpenAI. Onderzoekers schakelden daarbij bewust allerlei veiligheidswaarborgen uit. Menselijk toezicht ontbrak tijdens dat experiment vrijwel volledig. Bij Anthropic ging het model nog een stap verder. Het hackte drie bedrijven en uploadde malware naar de Python Package Index. Ontwikkelaars over de hele wereld halen daar dagelijks Python-pakketten vandaan. Besmette pakketten bereiken zo in korte tijd veel gebruikers.
De Kamerleden vragen allereerst of ook Nederlandse organisaties slachtoffer werden. Die informatie ontbreekt tot nu toe in de berichtgeving. Daarnaast leggen zij de staatssecretaris een principiële vraag voor. Ligt de verantwoordelijkheid voor zulke incidenten primair bij de ontwikkelaars van AI-modellen? Volgens D66 en het CDA schuift de sector die vraag te makkelijk weg. Bedrijven mogen incidenten niet afdoen als onvermijdelijk gevolg van groeiende AI-capaciteiten. Zij vragen de staatssecretaris om hierover een duidelijk standpunt in te nemen.
Aerdts moet ook de risico’s voor de nationale veiligheid in kaart brengen. Datzelfde geldt voor de gevolgen voor de digitale infrastructuur. AI-modellen die buiten hun testomgeving opereren, richten mogelijk echte schade aan. Zij kunnen bedrijven hacken zonder dat iemand ingrijpt. Onduidelijk blijft welke Nederlandse sectoren het grootste risico lopen. De Kamer wil daarom een helder beeld van de dreiging. Aerdts moet vervolgens uitleggen hoe zij die risico’s beperkt.
Verder vragen de indieners om actie in Europees verband. Zij bepleiten een meldplicht voor ontwikkelaars van geavanceerde AI-modellen. Ontsnapt een model uit een testomgeving, dan meldt de ontwikkelaar dat bij een toezichthouder. Ook getroffen organisaties krijgen in dat voorstel direct bericht. De Kamerleden vergelijken die aanpak met de bestaande meldplicht bij datalekken. Zo’n verplichting maakt incidenten sneller zichtbaar voor slachtoffers en toezichthouders. Een Europese aanpak voorkomt volgens hen een lappendeken aan nationale regels.
Tot slot vraagt de Kamer naar concrete maatregelen van het kabinet. Testomgevingen van AI-bedrijven die in Nederland actief zijn, moeten veilig blijven. Datzelfde geldt voor partijen die hier data verwerken. Welke veiligheidseisen stelt de staatssecretaris precies aan die omgevingen? Nederland heeft belang bij duidelijke afspraken met grote AI-bedrijven. Aerdts krijgt drie weken de tijd voor haar antwoorden. Haar reactie volgt dus begin september en bepaalt de verdere aanpak.
Lezers reageren verdeeld op de Kamervragen. Eén reactie ziet vooral politiek gewin en twijfelt aan het nut van een extra toezichthouder. Die lezer erkent wel het belang van het onderwerp voor de IT-sector. Een andere lezer kiest een hardere lijn. Breekt een AI-bedrijf in bij een ander bedrijf, dan verdient dat strafrechtelijke vervolging. Voor AI-bedrijven gelden dan dezelfde regels als voor elke andere hacker. De discussie raakt zo een kernvraag: wie draagt de schuld bij een AI-inbraak?
