ChatGPT beveelt momenteel nep-webshops aan van oplichters via een techniek die LLM data poisoning heet. Criminelen manipuleren hiermee het algoritme van grote taalmodellen, zoals de chatbot van OpenAI. De AI laat frauduleuze winkels zien als betrouwbare aanbevelingen aan nietsvermoedende gebruikers. Dit ontdekte scamchecker Ask Silver na uitgebreid onderzoek.
Een concreet voorbeeld is de Britse winkelketen Russell & Bromley, die begin 2026 failliet ging. Criminelen maakten een gekloonde versie van de website en zorgden dat ChatGPT die aanbeveelt. Wie een bestelling plaatst via zo’n nepshop, geeft onbewust zijn persoonsgegevens aan de oplichters. De Nederlandse politie waarschuwde eerder al voor overtuigende nepwebsites die na het bestellen vandoor gaan met je data. AI fungeert zo steeds vaker als onvrijwillige tussenpersoon voor cybercriminelen.
De aanvallen leggen een serieuze kwetsbaarheid bloot in de trainingsdata en zoekindexering van taalmodellen. Experts vermoeden dat criminelen via gerichte contentinjectie de trainingsset van het model manipuleerden. Techbedrijven zetten tegelijkertijd steeds meer in op agentic AI die zelfstandig taken uitvoert. Denk aan AI die producten opzoekt, vergelijkt en aankopen doet namens de gebruiker.
Een agentic AI die autonoom betalingen afhandelt, biedt criminelen een compleet nieuwe aanvalsmogelijkheid. Het probleem lost zichzelf niet op zolang taalmodellen vatbaar blijven voor datamanipulatie. Ook het verifiëren van bronnen door AI is nog niet waterdicht. Criminaliteit evolueert daarmee even snel als de technologie die criminelen misbruiken.
