China werd vorige maand opgeschrikt door een nieuwe AI-tool: OpenClaw. Deze zogenoemde ‘AI-agent’ kan zelfstandig taken uitvoeren. Maar de app zorgde al snel voor problemen. Zo wiste de app de volledige inbox van een gebruiker, terwijl hij alleen vroeg om promotiemails te verwijderen. De Chinese overheid sloeg alarm en waarschuwde voor de gevaren van de app.
OpenClaw werd razendsnel populair in China. Vooral in techsteden zoals Shanghai groeide het aantal gebruikers explosief. De app beloofde taken slim en automatisch af te handelen. Toch bleek de werkelijkheid anders. Gebruikers deelden op sociale media zoals RedNote talloze verhalen over fouten die de app maakte. De AI handelde te zelfstandig en maakte beslissingen die gebruikers niet bedoelden.
De Chinese overheid reageerde snel. Zij stelde nieuwe regels op voor AI-agents die zelfstandig handelen. Volgens de overheid moeten gebruikers altijd de controle kunnen houden over zulke tools. De waarschuwing voor OpenClaw past in een breder beleid. China wil AI-innovatie stimuleren, maar tegelijk ook de risico’s beheersen. De grens tussen nuttige automatisering en gevaarlijke zelfstandigheid blijkt in de praktijk dun.
