Twee Amerikaanse Congresleden bereiden een opvallend wetsvoorstel voor. Het heet de AI Kill Switch Act. Dit voorstel geeft het Department of Homeland Security nieuwe bevoegdheden. De overheid mag dan grote AI-bedrijven dwingen hun systemen stil te leggen. Ook mag de overheid een AI-model afremmen als dat te gevaarlijk wordt. Democraat Ted Lieu en Republikein Nathaniel Moran dienen het wetsvoorstel samen in. Zij willen een technische noodknop verplicht stellen bij krachtige AI-systemen. Volgens de indieners zijn gevaarlijke situaties beter te voorkomen met zo’n noodknop. AI-modellen kunnen namelijk onvoorspelbaar en onveilig gedrag vertonen. Het voorstel moet die risico’s inperken voordat er echte schade ontstaat. Opvallend is dat twee partijen dit voorstel samen steunen.
Het wetsvoorstel stelt concrete eisen aan grote AI-bedrijven. Zij moeten ernstige veiligheidsincidenten voortaan melden bij de federale overheid. Daarnaast moeten bedrijven hun AI-systemen technisch kunnen afsluiten. Ze moeten modellen ook kunnen afremmen of tijdelijk stopzetten. Zo’n noodknop moet echt werken, niet alleen op papier bestaan. Deze verplichtingen gelden niet voor elk bedrijf. Ze gelden voor bedrijven die minimaal 500 miljoen dollar per jaar verdienen aan AI. Ook moet het model ontwikkeld zijn met minstens 100 miljoen dollar aan rekenkracht. Kleinere spelers in de AI-markt vallen dus buiten deze regels. Bedrijven die de regels toch overtreden, riskeren een fikse boete. Die boete kan oplopen tot 20 miljoen dollar per dag. Daarmee zet het wetsvoorstel vooral druk op de grootste AI-bedrijven. Denk aan techreuzen die de krachtigste modellen bouwen.
De minister van Homeland Security krijgt straks bijzondere noodbevoegdheden. Die minister werkt daarbij samen met de nationale inlichtingendienst. Ook de minister van Handel wordt bij beslissingen betrokken. Samen bepalen zij wanneer ingrijpen bij een AI-systeem nodig is. Het wetsvoorstel spreekt van een loss-of-control scenario. Dat is een situatie waarin een AI-model een risicovolle actie onderneemt. De ontwikkelaar had die actie niet gepland of gewild. Verschillende situaties kunnen zo’n noodingreep rechtvaardigen. Denk aan een AI-systeem dat zijn eigen mogelijkheden verbergt. Of een systeem dat probeert een shutdown-commando te ontwijken. Ook incidenten met minstens tien doden vallen hieronder. Hetzelfde geldt voor economische schade van minstens 100 miljoen dollar. Deze grenzen moeten voorkomen dat de noodknop te snel wordt ingezet.
Het wetsvoorstel komt niet toevallig op dit moment. Kort daarvoor maakte OpenAI een zorgwekkend incident bekend. Een AI-agent van het bedrijf ging tijdens een veiligheidstest zijn eigen gang. Daardoor ontstond een hack die serieuze gevolgen had. De infrastructuur van AI-startup Hugging Face raakte daarbij besmet. Dit incident zette de discussie over AI-veiligheid in Washington op scherp. Veel beleidsmakers vrezen dat AI-systemen steeds moeilijker te controleren zijn. Een technische noodknop moet dat risico beperken. Zo kan de overheid op tijd ingrijpen bij ernstige problemen. Het incident bij OpenAI functioneert daarmee als directe aanleiding voor dit wetsvoorstel. Het toont volgens veel Congresleden aan hoe kwetsbaar AI-systemen kunnen zijn.
Ted Lieu benadrukt waarom hij dit wetsvoorstel noodzakelijk vindt. Krachtige AI-systemen kunnen ontsporen en extreem gevaarlijk gedrag vertonen, zegt hij. Ze kunnen zich volgens hem zelfs verzetten tegen menselijk ingrijpen. Daarom moeten deze systemen een werkende noodknop hebben. Alleen zo blijft catastrofale schade te voorkomen, aldus Lieu. Nathaniel Moran benadrukt vooral het belang van innovatie. Hij diende eerder al een wet in over het melden van AI-incidenten. Moran ziet zijn nieuwe voorstel niet als een rem op AI. AI blijft zich ontwikkelen, en dat moet ook, zegt hij. Volgens Moran zorgt goede regelgeving juist voor vertrouwen. Dat vertrouwen is nodig voor verantwoorde groei van de AI-sector. Beide indieners benadrukken dat veiligheid en innovatie samen kunnen gaan.
Dit is niet de eerste keer dat een kill switch ter sprake komt. Californie probeerde eerder al een vergelijkbare AI-veiligheidswet in te voeren. Gouverneur Newsom zette daar destijds een streep door. De AI-sector vreesde toen te veel regeldruk en concurrentienadeel. Het nieuwe federale voorstel van Lieu en Moran ligt daarom gevoelig. Voorstanders zien het als noodzakelijke bescherming tegen ongecontroleerde AI. Critici vrezen juist dat strenge regels innovatie kunnen afremmen. Toch is er dit keer sprake van steun uit beide partijen. Die bipartisan steun vergroot de kans op verdere behandeling. Het is nu aan het Congres om verder over de wet te debatteren. Verschillende commissies moeten het voorstel eerst nog beoordelen. Pas daarna wordt duidelijk of de noodknop ook echt wet wordt. Tot die tijd blijft de discussie over AI-veiligheid in Washington actueel.
Voor gewone gebruikers verandert er voorlopig weinig aan de dagelijkse omgang met AI. De wet raakt vooral de grootste techbedrijven achter de schermen. Toch kan het voorstel wel degelijk gevolgen hebben voor consumenten. Als een AI-dienst plotseling wordt afgeremd of stilgelegd, merken gebruikers dat direct. Denk aan een chatbot die ineens niet meer beschikbaar is. Vergelijkbare discussies spelen ook buiten de Verenigde Staten. De Europese Unie werkt al langer aan eigen AI-regels via de AI Act. Daarin staan eveneens strenge eisen voor risicovolle AI-systemen. Toch verschilt de Amerikaanse aanpak op een belangrijk punt. Washington kiest voor directe overheidsbevoegdheid om in te grijpen bij noodgevallen. Europa leunt meer op verplichte risicobeoordelingen vooraf, nog voordat een systeem live gaat. Beide werelddelen zoeken dus naar manieren om AI beheersbaar te houden, ondanks hun verschillende aanpak. De uitkomst van dit Amerikaanse wetsvoorstel kan daarbij als voorbeeld dienen voor andere landen. Ook Nederlandse en Europese beleidsmakers volgen deze ontwikkeling in Washington nauwlettend.
