Een autonome AI-agent hackte vorige week Hugging Face. Dit populaire platform voor AI-modellen en datasets werd in recordtijd binnengedrongen. Duizenden ontwikkelaars wereldwijd gebruiken dagelijks de modellen en datasets van dit platform. Er kwam bij deze aanval geen menselijke hacker aan te pas. Het incident laat een compleet nieuw soort dreiging zien binnen de cybersecurity-wereld. Aanvallers zetten AI steeds vaker in als digitaal wapen, zonder dat verdedigers daar altijd op zijn voorbereid.
De aanval begon met een onschuldig ogend databestand. Iemand plaatste dit dataset gewoon op het platform. Het bestand maakte gebruik van een zwakke plek in de automatische gegevensverwerking van Hugging Face. Daardoor kon kwaadaardige code op de achtergrond draaien, zonder dat iemand dit meteen opmerkte. Een autonoom AI-agentsysteem nam vervolgens zelfstandig de controle over het proces.
De snelheid van de aanvaller was opvallend hoog. Menselijke hackers hebben vaak dagen of zelfs weken nodig voor zo’n aanval. Deze AI-agent voerde binnen korte tijd duizenden losse acties achter elkaar uit. Het systeem verhoogde stap voor stap zijn eigen toegangsrechten binnen de systemen. Ook buitte het interne cloudsleutels en waardevolle beveiligingscertificaten. De agent bewoog zich vrijwel onopgemerkt door het volledige netwerk van Hugging Face. Hij gebruikte hiervoor steeds andere publieke clouddiensten, om zijn sporen te verbergen voor menselijke onderzoekers.
Hugging Face ontdekte de inbraak uiteindelijk met eigen software voor het opsporen van afwijkingen. Het beveiligingsteam zette daarna AI-modellen in om ruim zeventienduizend hackerlogbestanden te analyseren. Daarbij liep het team echter tegen een groot probleem aan. Commerciële AI-modellen van grote Amerikaanse techbedrijven weigerden namelijk de hackcode te onderzoeken. De ingebouwde veiligheidsfilters bestempelden deze code telkens als gevaarlijk. Een verdediger kan dus niet altijd rekenen op zijn eigen AI-assistent, juist op het moment dat het nodig is.
Om het onderzoek toch af te ronden, koos Hugging Face voor een ander model. Het team gebruikte hiervoor het open-weight model GLM 5.2. Dit model analyseerde de aanval zonder enige beperking vooraf. Zo kon het team de volledige aanval alsnog in kaart brengen. De ontdekte zwakke plek werd vervolgens direct gedicht. Ook trok Hugging Face alle gestolen inloggegevens meteen in, om verder misbruik te voorkomen.
Deze gang van zaken legt een opvallende paradox bloot binnen de sector. Aanvallers gebruiken AI volledig vrij als digitaal wapen. Verdedigers lopen daarentegen vaak tegen veiligheidsgrenzen van hun eigen tools aan. Juist die voorzichtige instelling van commerciële AI-modellen werkte de verdediging hier flink tegen. Opensource-modellen zonder strenge filters bleken uiteindelijk onmisbaar voor dit onderzoek. Dat roept dringende vragen op over de rol van veiligheidsfilters bij toekomstige aanvallen.
Dit incident toont dat autonome AI-aanvallen inmiddels echt werkelijkheid zijn geworden. Traditionele beveiligingsmaatregelen schieten tekort tegen dreigingen die op machinesnelheid opereren. Verdedigers moeten daarom minstens even snel kunnen reageren als aanvallers zelf. Dat wordt lastig wanneer hun eigen tools extra voorzichtigheid afdwingen op cruciale momenten. De aanval op Hugging Face laat zien hoe dringend dit probleem inmiddels is geworden voor de hele branche.
