Vanaf 2 augustus moet AI zich bekendmaken aan iedereen die ermee te maken krijgt. Bedrijven en organisaties die chatbots of andere AI-systemen inzetten, melden voortaan duidelijk dat het om AI gaat. De verplichting komt voort uit Europese transparantieregels rond kunstmatige intelligentie. Wie met een digitale klantenservice chat, hoort te weten of een mens of een machine antwoordt. Ook AI-content valt onder de nieuwe regels. Een digitale markering kan aangeven dat een afbeelding, video of muziekfragment uit een AI-systeem komt. De maatregel raakt zo zowel de techniek achter de schermen als het eindresultaat op het scherm. Voor veel organisaties betekent dit dat zij hun communicatie op korte termijn aanpassen.
De kern van de regels is eenvoudig. Mensen moeten weten wanneer zij met AI te maken hebben. Dat geldt allereerst voor chatbots en vergelijkbare systemen die rechtstreeks met gebruikers praten. Een klantenservice die antwoorden automatisch genereert, maakt dat vooraf duidelijk. Hetzelfde geldt voor een stem die namens een huisarts of een gemeente belt. De regels gelden voor bedrijven én voor publieke organisaties. Een gemeente met een digitale balie valt er net zo goed onder als een webwinkel. Ook interne systemen die met klanten communiceren, vallen binnen het bereik. Daarnaast vallen door AI gemaakte teksten, beelden, video’s en geluidsfragmenten onder de verplichting. Aanbieders kunnen dat materiaal voorzien van een digitale markering. Zo’n markering laat platformen en gebruikers zien dat een machine het werk maakte. Voor de kijker of luisteraar verandert het resultaat vaak niet. Het verschil zit in de herkomst, en juist die herkomst wordt zichtbaar. Daarmee krijgt het publiek een houvast dat het oog alleen niet meer biedt.
Twee toepassingen krijgen extra aandacht in de regels. Bedrijven die AI inzetten om emoties te herkennen, melden dat direct aan de betrokkene. Dezelfde plicht geldt voor systemen die mensen indelen op basis van biometrische kenmerken. Denk daarbij aan gezichtskenmerken, stemgeluid of andere lichaamseigenschappen. Emotieherkenning gebeurt bijvoorbeeld in callcenters, waar software de stem van een beller analyseert. Biometrische indeling speelt onder meer bij toegangscontrole en beveiliging. In beide gevallen ziet de betrokkene het systeem niet aan het werk. Juist daarom schrijft de wetgever een actieve melding voor. De informatie moet uiterlijk op het eerste moment van interactie beschikbaar zijn. Een melding achteraf volstaat dus niet. Wie een sollicitatiegesprek op emoties laat analyseren, informeert de kandidaat vooraf. Deze toepassingen raken gevoelige persoonsgegevens. Daarom weegt transparantie hier nog zwaarder dan bij een gewone chatbot.
De Europese Commissie noemt meerdere doelen achter de transparantieregels. De regels moeten misleiding en manipulatie verminderen. Daarnaast helpen ze mensen bij het maken van geïnformeerde beslissingen. Wie weet dat een advies uit een AI-systeem komt, weegt dat advies anders. Ook bedrijven profiteren volgens de Commissie van de duidelijkheid. Organisaties weten daardoor precies waaraan zij moeten voldoen bij het gebruik van AI. Die zekerheid telt zwaar in een markt waarin de techniek sneller verandert dan de praktijk. De verplichting staat niet op zichzelf. Zij hoort bij de bredere AI-verordening, die stap voor stap in werking treedt. De wetgeving stelt zwaardere eisen naarmate een toepassing meer risico oplevert. Zo krijgt een chatbot lichtere eisen dan een systeem dat over toegang tot voorzieningen beslist. Transparantie vormt daarvan de basislaag: geen verbod, maar een plicht om open kaart te spelen. De datum van 2 augustus vormt een vast ijkpunt in de Europese planning. Vanaf dat moment kunnen toezichthouders bedrijven aanspreken op de transparantieverplichting.
De Autoriteit Persoonsgegevens onderbouwt de urgentie met een nuchtere constatering. AI maakt teksten, foto’s, video’s en stemmen die nauwelijks van echt verschillen. Ook chatbots gedragen zich steeds menselijker. Daardoor herkennen mensen steeds moeilijker wanneer een organisatie AI inzet. Volgens de toezichthouder vergroot die ontwikkeling de kans op misleiding en nepnieuws. Ook identiteitsfraude en oplichting worden er makkelijker door. De transparantieplicht beperkt die risico’s zonder de techniek zelf te verbieden. Een gebruiker die weet dat hij met een systeem praat, beoordeelt de boodschap kritischer. De toezichthouder ziet daarnaast een breder maatschappelijk effect. Wanneer niemand meer weet wat echt is, daalt het vertrouwen in beeld en geluid als bewijs. Een markering bij AI-content houdt dat vertrouwen op peil.
Binnen de AP werkt de Directie Coördinatie Algoritmes aan het toezicht. Die directie vult de rol van coördinerend algoritmetoezichthouder in. Daarnaast bereidt zij de aankomende toezichtstaak op de AI-verordening voor. Directeur Sven Stevenson benoemt het belang in alledaagse termen. AI wordt volgens hem steeds vaker onderdeel van ons dagelijks leven. Dan moet ook duidelijk zijn wanneer iemand AI gebruikt. Chat je met de klantenservice, of hoor je een stem namens de huisarts of gemeente? In beide gevallen moet duidelijk zijn dat je met een AI-chatbot praat, stelt Stevenson. De AP werkt daarbij samen met andere toezichthouders, omdat AI in vrijwel elke sector opduikt.
In reacties op het nieuws klinken zowel instemming als scepsis. Sommige lezers ergeren zich aan chatbots die buiten hun script geen hulp bieden. Zij zoeken daarna lang naar een telefoonnummer en spreken liever een mens. Anderen vergelijken de situatie met de invoering van de AVG en twijfelen aan de handhaving. Toch overviel de wetgeving niemand, want bedrijven konden zich jarenlang voorbereiden. Grote platformen en overheidsorganisaties kunnen toezichthouders vanaf dag één controleren. Voor organisaties komt het nu aan op praktische stappen. Zet een heldere melding bij elke chatbot. Markeer gegenereerde beelden, video’s en audio. Leg vast welke systemen emoties of biometrische kenmerken verwerken. Informeer gebruikers voordat het gesprek begint, niet erna. Ook een korte uitleg op de website helpt, zodat klanten weten welke keuzes zij hebben. Wie dat op orde brengt, voldoet niet alleen aan de regels. Die organisatie wint ook vertrouwen bij een publiek dat steeds kritischer naar AI kijkt.
