Chatbots, AI-assistenten en deepfakes: wanneer moet u AI zichtbaar maken?
Deel 3 van een driedelige serie over de Europese richtsnoeren voor AI-transparantie
Sinds 2 augustus 2026 gelden de transparantieverplichtingen van de AI Act. In deel 1 van deze serie bespraken we wanneer zichtbaar moet zijn dat AI wordt gebruikt. Deel 2 ging specifiek over AI-gegenereerde teksten en de rol van menselijke beoordeling en redactionele verantwoordelijkheid. In dit derde en laatste deel staan chatbots, AI-assistenten en deepfakes centraal.
Gebruikt uw organisatie een chatbot voor klantcontact? Of AI voor het maken of bewerken van beeld, audio of video? Dan gelden niet automatisch dezelfde regels. Bij een chatbot gaat het er vooral om dat iemand weet dat hij rechtstreeks met AI communiceert. Bij een deepfake moet juist duidelijk worden gemaakt dat bepaalde content kunstmatig is gegenereerd of gemanipuleerd.
In dit artikel
Gebruikt u een chatbot of AI-assistent? Dit moet uw gebruiker weten
Artikel 50 lid 1 AI Act richt zich tot aanbieders van AI-systemen die rechtstreeks met natuurlijke personen interageren. Zij moeten hun systeem zo ontwerpen en ontwikkelen dat personen worden geïnformeerd dat zij met een AI-systeem communiceren, tenzij dit uit de omstandigheden al duidelijk is.
Volgens de richtsnoeren gelden daarvoor vier cumulatieve criteria:
het systeem kwalificeert als een AI-systeem;
het systeem is ontworpen voor een daadwerkelijke tweerichtingsuitwisseling met personen, en niet uitsluitend voor het verzamelen van gegevens of het geven van geautomatiseerde antwoorden;
de interactie is rechtstreeks: het AI-systeem communiceert zelf met de persoon en niet via een menselijke tussenpersoon;
de interactie vindt plaats met natuurlijke personen, zoals consumenten, professionals of andere gebruikers.
AI-systemen die uitsluitend op de achtergrond functioneren, via machine-to-machinecommunicatie werken of geen rechtstreeks contact met personen hebben, vallen buiten deze specifieke verplichting.
Moet u altijd melden dat iemand met AI communiceert?
Nee. Een afzonderlijke melding is niet nodig wanneer het voor de gebruiker duidelijk is dat hij met een AI-systeem communiceert. De Commissie benadrukt echter dat deze uitzondering restrictief moet worden uitgelegd. Daarbij wordt gekeken vanuit het perspectief van een gemiddeld persoon die redelijk geïnformeerd, oplettend en omzichtig is. Voor organisaties betekent dit dat niet te snel moet worden aangenomen dat een gebruiker vanzelf begrijpt dat de gesprekspartner AI is.
In de praktijk kan een eenvoudige melding veel onduidelijkheid voorkomen: “U chat met onze AI-assistent.” De gebruiker moet vanaf het begin van de eerste interactie worden geïnformeerd. De informatie moet duidelijk te onderscheiden zijn en voldoen aan de toepasselijke toegankelijkheidseisen.
Ligt de verplichting bij u of bij uw AI-leverancier?
Dat hangt af van uw rol. De verplichting bij directe interactie uit artikel 50 lid 1 AI Act rust op de aanbieder van het AI-systeem. Een organisatie die een bestaande AI-oplossing van een externe leverancier gebruikt, wordt dus niet alleen daardoor automatisch aanbieder.
Bij andere onderdelen van artikel 50 AI Act kan de verplichting juist rusten op de gebruiksverantwoordelijke (deployer): de organisatie die een AI-systeem onder haar verantwoordelijkheid gebruikt. Bij deepfakes is bijvoorbeeld de gebruiksverantwoordelijke verantwoordelijk voor de disclosure. Voor uw organisatie is het daarom belangrijk om niet alleen vast te stellen welke AI-toepassingen u gebruikt, maar ook welke juridische rol u per toepassing vervult.
Gebruikt u AI voor beeld, audio of video? Wanneer is dat een deepfake?
Niet alle door AI gegenereerde content is een deepfake. De AI Act definieert een deepfake als door AI gegenereerde of gemanipuleerde beeld-, audio- of video-inhoud die lijkt op bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen en voor een persoon ten onrechte authentiek of waarheidsgetrouw kan lijken.
Volgens de richtsnoeren moet cumulatief aan drie criteria zijn voldaan:
Gelijkenis: er is een hoge mate van gelijkenis tussen de content en het nagebootste onderwerp.
Bestaand of aannemelijk: de nagebootste persoon, het object, de plaats, de entiteit of de gebeurtenis bestaat, kan aannemelijk bestaan of had aannemelijk in werkelijkheid kunnen bestaan.
Schijn van authenticiteit of waarheidsgetrouwheid: de content kan een persoon mogelijk misleiden over de authenticiteit of waarheidsgetrouwheid ervan.
Denk bijvoorbeeld aan een AI-video waarin een bestaande bestuurder overtuigend iets lijkt te zeggen wat hij nooit heeft gezegd, of een AI-audiofragment dat sterk lijkt op de stem van een bestaande persoon. Een duidelijk fictieve AI-afbeelding is daarentegen niet alleen omdat zij met AI is gemaakt automatisch een deepfake.
De context is belangrijk
Voor de beoordeling mag volgens de Commissie onder meer rekening worden gehouden met:
de mate van gelijkenis;
de inhoudelijke boodschap van de content;
de beoogde en redelijkerwijs voorzienbare gebruikscontext;
de samenstelling en verwachtingen van het beoogde en redelijkerwijs voorzienbare publiek.
Verwacht het publiek in de betreffende context niet dat de content authentiek of waarheidsgetrouw is, dan kan dat relevant zijn voor de vraag of aan de deepfakecriteria wordt voldaan. De Commissie noemt in dit verband onder meer achtergrondscènes, special effects en technische pre- en postproductie bij reguliere filmproducties.
Wat moet u doen als content een deepfake is?
Wanneer sprake is van een deepfake, moet de gebruiksverantwoordelijke bekendmaken dat de content kunstmatig is gegenereerd of gemanipuleerd. Die bekendmaking moet uiterlijk plaatsvinden wanneer een natuurlijke persoon voor het eerst aan de content wordt blootgesteld. Zij moet duidelijk en te onderscheiden, begrijpelijk en voor natuurlijke personen waarneembaar zijn. De ontvanger mag daarvoor niet eerst bijzondere technische hulpmiddelen hoeven te gebruiken of afzonderlijke handelingen hoeven te verrichten. Alleen een technische markering in de content is hiervoor dus niet voldoende.
Gelden andere regels voor artistieke, creatieve, satirische of fictieve werken?
Er geldt geen volledige uitzondering. Wanneer een deepfake onderdeel is van een evident artistiek, creatief, satirisch, fictief of vergelijkbaar werk of programma, blijft de transparantieverplichting bestaan. Wel is de verplichting beperkt tot bekendmaking van het bestaan van de gegenereerde of gemanipuleerde content op een passende wijze die de vertoning of het genot van het werk niet belemmert.
De wijze van bekendmaking kan in deze context dus anders worden vormgegeven. Of de content überhaupt als deepfake kwalificeert, blijft bovendien afhankelijk van de hiervoor beschreven criteria, waaronder de context en de verwachtingen van het publiek.
Eén AI-toepassing kan meerdere verplichtingen voor uw organisatie meebrengen
Eén AI-systeem kan onder meerdere transparantieverplichtingen van artikel 50 AI Act vallen. Denk aan een AI-assistent die rechtstreeks met gebruikers communiceert en tijdens die interactie ook synthetische beelden genereert. Afhankelijk van de functionaliteit en het gebruik kunnen verschillende verplichtingen naast elkaar gelden:
Artikel 50 lid 1 AI Act: de aanbieder moet ervoor zorgen dat natuurlijke personen worden geïnformeerd dat zij rechtstreeks met een AI-systeem communiceren, tenzij dit al duidelijk is.
Artikel 50 lid 2 AI Act: aanbieders van AI-systemen die synthetische audio, beeld, video of tekst genereren, moeten ervoor zorgen dat AI-gegenereerde of gemanipuleerde output machineleesbaar wordt gemarkeerd en technisch detecteerbaar is als kunstmatig gegenereerd of gemanipuleerd.
Artikel 50 lid 4 AI Act: wanneer een gebruiksverantwoordelijke AI-gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal als deepfake gebruikt, moet voor natuurlijke personen duidelijk worden gemaakt dat de content kunstmatig is gegenereerd of gemanipuleerd.
Het onderscheid tussen lid 2 en lid 4 is belangrijk. Lid 2 ziet op technische detecteerbaarheid van AI-content en richt zich tot de aanbieder. Lid 4 ziet bij deepfakes op transparantie richting de persoon die aan de content wordt blootgesteld en richt zich tot de gebruiksverantwoordelijke. Een machineleesbare markering op grond van lid 2 is daarom op zichzelf niet voldoende om aan de disclosureverplichting voor deepfakes van lid 4 te voldoen.
Wat kunt u als organisatie nu doen?
Gebruikt uw organisatie chatbots, AI-assistenten of AI voor het genereren of bewerken van tekst, beeld, audio of video? Dan is het verstandig gericht vast te stellen waar artikel 50 AI Act uw organisatie raakt. Begin bijvoorbeeld met de volgende stappen:
Breng in kaart waar personen rechtstreeks met AI communiceren.
Controleer wat gebruikers vanaf de eerste interactie te zien of te horen krijgen.
Bepaal uw rol per toepassing: aanbieder, gebruiksverantwoordelijke of mogelijk beide.
Inventariseer waar AI tekst, beeld, audio of video genereert of manipuleert.
Beoordeel bij beeld, audio en video of sprake kan zijn van een deepfake; kijk ook naar gelijkenis, authenticiteit, gebruikscontext en verwachtingen van het publiek.
Controleer hoe een eventuele disclosure wordt gegeven.
Leg intern vast wie verantwoordelijk is voor beoordeling en opvolging.
Een medewerker die een AI-systeem gebruikt onder instructie en controle van zijn werkgever wordt daarbij niet afzonderlijk als gebruiksverantwoordelijke beschouwd. De rechtspersoon kan die rol behouden. Hetzelfde kan gelden wanneer contractors of freelancers namens en onder verantwoordelijkheid en controle van de organisatie handelen.
Kunt u nog wachten met de implementatie?
In beginsel niet. Artikel 50 AI Act geldt sinds 2 augustus 2026. Vanaf die datum moeten aanbieders en gebruiksverantwoordelijken aan de toepasselijke transparantieverplichtingen voldoen.
Er geldt slechts een beperkte overgangsregeling voor bepaalde AI-systemen die vóór 2 augustus 2026 op de markt zijn gebracht, en uitsluitend voor de markerings- en detectieverplichting van artikel 50 lid 2 AI Act. Voor die systemen geldt deze verplichting vanaf 2 december 2026. Voor de verplichting om personen bij directe interactie met AI te informeren geldt die overgang niet.
Wat is het risico als u niet aan de regels voldoet?
Voor overtreding van artikel 50 AI Act kunnen boetes oplopen tot €15 miljoen of 3% van de wereldwijde jaaromzet. Voor mkb-ondernemingen gelden aangepaste regels voor het boetemaximum.
In Nederland wordt het toezicht op de AI Act nog definitief ingericht. Het voorstel gaat uit van verschillende bestaande toezichthouders, met een coördinerende rol voor de AP en RDI. Dat verandert niets aan de verplichtingen zelf: artikel 50 AI Act geldt sinds 2 augustus 2026.
Conclusie: transparantie bij chatbots en deepfakes
De AI Act verlangt niet dat iedere toepassing van AI overal van een algemeen waarschuwingslabel wordt voorzien. Voor uw organisatie begint de analyse daarom niet met: “Gebruiken wij AI?” maar met: “Waar gebruiken wij AI, wat doet het systeem, welke output ontstaat, hoe wordt die gebruikt en welke rol hebben wij daarbij?”
Bij chatbots en AI-assistenten is vooral van belang of natuurlijke personen rechtstreeks met AI communiceren en daarvan vanaf het begin op de hoogte zijn. Bij deepfakes gaat het om de vraag of AI-gegenereerd of gemanipuleerd beeld, audio of video ten onrechte authentiek of waarheidsgetrouw kan lijken — en of de vereiste disclosure voor de ontvanger daadwerkelijk waarneembaar is.
Daarmee sluiten we ook de driedelige serie af: niet het gebruik van AI op zichzelf bepaalt welke transparantieverplichting geldt. De concrete toepassing, de output, het gebruik daarvan en de rol van uw organisatie zijn bepalend.
Eerder in deze serie
Wat betekenen de AI-transparantieverplichtingen voor uw onderneming?
DUFINCO helpt organisaties om vast te stellen welke AI-transparantieverplichtingen op hun toepassingen van toepassing zijn en welke rol zij daarbij vervullen. Wij vertalen deze verplichtingen naar werkbare processen, duidelijke informatie voor gebruikers en heldere interne verantwoordelijkheden.
Wilt u weten wat de AI-transparantieverplichtingen voor uw onderneming betekenen? Neem contact op via info@dufinco.nl of bel +31 (0)6 512 47 217.
