NOS Nieuws••Aangepast
Ruim honderd internationale organisaties hebben zich aangesloten bij een manifest voor een verbod op apps waarmee foto’s van mensen digitaal ‘uitgekleed’ kunnen worden. In Nederland zijn dat de gemeente Amsterdam en expertisebureau voor online misbruik Offlimits.
In het manifest wordt opgeroepen tot een wereldwijde ban op deze zogenoemde nudifying tools. De technologie, die vooral misbruikt wordt voor het manipuleren van beelden van vrouwen, meisjes en kinderen, brengt ernstige risico’s met zich mee, waaronder seksuele uitbuiting en chantage. Socialemediaplatform X kwam onlangs in opspraak omdat zijn chatbot Grok ook nepnaaktbeelden kon maken.
Het manifest vraagt overheden om binnen twee jaar wetten in te voeren die het gebruik, de verspreiding en de verkoop van deze tools verbieden. Ook wordt een oproep gedaan aan techbedrijven en het publiek om actie te ondernemen tegen deze schadelijke technologieën en de gevolgen ervan te beperken.
‘Wetgeving stopt bij de grens’
Offlimits-bestuurder Robbert Hoving zegt dat de AI-technologie gebruikt wordt om naaktbeelden te genereren die niet meer van echt te onderscheiden zijn. “Daarmee doet het ook precies hetzelfde met slachtoffers als bij echte naaktfoto’s die worden verspreid. Slachtoffers kunnen niet meer slapen en willen niet meer naar school. Het leidt tot grote paniek, zelfs tot suïcidale gedachten.”
De beelden worden volgens Hoving vooral gebruikt om mensen onder druk te zetten. “We zien twee vormen. Bij meiden gaat het om sextortion. Dan wordt gedreigd de nepbeelden te verspreiden als ze geen echte foto’s sturen of seksuele handelingen verrichten. Bij jongens wordt met hetzelfde gedreigd als er geen geld wordt overgemaakt.”
Hoving zegt dat in Nederland veel toepassingen al verboden zijn, maar volgens hem stopt de wetgeving bij de grens. Daarom pleit Offlimits voor geharmoniseerde wetgeving op internationaal niveau, zodat deze toepassingen nergens meer kunnen bestaan. “Als je dit alleen in één land verbiedt, maar het blijft elders toegestaan, dan kunnen er nog steeds slachtoffers vallen”, zegt Hoving.
Stijging van 260 procent
De oproep richt zich niet alleen op overheden, maar ook op technologiebedrijven en de samenleving als geheel. Bedrijven moeten ervoor zorgen dat hun tools niet misbruikt kunnen worden voor het maken van dit soort beelden, vindt Hoving. Daarnaast is bewustwording cruciaal. “We moeten elkaar erop aanspreken dat dit niet kan, en het onderwerp structureel meenemen in voorlichtingsprogramma’s op scholen”, zegt hij.
Het onderwerp krijgt ook in Nederland politieke aandacht. Het aankomende kabinet wil inzetten op digitale veiligheid en overweegt onder meer maatregelen tegen seksuele deepfakes. Hoewel de bestaande Nederlandse wetgeving volgens Hoving al mogelijkheden biedt om op te treden, is hij positief over die extra focus. “Iedere extra aandacht is nodig om dit probleem op te lossen.”
Die urgentie blijkt ook uit de cijfers die Offlimits ziet. De organisatie registreerde het afgelopen jaar een sterke toename van meldingen. “Ten opzichte van vorig jaar zien we een stijging van 260 procent van mensen die zich bij onze hulplijn melden omdat ze slachtoffer zijn geworden van met AI gemaakt materiaal”, zegt Hoving. Dat onderstreept volgens hem dat snelle en gezamenlijke actie noodzakelijk is.
