Europees Parlement achter verbod op uitkleed-apps, gaat voor de zomer in

• Mathijs Jansonius

  redacteur Bureau Brussel

Online tools waarin met AI-software nepnaaktbeelden kunnen worden gemaakt, gaan overal in Europa in de ban. Het Europees Parlement zal morgen instemmen met een verbod op deze uitkleed-apps, waarmee met hulp van AI mensen op foto’s uitgekleed kunnen worden. De EU-lidstaten werden het eerder al eens over een dergelijk verbod.

Het verspreiden van deze beelden is al verboden, maar het is nog altijd erg gemakkelijk om ze met grote generatieve AI-chatbots zoals Grok te maken. Ook verschijnen er nog altijd tal van uitkleedwebsites in zoekmachines zoals Google en Bing.

Deze zoekmachines kunnen fikse boetes verwachten wanneer zij dergelijke websites tonen in hun zoekresultaten. Ook zal het straks verboden worden voor chatbots om de uitkleedfunctie te ondersteunen.

Het aanstaande verbod wordt bij expertisecentrum online misbruik Offlimits gevierd als een grote overwinning. De organisatie waarschuwt al langer voor het gevaar van deze apps en lobbyt ook in Nederland voor strengere maatregelen.

“Het vervelende van die apps is dat ze zo verschrikkelijk laagdrempelig zijn. We zien dat daardoor slachtoffers ook daders worden op school. Voor je het weet ga je je lerares uitkleden of die meid die je leuk vindt”, zegt directeur Robbert Hoving van Offlimits. Hij ziet dat de gevolgen voor slachtoffers groot zijn.

“We zien dat jongeren die hiermee te maken hebben gehad slecht slapen, niet meer naar school durven en soms zelfs suïcidale gedachten krijgen.” Het verbod verwelkomt Offlimits dan ook met open armen. “Met dit verbod op Europees niveau kunnen we een sterk signaal uitzenden naar Amerikaanse Big Tech-bedrijven.”

Europarlementariër Kim van Sparrentak (GroenLinks-PvdA) stond aan de wieg van meerdere Europese wetten over AI en sociale media en heeft zich de afgelopen maanden in het Europees Parlement hard gemaakt voor dit verbod. “Het is wel ontzettend makkelijk om via Google in één keer op zo’n website terecht te komen en in twee clicks een seksueel misdrijf te begaan. We moeten dat gewoon een halt toeroepen.”

Een Europees verbod op de apps zou volgens Van Sparrentak heel effectief zijn. “In de praktijk betekent het gewoon dat de tool zelf illegaal is. Dus in principe mag Google het niet meer in de zoekresultaten laten zien en wordt het heel moeilijk om zo’n tool in handen te krijgen en daarmee seksuele misdrijven te plegen.”

Dat het verbod op een meerderheid kan rekenen in het parlement komt mede door de steun van de Christendemocraten, waar Jeroen Lenaers (CDA) vicefractievoorzitter van is.

“Uitkleed-apps zijn geen innoverende technologie, het is uitbuiting”, zegt Lenaers. “De enorme mentale schade die ze veroorzaken bij slachtoffers, mogen we absoluut niet onderschatten. Bovendien zien we dat kindermisbruikers ook al gretig gebruik maken van dit soort technologie. Een verbod op dit soort apps is dus een cruciale stap.”

De net aangetreden staatssecretaris voor Digitale Veiligheid Aerdts is blij met de Europese aanpak. “Het liefst zou je willen dat dit gisteren al verboden was. We kijken in Nederland hoe we mensen die al slachtoffer zijn geworden kunnen helpen door het offline halen van het materiaal. Want zeker als het om kinderen gaat, kan het gezien worden als kinderporno.”

Nu het Europees Parlement voor het verbod stemt, is de verwachting dat ook de landen akkoord gaan en het verbod al voor de zomer in alle EU-landen ingaat. Het verbod wordt een toevoeging op de al bestaande AI-wet, waarin eerder al beperkingen werden opgelegd aan techgiganten.