NOS Nieuws•
Expertisecentrum online misbruik Offlimits en Fonds Slachtofferhulp spannen een kort geding aan tegen chatbot Grok van X omdat het daarmee mogelijk is om mensen zonder toestemming ‘uit te kleden’. Ze eisen dat de chatbot per direct wordt verboden.
Volgens Offlimits en Slachtofferhulp groeit de groep slachtoffers van de chatbot razendsnel en is direct actie nodig om nieuwe slachtoffers te voorkomen.
Gebruikers van Grok kunnen vragen stellen aan de chatbot, maar ook nepnaaktbeelden en pornobeelden laten maken van foto’s die online staan. Er werden door Grok op verzoek van gebruikers ook afbeeldingen van schaars geklede minderjarigen gegenereerd.
In Nederland is het strafbaar om zonder toestemming van een afgebeeld persoon beeldmateriaal te seksualiseren. Daaronder valt ook het maken van nepnaaktbeelden.
De zogenoemde nudify-tools zijn volgens het advocatenkantoor dat Offlimits en Fonds Slachtofferhulp bijstaat in strijd met het recht op privacy, de AVG, de Europese wet Digital Service Act, het Wetboek van Strafrecht en het portretrecht.
‘Ongeluk in slow motion’
Uit onderzoek blijkt dat online seksueel misbruik dezelfde gevolgen kan hebben als seksueel misbruik in het normale leven, stellen Offlimits en Fonds Slachtofferhulp. Het leidt tot gevoelens van schaamte en langdurige stress bij de slachtoffers en soms zelfs tot suïcidale gedachten.
De nepnaaktbeelden worden vaak gebruikt om mensen onder druk te zetten. Bijvoorbeeld door sextortion, waarbij wordt gedreigd de nepbeelden te verspreiden als er geen echte naaktfoto’s worden gestuurd of seksuele handelingen worden verricht door de slachtoffers.
“Met AI-tools bewerkte of gemaakte beelden worden gebruikt om slachtoffers online te pesten, te vernederen of seksueel te intimideren. Bovendien zorgt de laagdrempeligheid van dit soort tools ervoor dat het maken en verspreiden hiervan op grote schaal mogelijk is”, zegt Robbert Hoving, directeur-bestuurder van Offlimits. “Het is daarmee een ongeluk in slow motion wat we zien gebeuren en dat vraagt om actie.”
Meerdere onderzoeken
De chatbot Grok ligt al langer onder vuur. Meerdere instanties en landen zijn al onderzoeken begonnen, zoals de Europese Commissie en de Franse en Britse mediawaakhonden.
Het socialemediaplatform X kondigde half januari aan de regels voor Grok te zullen aanscherpen, waardoor het niet meer mogelijk zou zijn om mensen ermee ‘uit te kleden’ of afbeeldingen te creëren van echte mensen in weinig verhullende kleding. De aanscherping geldt voor de regio’s waar “dit illegaal is”, maakte het platform toen bekend.
De zaak tegen Grok en X dient donderdag 12 maart bij de rechtbank in Amsterdam.
