NOS Nieuws•
De AI-chatbot Grok mag van de rechtbank in Amsterdam de zogenoemde ‘uitkleedfunctie’ niet meer aanbieden in Nederland. Grok is onderdeel van het socialemediaplatform X van Elon Musk. Het is makkelijk om de gemaakte beelden via het platform te verspreiden.
Het expertisecentrum online misbruik Offlimits daagde Grok en X vorige maand voor de rechter. Het is via de app mogelijk om zonder toestemming mensen virtueel ‘uit te kleden’ en deze beelden vervolgens te verspreiden. Ook kan er kinderpornografisch materiaal mee worden gemaakt.
Het bedrijf achter Grok zei eerder dit soort beelden tegen te willen gaan, en dat het maatregelen heeft getroffen hiertegen, maar de rechter concludeert nu dat de maatregelen niet effectief genoeg zijn. Het lukte Offlimits kort voor de zitting nog om uitkleedvideo’s te maken met Grok.
Boete
Het verbod geldt voor beelden van personen die in Nederland wonen en voor het maken en verspreiden van beelden in Nederland.
Voor elke overtreding moet Grok 100.000 euro betalen, en het boetebedrag kan oplopen tot een maximum van 10 miljoen euro. Ook mag Grok niet meer onderdeel zijn van X, zo lang het mogelijk is om deze beelden te maken.
Het Europees Parlement heeft vandaag ingestemd met een verbod op uitkleedapps. Voor de zomer moeten zulke apps in de hele Europese Unie verboden worden.
