Socialmediaplatform X heeft aangekondigd de regels voor AI-chatbot Grok aan te scherpen na toenemende kritiek over het genereren van nepnaaktbeelden. De tool maakte het mogelijk om mensen digitaal "uit te kleden" en seksueel gemanipuleerde foto's te creëren zonder toestemming van de afgebeelde personen.
Nederlandse wetgeving overtreden
In Nederland is het strafbaar om zonder toestemming beeldmateriaal te seksualiseren, waaronder het maken van nepnaaktbeelden valt. Ondanks X's aankondiging dat de aanscherping geldt voor regio's "waar dit illegaal is", bleken de nieuwe regels enkele uren later nog niet volledig effectief tijdens tests door de NOS.
Kamerlid Marijke Synhaeve (D66), zelf slachtoffer van deepfake-pornobeelden, maakt zich grote zorgen over de ontwikkelingen rond Grok. De afgelopen dagen groeide de internationale druk op X nadat duidelijk werd dat van talloze vrouwen en minderjarigen via de tool seksueel gemanipuleerde foto's waren gemaakt.
Internationale reacties
Verschillende landen hebben inmiddels actie ondernomen. Indonesië blokkeerde als eerste land tijdelijk de toegang tot Grok, terwijl de Filipijnen werken aan een volledig verbod. De Britse mediawaakhond Ofcom spreekt van een "welkome ontwikkeling" maar zet het onderzoek naar de AI-tool voort.
Roep om verbod in Nederland
Demissionair justitieminister Van Oosten noemt het 'uitkleden' van echte mensen "buitengewoon verwerpelijk" en benadrukt de enorme impact op slachtoffers. Anti-misbruikorganisatie Offlimits riep vorige week op tot een volledig verbod op AI-tools die deepnudes mogelijk maken, naarvoorbeeld van Australië en het Verenigd Koninkrijk.
Minister Van Oosten zegt dat er wordt gekeken naar de "mogelijkheid en wenselijkheid" van zo'n verbod, maar benadrukt dat dit vraagstuk complex is en een zorgvuldige afweging vereist.
