Striktere regels voor controversiële AI-tool
Socialmediaplatform X heeft aangekondigd de regels voor AI-chatbot Grok aan te scherpen. De tool maakte het mogelijk om foto's van mensen digitaal 'uit te kleden', een praktijk die zonder toestemming verboden is. Deze wijziging komt er nadat experts alarmeerden over het grootschalige misbruik van de technologie.
Expertisebureau Offlimits ontving vorig jaar maar liefst 2.100 door AI gegenereerde naaktbeelden via het meldpunt voor beeldmateriaal van seksueel misbruik. "Een zorgwekkende ontwikkeling die zich voortzet", aldus directeur-bestuurder Robbert Hoving. Het bureau pleit inmiddels voor een volledig verbod op AI-tools die het genereren van naaktbeelden mogelijk maken.
Nederlandse ouders passen gedrag aan
De ontwikkelingen zorgen ervoor dat Nederlandse ouders hun online gedrag aanpassen. Veel gezinnen kiezen er bewust voor om kindergezichten af te schermen met emoji's of foto's te vervagen. Anderen fotograferen hun kinderen uitsluitend van achteren om herkenning te voorkomen.
Journalist en schrijver Nina Pierson, moeder van vier kinderen, maakte deze transitie ook door. "Het begon met het principe: dit is mijn leven, ik kies hier zelf voor, maar mijn kinderen doen dat niet", legt ze uit. Pierson brengt haar kinderen tegenwoordig onherkenbaar en steeds minder in beeld, zodat zij later zelf kunnen bepalen hoe hun online voetafdruk eruitziet.
Dramatische stijging meldingen
Bij hulplijn Offlimits was vorig jaar een stijging van 260 procent te zien in meldingen over AI-gegenereerde naaktfoto's. Hoving vindt dat platforms als X en eigenaar Elon Musk verantwoordelijk gehouden moeten worden: "In de offline wereld accepteren we het niet, dus dat zouden we ook online niet moeten pikken."
Oproep tot bewustwording
Hoewel experts benadrukken dat ouders niet verweten kan worden dat ze foto's willen delen, groeit het besef dat extra voorzichtigheid geboden is. "Foto's zijn data, en mensen moeten goed nadenken voordat ze iets online delen", waarschuwt Hoving. Hij benadrukt dat zowel daders als platforms die dit faciliteren de wet overtreden.
De discussie illustreert de spanningsboog tussen technologische mogelijkheden en digitale veiligheid, waarbij vooral de bescherming van minderjarigen centraal staat.
