Néé dit moet niet de nieuwste trend worden: Via kunstmatige intelligente (AI) gegeneerde beelden met expliciet seksuele inhoud. Dit soort beelden overspoelt het internet, met soms fatale gevolgen voor vrouwen. Vorige week las je deel 1 van mijn blog. Vandaag deel 2.
In een tijd van voortdurende technologische vooruitgang, waar we kunnen profiteren van innovaties, groeien echter ook de zorgen over de potentieel verwoestende invloed van AI, met name in de vorm van deepfakes. Zo heeft OpenAI recent het nieuwe model Sora gecreëerd, dat realistische beelden kan maken op basis van tekstuele instructies. Het roept vragen op over de mate waarin dit model beperkingen heeft bij het creëren van deepfakes. Meisjes en vrouwen ondervinden momenteel al nadelige gevolgen, zelfs met fatale afloop, als gevolg van deepfakes. Waarom worden programma's als Sora vrijelijk openbaar gemaakt en komt het met effectieve regulering voor deepfakes? [HN1] En welke stappen zetten sociale media platforms om slachtoffers bij te staan?
Veel slachtoffers klagen dat het een grote klus is om platforms te bewegen tot het verwijderen van beelden. Als het uiteindelijk gebeurt, zijn de beelden vaak al zo wijdverspreid dat permanente verwijdering niet meer mogelijk is, zoals het geval was bij Taylor Swift. Ondanks dat deze programma's op het eerste gezicht vernieuwend en handig lijken, roept het de vraag op of dit wel het geval is wanneer levens van meisjes en vrouwen erdoor worden geruïneerd. Wat wordt er door de socialmediaplatforms en de overheid ondernomen om dit te voorkomen?
De ‘wraakporno’ wet, waarbij deepfakes onder artikel 139h Sr vallen, is een stap vooruit. Hiermee wordt duidelijk dat het maken en verspreiden van gemanipuleerd seksueel materiaal zonder toestemming strafbaar is. Het geeft slachtoffers juridische mogelijkheden om op te treden. Maar uit onderzoek van het WODC blijkt dat het handhaven van deze wet in de praktijk bijna niet haalbaar is. Ook al zijn er regels en aanscherpingen, zoals de Vergewisplicht (wat voor websites inhoudt dat zij actief moeten zoeken naar, onderzoeken en verwijderen van onrechtmatige inhoud, zoals illegale of schadelijke materialen, om de integriteit van hun platforms te handhaven), hebben slachtoffers nog steeds moeite om beelden te laten verwijderen.
Of moeten andere partijen, zoals bij Pornhub gebeurde in 2020, een standpunt innemen om deze instanties (gedwongen) te laten bewegen? Zo kon iedereen vrijwel ongehinderd content delen op Pornhub vóór 2020, waardoor illegaal materiaal een podium kreeg. Hieronder vielen ook schokkende beeldmaterialen van kinderporno. Ondanks herhaalde verzoeken van slachtoffers en andere belanghebbenden om deze beelden te verwijderen, benadrukte Pornhub vaak dat het niet zo makkelijk was om deze te verwijderen. Het keerpunt kwam toen creditcardmaatschappijen dreigden hun betaalmiddelen van de site te verwijderen. Onder deze druk kondigde Pornhub aan miljoenen video's te verwijderen, in het bijzonder kinderporno en andere illegale inhoud. Deze gebeurtenissen belichten het feit dat platforms zoals Pornhub wel degelijk stappen kunnen ondernemen om schadelijke beelden te verwijderen, maar dat dit soms pas gebeurt onder druk van onverwachte, financiële bronnen. Dit roept bij mij brandende en urgente vragen op over hoe effectief en ethisch zelfregulering is.
Pornhub heeft nu geen andere keuze dan alleen nog video's te hosten van geverifieerde uploaders, een stap die andere grote platforms, zoals Facebook, Instagram, TikTok, YouTube, Snapchat en Twitter, uit eigen initiatief zouden moeten zetten. Zeker na recente kritiek op de CEO's van Meta, X (voormalig Twitter), TikTok, Snap en Discord tijdens de Senatorenhoorzitting (in Amerika), waarin zij werden ondervraagd door het Congres over vermeende schade aan jonge gebruikers op hun platforms. Dit komt niet uit de lucht vallen, want er zijn recent documenten vrijgegeven vanuit juridische procedures tegen Meta (voormalig Facebook Inc.). Hieruit blijkt dat zelfs werknemers bezorgd zijn over de ontoereikende reactie van het bedrijf op de problemen rondom online seksuele intimidatie, vooral wat betreft het lokken van kinderen voor seksuele doeleinden.
In een wereld waar online veiligheid constant onder druk staat, is het belangrijk om social media bedrijven verantwoordelijk te houden voor het beschermen van gebruikers, vooral de meest kwetsbaren, zoals kinderen. Hoewel er al wetten zijn om dit te reguleren, moet er meer nadruk worden gelegd op effectieve handhaving. Nog belangrijker is dat we moeten samenwerken om ervoor te zorgen dat het internet een veiligere plek wordt voor iedereen. Wat denk jij dat er nodig is om dit probleem op te lossen? Laat je reactie achter.
