Néé dit moet niet de nieuwste trend worden: Via kunstmatige intelligente (AI) gegeneerde beelden met expliciet seksuele inhoud. Dit soort beelden overspoelt het internet. In een tijd van voortdurende technologische vooruitgang, waar we kunnen profiteren van innovaties, groeien echter ook de zorgen over de potentieel verwoestende invloed van AI, met name in de vorm van deepfakes.
Iedereen kent de grappige deepfakes van bijvoorbeeld presidenten die grappige dingen zeggen tot baby’s die ineens volzinnen uitspreken. Deepfakes zijn digitale manipulaties, waarbij gezichten of stemmen van mensen worden gemanipuleerd en geïntegreerd in video's of audio-opnames. Naast dat ze op de lachspieren werken, roepen sommige deepfakes serieuze vragen op over ethiek en privacy, vooral wanneer ze worden misbruikt voor het creëren van expliciet seksueel getint beeldmateriaal, bedoeld om een ander (reputatie)schade te berokkenen.
Wat deze trend zorgwekkend maakt, is dat de gegenereerde beelden bijna niet te onderscheiden zijn van de werkelijkheid. Jaren geleden, toen de kwaliteit van AI-gegenereerde beelden slechter was, kon men deze gemakkelijker onderscheiden van echte beelden, waardoor het mogelijk was om reputaties te herstellen.
In het huidige tijdperk is de kwaliteit van deze beelden echter verbeterd en de snelheid waarmee deze kunnen worden gemaakt. Deze vorm van manipulatie is de afgelopen tijd een groot probleem geworden, overal ter wereld en krijgt steeds meer nationale en mondiale aandacht nu ook beroemdheden erdoor worden getroffen.
De in januari 2024 verspreidde AI-gegenereerde pornografische beelden van Taylor Swift hebben bijna een hele dag op het sociale media platform X (voorheen Twitter) gecirculeerd waarbij één afbeelding 47 miljoen keer werd bekeken voordat deze werd verwijderd. Ondanks de trage reactie blokkeerde X uiteindelijk de beelden en zoekopdrachten naar de popster vanwege publieke verontwaardiging. Ook de zaak van de Nederlandse Welmoed Sijtsma waar een 39-jarige man een deepfake pornografische video van haar creëerde en verspreidde, werpt licht op de gevaren van AI en het effect op onze privacy.
In mijn optiek is deze trend een verontrustende vorm van online misogynie, waarbij de term "misogynie" verwijst naar haat en discriminatie tegen vrouwen. Het valt mij op dat steeds meer jonge meiden (van kleur in het bijzonder), vooral op platforms zoals Snapchat en TikTok, zich uiten en hun beelden vervolgens het slachtoffer worden van manipulatie.
Herhaaldelijk zie ik meisjes op TikTok emotioneel hun verhaal delen, waarbij ze huilend de impact bespreken van (het rondgaan van) deze AI gemanipuleerde beelden. Deze ervaringen hebben niet alleen invloed op hun mentale en fysieke welzijn, maar tasten ook hun gevoel van veiligheid aan, waardoor ze terughoudend worden om zich online uit te spreken.
Dit fenomeen is onderdeel van een bredere problematiek van gendergerelateerd geweld en onderstreept de noodzaak van bewustwording en actie om de online veiligheid van vrouwen te waarborgen. Het liefst gisteren nog dan vandaag, aangezien de technologie zich sneller ontwikkelt dan we kunnen bijhouden.
Lees hier deel 2 van 'Wie maakt zich druk om de online veiligheid van meisjes en vrouwen?' https://alliantiezelfbeschikking.nl/berichten/wie-maakt-zich-druk-om-de-online-veiligheid-van-meisjes-en-vrouwen-1
