In de Verenigde Staten wordt een wet ingediend die niet-consensuele AI-gegenereerde pornografie illegaal zou moeten maken. Daardoor zouden slachtoffers eindelijk actie kunnen ondernemen tegen de makers van die beelden. «Dit wetsvoorstel moet ervoor zorgen dat er zowel strafrechtelijke sancties en aansprakelijkheid is voor iedereen die zonder toestemming beelden plaatst van anderen die betrokken lijken te zijn in pornografie», vertelt Congressman Joe Morelle aan ABC News over zijn ‘the Preventing Deepfakes of Intimate Images Act’.
Industrie achter deepfake
Deepfake porno kent recent een gigantische opmars. AI is tenslotte niet meer voorbehouden voor computernerds en specialisten. Ook iemand die een beetje handig is op het internet kan tegenwoordig in slechts enkele muisklikken via toegankelijke programma’s een nieuw beeld creëren. Velen gebruiken dat voor grappige, creatieve doeleinden. Er is echter ook een keerzijde nu deepfake pornografische beelden in opmars zijn.
Er zou zelfs een hele commerciële industrie achter zitten die winst maakt van het creëren en delen van AI-gegenerereerd seksueel misbruik. NBC meldde onlangs nog dat er een maker is op Discord die voor 65 dollar een deepfake pornovideo van 5 minuten maakt van een ‘personal girl’, ofwel een meisje met minder dan 2 miljoen volgers op Instagram.
Vooral vrouwen
Al in 2019 berekende expert Henry Ajder dat 96% van de 14.000 deepfake video’s op het internet pornografisch waren. «Nu deze tools veel toegankelijker zijn geworden, zijn meer mensen zich bewust van het bestaan van die technologieën. Daardoor bevinden we ons nu in een positie waar we kunnen praten over miljoenen vrouwelijke slachtoffers», vertelt hij aan ABC News.
Deepfake pornografie is een vorm van seksueel misbruik. In de VS wordt het wel eens ‘image-based sexual abuse’ genoemd. Twitch-streamer QTCinderella sprak in januari nog over de effecten van de deepfake porno die er van haar verspreid werd. «Dit is hoe het eruit ziet om je geschonden te voelen, om je misbruikt te voelen. Zo ziet het eruit als je tegen je wil in naakt op het internet verspreid wordt», zei ze in een live video. «Het zou geen deel van mijn werk mogen zijn om geld te moeten betalen om die zaken van het internet te laten verdwijnen. Het is geen deel van mijn werk om lastig gevallen te worden, om ‘naaktfoto’s’ van mij verspreid te zien worden.»