Wereldwijde druk op X groeit om bikini-deepfakes en AI-beelden minderjarigen

Online platform X ligt wereldwijd onder vuur vanwege het op grote schaal genereren van seksuele deepfakes van vrouwen en minderjarigen. Vandaag heeft de Europese Commissie het techbedrijf opgedragen alle interne documenten over diens AI-chatbot Grok te bewaren tot eind 2026.
Grok bood onlangs excuses aan dat het programma kunstmatige beelden had gegenereerd van twee minderjarige meisjes in “geseksualiseerde kleding”.
“Dit is illegaal en onacceptabel”, zei een woordvoerder van de Europese Commissie vandaag tegen journalisten. In de persbriefing maakte hij bekend dat de al lopende onderzoeken naar X zijn uitgebreid vanwege het incident.
Vorige maand kreeg de onderneming van Elon Musk al een boete opgelegd van 120 miljoen euro vanwege overtreding van Europese internetwetgeving.
Van Australie tot Zweden
Onder meer Australie, India, Maleisie, Frankrijk, het Verenigd Koninkrijk en sinds vandaag ook Zweden zijn een onderzoek begonnen tegen het techbedrijf, of eisen dat X in actie komt tegen de stroom aan deepfakes van vrouwen.
Van talloze vrouwen zijn op het socialemediaplatform zonder toestemming foto’s op seksuele wijze gemanipuleerd. Persbureau Reuters sprak deze week met slachtoffer Julie Yukari. De muzikant uit Rio de Janeiro had tijdens de jaarwisseling een foto van haarzelf met haar kat geplaatst op X.
Later kwam Yukari erachter dat gebruikers Grok hadden gevraagd haar in bikini te tonen. De chatbot genereerde zulke beelden op basis van haar post. Toen ze er X op aansprak, werden er steeds explicietere versies van aangemaakt. “Ik voelde schaamte voor een lichaam dat niet eens van mij was, want het is door AI gegenereerd.”
Een ander slachtoffers is Ashley St. Clair, de moeder van een van Musks kinderen. Op verzoek van X-gebruikers heeft Grok ook foto’s van haar gemanipuleerd: in de AI-versie neemt St. Clair schaars gekleed seksuele poses aan.
In een afbeelding is een foto van haar als 14-jarige op zo’n manier gemanipuleerd. Volgens krant The Guardian stond deze afbeelding ruim 12 uur online op X. Het platform zou deze en andere AI-beelden van St. Clair pas offline gehaald hebben nadat journalisten het bedrijf om een reactie hadden gevraagd.
‘Foto’s gebruikt van mij als kind’
“Het voelde verschrikkelijk”, zei St. Clair afgelopen maandag in een interview met de krant. “Mensen hebben foto’s van mij gebruikt als kind om me uit te kleden. Er is er een van mij waarin ik uitgekleed ben, voorovergebogen sta en op de achtergrond de rugzak van mijn kind is te zien, die hij momenteel draagt.”
In een versie van deze afbeeldingen had ze lingerie van flosdraad aan, schrijft krant The Washington Post.
X: illegale content wordt aangepakt
X heeft in een reactie gezegd dat het in actie komt tegen mensen die beelden van kindermisbruik verspreiden op het platform. “Voor iedereen die Grok gebruikt voor illegale content gelden dezelfde consequenties als ze illegale content uploaden”, zei topman Musk afgelopen maandag op X. Tegen hoeveel mensen is opgetreden, is niet bekendgemaakt.
X heeft ingevoerd dat gebruikers met een commando elk persoon of zelfs object op een afbeelding kan worden getoond in een bikini. Deze functie heeft geleid tot een stroom aan deepfakes. Onder meer in Frankrijk kijkt Justitie naar een aantal meldingen. Deepfake-porno is in veel landen inmiddels strafbaar gesteld, maar het zal moeten blijken of Groks bikini-deepfakes ook tot een veroordeling kunnen leiden.
Met het toestaan van bikini-deepfakes gaat Musk veel verder dan concurrenten als OpenAI en Google, waar strengere beperkingen gelden voor wat met kunstmatige intelligentie mag worden gemaakt. Grok mag niet volledig naakte afbeeldingen van mensen genereren, maar het bedrijf maakt het nagenoeg uitkleden en aannemen van seksuele poses wel mogelijk.

Lees het hele verhaal via NOS Nieuws: Wereldwijde druk op X groeit om bikini-deepfakes en AI-beelden minderjarigen

Trefwoord(en): bikini