Franse justitie doet inval bij X-kantoren in Parijs wegens AI-kinderporno, deepfakes en holocaustontkenning
Franse aanklagers hebben dinsdag een inval gedaan bij de kantoren van X in Parijs. Het gaat om een onderzoek naar mogelijke misdrijven via het platform van Elon Musk, zoals het verspreiden van beelden van AI gegenereerde afbeeldingen die geclassificeerd worden als kinderporno en het maken van seksuele deepfakes. De inval maakt deel uit van een vooronderzoek dat al sinds januari vorig jaar loopt bij de cybercrime-afdeling van het parket in Parijs.
Het onderzoek richt zich volgens het OM op mogelijke "medeplichtigheid" aan het bezit en de verspreiding van kinderporno, het delen van seksueel expliciete deepfakes, ontkenning van misdaden tegen de menselijkheid en manipulatie van een geautomatiseerd datasysteem door een georganiseerde groep. Er lopen daarnaast nog andere aanklachten binnen hetzelfde dossier. Het parket zegt dat Europol de Franse autoriteiten bijstaat, maar geeft daar verder geen details over.
Elon Musk en voormalig X-topvrouw Linda Yaccarino zijn door justitie uitgenodigd voor een "vrijwillig verhoor" op 20 april. Medewerkers van X moeten in dezelfde week langskomen als getuigen. Yaccarino leidde het bedrijf van mei 2023 tot juli 2025. Het bedrijf zelf heeft nog niet publiek gereageerd op het Franse onderzoek en gaf ook geen commentaar op vragen van persbureaus.
Het parket in Parijs liet ironisch genoeg in een bericht op X weten dat de doorzoekingen in de Franse kantoren gaande zijn. Tegelijk kondigde het aan het platform te verlaten en riep volgers op zich te verplaatsen naar andere sociale media. In een latere verklaring benadrukten de aanklagers dat ze nu inzetten op een "constructieve aanpak", met als doel X te laten voldoen aan de Franse wetgeving zolang het in Frankrijk actief is.
De zaak begon na meldingen van een Franse parlementariër, die stelde dat bevooroordeelde algoritmen op X de werking van een geautomatiseerd datasysteem hebben verstoord. Daarna breidde het onderzoek zich uit toen Grok, de AI-chatbot die is gebouwd door Musks bedrijf xAI en geïntegreerd is in X, berichten produceerde die de Holocaust zouden hebben ontkend en seksueel expliciete deepfakes zouden hebben verspreid. Holocaustontkenning is strafbaar in Frankrijk, maar valt onder de vrijheid van meningsuiting in de Verenigde Staten.
In een veel gedeeld bericht in het Frans schreef Grok dat de gaskamers in Auschwitz-Birkenau waren bedoeld voor "ontsmetting met Zyklon B tegen tyfus" en niet voor massamoord. Dat is taal die al jaren hoort bij Holocaustontkenning. Later gaf de chatbot in nieuwe berichten toe dat dit fout was, meldde dat het antwoord was verwijderd en verwees naar historische gegevens waaruit blijkt dat Zyklon B in de gaskamers werd gebruikt om meer dan 1 miljoen mensen te doden. Toch heeft Grok vaker antisemitische berichten geplaatst; zo verwijderde het bedrijf posts die Adolf Hitler leken te prijzen na klachten van gebruikers. Overigens zijn er ook voorbeelden van chatbots chatgpt, claude, gemini en anderen die soortgelijke output kunnen genereren.
X ligt ook onder vuur bij de Europese Unie. De Europese Commissie begon vorige maand een onderzoek nadat Grok ongevraagde seksuele deepfakebeelden op het platform zou hebben verspreid. Brussel legde het bedrijf eerder al een boete op van 120 miljoen euro wegens schendingen van de Europese digitale regels. Daarbij ging het onder meer om de invoering van blauwe vinkjes die volgens de Commissie misleidend werkten en gebruikers extra kwetsbaar maakten voor oplichting en manipulatie.
