Le parquet de Paris a déclaré que son unité de cybercriminalité avait perquisitionné le bureau français de X mardi, alors que la plateforme de médias sociaux et son chatbot IA Grok font face à une surveillance internationale croissante pour la création et la diffusion de deepfakes sexualisés et d'images de nus non consensuelles.
Données clés
Dans un communiqué, le parquet indique avoir été rejoint par la cellule cyber de la Gendarmerie française et par Europol lors de la perquisition dans les locaux de X.
L'agence a déclaré que le raid faisait partie d'une enquête ouverte sur X en janvier 2025, après avoir reçu des plaintes concernant l'algorithme de la plateforme.
Le communiqué ajoute que l'enquête s'est depuis élargie pour couvrir les plaintes concernant le chatbot IA de X, Grok, et sa « diffusion de contenus négationnistes de l'Holocauste et de deepfakes sexuellement explicites ».
Le procureur a noté que l'enquête couvre également d'autres crimes, notamment la « possession et la distribution organisée » de matériel d'abus sexuels sur des enfants, ce dont Grok a été accusé d'être à l'origine.
X et son propriétaire, Elon Musk, n'ont pas commenté le raid au moment de la publication.
Que faut-il observer
Les procureurs ont déclaré avoir convoqué Musk et l'ancienne PDG de X, Linda Yaccarino, pour des « entretiens volontaires » le 20 avril, « en leur qualité de gestionnaires de facto et de jure de Platform X au moment des événements ». Les salariés de X ont également reçu des assignations à comparaître dans la semaine du 20 au 24 avril « pour être entendus comme témoins ». Le procureur a déclaré que les entretiens volontaires visaient à permettre à Musk et Yaccarino de présenter leur version de l'histoire et toutes les mesures coercitives potentielles qu'ils envisagent de mettre en œuvre pour répondre aux allégations.
Contexte clé
Le parquet de Paris a annoncé pour la première fois qu'il enquêtait sur les deepfakes sexuellement explicites générés par Grok au début du mois dernier. L'enquête a été ouverte après que deux députés français ont soulevé la question. La semaine dernière, l’Union européenne a également lancé une enquête formelle contre X et Grok pour création de deepfakes sexualisés non consensuels. Le bloc a déclaré que l'enquête est menée dans le cadre de la loi européenne sur les services numériques, qui permet aux régulateurs du bloc de détecter les entreprises contrevenantes jusqu'à 6 % de leur chiffre d'affaires annuel mondial.
Que savons-nous des enquêtes sur le contenu de Grok aux États-Unis ?
Le mois dernier, le procureur général de Californie, Rob Bonta, a annoncé que son bureau avait ouvert une enquête contre X pour « prolifération de matériel sexuellement explicite non consensuel produit à l'aide de Grok ». Le communiqué accuse la société d'intelligence artificielle d'Elon Musk, xAI, de « faciliter la production à grande échelle d'images intimes deepfakes et non consensuelles qui sont utilisées pour harceler les femmes et les filles en ligne ». Bonta a noté que son bureau avait reçu « un flot de rapports » à ce sujet et que l'enquête « déterminera si et comment xAI a violé la loi ».
Informations Complémentaires
Face aux critiques croissantes et aux enquêtes gouvernementales à travers le monde, X a annoncé le mois dernier qu'il interdisait à Grok de générer des images modifiées par l'IA de personnes réelles portant des vêtements révélateurs. Le compte de sécurité officiel de X a déclaré avoir « mis en œuvre des mesures technologiques pour empêcher le compte de Grok d'autoriser l'édition d'images de personnes réelles révélant des vêtements tels que des bikinis ». La société a également déclaré qu'elle empêchait tous les utilisateurs de générer « des images de personnes réelles en bikini, sous-vêtements et vêtements similaires via le compte Grok et sur Grok sur X dans les juridictions où cela est illégal ». Cependant, Musk a remis en question la véracité des informations selon lesquelles Grok génère des images sexualisées d'enfants, tweetant qu'il n'a « aucune connaissance d'images nues de mineurs générées par Grok. Littéralement zéro ». Il a ajouté : « Évidemment, Grok ne génère pas d'images spontanément, il le fait uniquement en fonction des demandes des utilisateurs. Lorsqu'on lui demande de générer des images, il refuse de produire quoi que ce soit d'illégal, puisque le principe de fonctionnement de Grok est d'obéir aux lois de n'importe quel pays ou État.
