L’enquête DPC veut savoir si X est conforme au RGPD.
L'organisme irlandais de surveillance de la protection des données a lancé une enquête « à grande échelle » sur X après que des rapports ont révélé que des millions d'images de contenu sexuellement explicites ou suggestives générées de manière non consensuelle avaient été créées à l'aide de Grok AI. Le siège européen de X est situé à Dublin.
Les utilisateurs de X pourraient inviter Grok à « nudifier » les gens après que la plate-forme ait équipé le robot IA de la possibilité d'éditer des images fin décembre dernier. Les demandes demandant à Grok de déshabiller les gens concernaient généralement les femmes et les enfants, selon l'analyse.
Après de sévères réactions négatives, X a décidé de limiter les capacités d'édition d'images du chatbot aux abonnés payants de la plateforme, avant de géobloquer la capacité de « nudification » de Grok dans les « juridictions où c'est illégal ». Cependant, il semble que ces fonctionnalités soient toujours accessibles via un VPN.
L'enquête de la Commission de protection des données (DPC) souhaite savoir si X Internet Unlimited Company (XIUC) a respecté ses obligations du RGPD – et plus particulièrement, la licéité du traitement des données et les exigences légales pour réaliser une analyse d'impact sur la protection des données à l'égard des personnes concernées par les données de l'UE.
« Le DPC collabore avec XIUC depuis que les médias ont fait état pour la première fois il y a quelques semaines de la capacité présumée des utilisateurs de X à inciter le compte @Grok sur X à générer des images sexualisées de personnes réelles, y compris d'enfants », a déclaré le commissaire adjoint du DPC, Graham Doyle.
« La DPC a lancé une enquête à grande échelle qui examinera le respect par XIUC de certaines de ses obligations fondamentales en vertu du RGPD en ce qui concerne les questions en cause ».
L'enquête irlandaise sur X intervient après que la Commission européenne et le gouvernement britannique ont lancé le mois dernier des enquêtes similaires sur la plateforme appartenant à Elon Musk.
Entre-temps, une enquête d'un an menée par les autorités françaises s'est élargie pour enquêter sur le rôle possible de Grok dans la diffusion des négationnistes de l'Holocauste et des deepfakes sexuels. La Californie a également lancé le mois dernier une enquête similaire sur la société mère de X et Grok, xAI.
Parallèlement, l'UE poursuit une enquête distincte d'une durée de plusieurs années sur X pour évaluer si la plateforme a atténué les risques découlant de ses systèmes de recommandation, y compris l'impact du passage récemment annoncé à un système de recommandation basé sur Grok.
Dans ce contexte de problèmes juridiques pour X, l'entreprise de technologie spatiale de Musk, SpaceX, a récemment annoncé avoir acquis xAI pour créer la plus grande entreprise privée au monde, dont la valeur est estimée à environ 1 250 milliards de dollars.
