- La brigade de lutte contre la cybercriminalité française a perquisitionné les bureaux parisiens de X et enquête sur des soupçons d’extraction illégale de données et de complicité de détention de contenus pédopornographiques
- Elon Musk et l’ancienne PDG Linda Yaccarino ont été convoqués à une audition en avril, tandis que X rejette l’enquête en la qualifiant d’« attaque politique »
- Le Bureau du commissaire à l’information (ICO) du Royaume-Uni a ouvert une enquête distincte sur l’outil d’IA Grok, en raison de sa capacité potentielle à générer des images et vidéos à caractère sexuel
- Ofcom traite comme urgente la question de la diffusion de deepfakes sexuels sur la plateforme X, tout en indiquant manquer de pouvoirs concernant les chatbots
- Avec ces enquêtes simultanées en Europe et au Royaume-Uni, la responsabilité de X et de Grok en matière de traitement des données et de modération des contenus prend une dimension internationale
Perquisition des bureaux de X en France
- Le pôle cybercriminalité du parquet de Paris a perquisitionné les bureaux de X
- Les soupçons portent notamment sur l’extraction illégale de données, la complicité de détention de contenus pédopornographiques et l’atteinte au droit à l’image par des deepfakes sexuels
- L’enquête a commencé en janvier 2025 par un examen des contenus recommandés par l’algorithme de X, avant d’être élargie en juillet de la même année au chatbot IA Grok
- Le parquet cherche à déterminer si X a enfreint plusieurs lois, et Musk et Yaccarino ont été sommés de comparaître à une audition en avril
- Dans un communiqué, X a rejeté les accusations en dénonçant des « abus qui menacent la liberté d’expression »
- Musk a publié sur X qu’il s’agissait d’une « attaque politique », et Yaccarino a parlé de « représailles politiques visant des Américains »
Enquête britannique sur Grok
- Ofcom poursuit son enquête sur la diffusion sur X d’images deepfake sexuelles générées par Grok
- Des victimes, des responsables politiques et des organisations de sécurité en ligne avaient vivement critiqué la situation en janvier
- X a depuis bloqué ce comportement, qu’Ofcom considère comme une « affaire urgente »
- Toutefois, Ofcom a indiqué ne pas disposer de pouvoirs suffisants pour enquêter directement sur la génération d’images illégales par des chatbots
- L’ICO a donc décidé de coopérer avec Ofcom pour examiner la manière dont Grok traite les données personnelles
- William Malcolm, de l’ICO, a déclaré que le fait que des images sexuelles aient été générées à partir de données personnelles sans consentement constituait un problème grave
- Fin janvier, la Commission européenne a elle aussi annoncé une enquête distincte sur xAI, la maison mère de Grok
- Un porte-parole de la Commission a indiqué être en discussion avec les autorités françaises au sujet de la perquisition des bureaux de X
Critiques de Pavel Durov
- Pavel Durov, fondateur de Telegram, a critiqué les autorités françaises en affirmant que ce n’était « pas un pays libre »
- Il a publié que « la France est le seul pays à réprimer pénalement tous les réseaux sociaux qui autorisent la liberté »
- Durov a été arrêté en France en août 2024 pour avoir laissé prospérer des activités criminelles sur sa plateforme, puis a obtenu en mars 2025 l’autorisation de quitter le pays après avoir partiellement modifié son mode de fonctionnement
- Parmi ces changements figurait la fourniture de données utilisateurs sur demande légale
1 commentaires
Réactions sur Hacker News
À ceux qui disent qu’une perquisition physique ne sert à rien, j’ai quelque chose à répondre
Ça peut sembler vrai si l’on part du principe qu’il s’agit d’une entreprise normale qui respecte bien la loi, mais dès qu’il se passe quelque chose de suspect, toutes les bonnes pratiques disparaissent
Les gens écrivent les e-mails comme des messages codés ou les suppriment, et essaient de dissimuler les traces, mais il reste toujours des indices
C’est pour cela qu’une véritable perquisition est nécessaire pour retracer des activités complexes
S’il existe des soupçons de crime, il faut saisir les preuves. Inculper sans perquisition n’aurait aucun sens
Les images générées par IA ne sont que de faux dessins numériques, et on dirait qu’on essaie d’alimenter une sorte d’indignation nationale
C’est au niveau des jouets de gamins ados, faire un grand spectacle de colère nationale pour ça est ridicule
Aucune plateforme ne devrait autoriser le CSAM (contenus pédocriminels)
Or X ne dépense pas d’argent pour des garde-fous ni pour le filtrage de contenu. Ce n’est pas une question de censure, mais de refus d’assumer ses responsabilités
Si l’on commence à tenir le fournisseur de l’outil pour responsable, on finira inévitablement par une réduction des libertés
Je me demande donc pourquoi la réaction devient soudain aussi dure aujourd’hui
Peut-être une “fausse répression” destinée à étouffer des soupçons visant les élites depuis l’affaire Epstein
Faut-il alors aussi interdire les images IA violentes ? Un niveau de cruauté digne du cinéma reste-t-il acceptable ?
La limite de ce qui est “inacceptable” est floue
J’ai vu des montages en maillot de bain, mais juridiquement, ce n’est pas du CSAM
Il est question d’accusations de “fraude organisée sur les données”, et si cette qualification est appliquée largement, j’ai l’impression que cela pourrait affecter tout le secteur des réseaux sociaux
On dirait que l’UE veut renforcer le contrôle des réseaux sociaux étrangers comme le feraient la Chine ou la Russie
Si les États-Unis n’acceptent pas davantage de régulation de l’expression, l’UE risque de pousser ses propres alternatives
Fidèle à HN, tout le monde débat avec passion de l’État de droit et du CSAM
Des articles affirment que les frères propriétaires de X/Grok ont été liés à un délinquant condamné pour trafic sexuel de mineurs
Grok en est arrivé à être qualifié de générateur de pornographie infantile, et pourtant certains continuent de balayer cela comme une “théorie du complot”
Le parquet français enquête sur X pour plusieurs violations présumées de la loi, mais cela ressemble surtout à une simple pression politique
À part harceler les employés locaux, il n’y a pas grand-chose à y gagner
Le système judiciaire français étant rationnel, sans élément particulier du contraire, je considère qu’il s’agit d’une enquête légitime
Pour vérifier s’il y avait intentionnalité, une perquisition est nécessaire
La discussion juridique connexe est également abordée dans cet article
Même en y déversant énormément d’argent, il est difficile d’empêcher complètement le mésusage de l’IA
Je me demande ce qu’ils espèrent trouver en perquisitionnant le bureau français. Un “plan CSAM de Grok”, peut-être ?
Il y a par exemple les documents internes de Facebook
Des employés auraient aussi témoigné que le modèle avait été entraîné sur des contenus à risque
Les enquêteurs semblent chercher ce type de communications internes et d’alertes ignorées
Cette affaire donne en fait des arguments aux partisans de la censure de l’IA
Nous entrons désormais dans une époque où les entreprises d’IA devront assumer la responsabilité du modèle lui-même, et pas seulement celle des utilisateurs
Au final, il est probable que les modèles fermés et la vérification d’identité se renforcent
La question de la connaissance réelle est au cœur de la responsabilité juridique
En ajoutant des fonctions de génération par IA, la plateforme a au contraire encouragé la production de contenus illégaux
Depuis le rachat de X, l’UE considère cette plateforme comme une épine dans le pied
Si la plateforme a laissé faire sans filtrage, c’est une négligence manifeste
Cette controverse risque aussi d’avoir un effet négatif sur l’IPO de SpaceX
Voir un “Russe parler de liberté depuis une prison française” a quelque chose d’ironique
On dirait un message disant que la France n’accueille pas ce genre de criminels