La Commission européenne a ouvert une nouvelle enquête formelle visant X et l’intégration de Grok sur la plateforme. En ligne de mire : la gestion visible de contenus illicites, notamment des deepfakes sexuels accessibles aux utilisateurs. Bruxelles cherche à comprendre comment ces contenus apparaissent, circulent et disparaissent à l’écran.
Une enquête élargie autour des usages visibles de Grok
La procédure s’inscrit dans le cadre du Digital Services Act et concerne directement la manière dont X déploie Grok dans son interface. Les enquêteurs examinent l’intégration de l’outil d’IA dans les recommandations, les réponses générées et la circulation d’images modifiées depuis le flux principal.
L’examen prolonge une enquête déjà lancée en décembre 2023 sur les systèmes de recommandation. Depuis, le passage à des fonctions appuyées sur Grok a modifié ce que les utilisateurs voient, partagent et signalent. Ces changements se traduisent par des contenus suggérés différemment, des réponses automatiques plus visibles et une interaction accrue avec des images générées ou transformées.
Deepfakes sexuels : ce que les utilisateurs voient réellement
Selon des éléments relayés par la presse internationale, la Commission observe la diffusion de deepfakes sexuels accessibles depuis le fil ou via la recherche interne.
Des images manipulées représentant des femmes et des mineurs auraient circulé de manière répétée, parfois pendant plusieurs heures, avant d’être retirées après signalement. Des captures ont montré leur persistance à l’écran malgré des alertes envoyées par les utilisateurs. Les signalements n’empêchaient pas toujours la réapparition de contenus similaires, ni leur recommandation à d’autres comptes. Pour les utilisateurs exposés, cette répétition donnait l’impression d’un contrôle tardif, déclenché après diffusion plutôt qu’en amont.
Des obligations évaluées écran par écran
Bruxelles veut déterminer si la plateforme respecte ses engagements en matière de prévention des risques systémiques. Cela inclut la modération, la limitation de la viralité et les avertissements affichés lors de la consultation de contenus sensibles.
La Commission analyse aussi la conformité avec les règles européennes de protection des données lorsque Grok intervient sur des contenus générés ou modifiés. Les enquêteurs regardent comment les images sont présentées, si des barrières apparaissent avant l’affichage et comment les retraits sont signalés aux utilisateurs. L’écart entre les obligations prévues par le texte et l’expérience réelle constitue un point central du dossier. En cas de manquement, plusieurs articles du DSA pourraient être concernés, avec à la clé des amendes et des demandes de modifications immédiates des fonctionnalités visibles.
Une coopération réglementaire déjà enclenchée
L’enquête est menée en coordination avec l’autorité irlandaise des services numériques, compétente pour le dossier.
Pas de calendrier, mais une pression immédiate
La vice-présidente de la Commission, Henna Virkkunen, a qualifié les deepfakes sexuels de formes graves de violence et d’humiliation incompatibles avec les droits fondamentaux. Aucun calendrier de clôture n’a été annoncé.
La Commission prévient toutefois que si les ajustements visibles sur la plateforme sont jugés insuffisants pendant la procédure, des changements rapides pourraient être exigés, affectant directement l’usage quotidien de X et de Grok.
Je m’appelle Samuel Le Goff. À 38 ans, je suis l’actualité du numérique depuis plus de 14 ans. Aujourd’hui, je m’intéresse particulièrement aux smartphones et aux usages concrets de l’intelligence artificielle, que je traite à travers des contenus clairs et accessibles sur Menow.fr.
