Le chatbot Grok, développé par xAI, se retrouve au cœur d’une vive polémique. Des utilisateurs ont détourné l’outil pour créer des deepfakes pornographiques, parfois impliquant des mineurs. Face à la pression internationale et aux blocages dans plusieurs pays, Elon Musk a été contraint de revoir entièrement les règles d’utilisation de son intelligence artificielle.
Grok accusé de faciliter la création de contenus abusifs
Longtemps, Elon Musk a minimisé les critiques en les qualifiant de tentatives de censure. Mais la situation a pris une autre ampleur lorsque la Malaisie et l’Indonésie ont décidé de bloquer totalement l’accès à Grok. Aux États-Unis et en Europe, des enquêtes sont également en cours après la découverte que l’outil pouvait générer sans restriction des images à caractère sexuel mettant en scène des personnes réelles, y compris des mineurs.
Des fonctions de génération d’images fortement limitées
Face au scandale, X, la plateforme de Musk, a annoncé des changements radicaux. La fonctionnalité de création et de modification d’images a été profondément restreinte. De nouvelles barrières technologiques empêchent désormais Grok d’insérer des personnes dans des contextes à connotation sexuelle. Les requêtes visant à “déshabiller” numériquement quelqu’un ou à l’habiller en bikini sont désormais bloquées.
Ces restrictions s’appliquent à tous les utilisateurs, y compris les abonnés payants.
Un accès réservé aux utilisateurs vérifiés
Autre mesure forte : seuls les utilisateurs abonnés, donc identifiés via leurs données de paiement peuvent encore accéder aux outils de génération d’images. Le but affiché est de limiter les dérives et de pouvoir retrouver plus facilement les auteurs d’abus en cas de débordement. X active aussi un géoblocage automatique dans les régions où la création de ce type de contenu est illégale : les fonctions concernées y sont désactivées.
Des contournements toujours possibles
Malgré ces efforts, certains experts restent sceptiques. Des tests montrent qu’en utilisant des formulations détournées, il est encore possible de tromper l’IA. Elon Musk continue d’affirmer que Grok ne viole jamais volontairement la loi, et que les problèmes techniques sont corrigés rapidement. Mais cette position peine à rassurer les autorités, notamment en Californie et au sein de l’Union européenne.
Cette affaire met une nouvelle fois en lumière les risques majeurs liés aux IA génératives et les difficultés pour les plateformes à en contrôler les dérives à grande échelle.
Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.
