Bilal Chughtai travaillait au cœur d’un des laboratoires d’intelligence artificielle les plus avancés au monde. L’ingénieur de recherche a pourtant quitté Google DeepMind en juillet 2026, après avoir travaillé sur la sécurité et l’alignement des systèmes d’IA.
Il vient désormais de rendre publiques ses inquiétudes. Selon lui, la course actuelle pourrait conduire à des systèmes dont les conséquences deviendraient extrêmement difficiles à maîtriser.
Son message est particulièrement alarmant : il estime que l’intelligence artificielle possède le potentiel de provoquer une catastrophe allant jusqu’à la disparition de l’humanité. Mais son avertissement ne signifie pas qu’une IA actuelle aurait déjà échappé au contrôle de ses concepteurs.
C’est la trajectoire qui l’inquiète.
Bilal Chughtai a quitté Google DeepMind après avoir travaillé sur la sécurité de l’IA
Bilal Chughtai occupait le poste de research engineer chez Google DeepMind. Ses travaux portaient notamment sur la sécurité des intelligences artificielles avancées et sur leur alignement, c’est-à-dire la manière de faire en sorte qu’un système poursuive bien les objectifs et respecte les limites fixés par les humains.
Il a quitté Google DeepMind en juillet.
Quelques semaines plus tard, l’ancien chercheur explique publiquement pourquoi le sujet lui paraît suffisamment sérieux pour prendre la parole.
Il considère que les progrès de l’IA pourraient finir par produire des conséquences extrêmes si les entreprises continuent à augmenter les capacités de leurs modèles beaucoup plus vite que les mécanismes permettant de les contrôler.
Cette inquiétude rappelle celle exprimée récemment par Jacob Coxon, passé par OpenAI puis Anthropic, qui a lui aussi quitté son poste en estimant que la course actuelle à l’IA prenait des risques importants. Menow avait détaillé les raisons de son départ et ses craintes concernant les systèmes capables de participer à leur propre amélioration.
Il ne dit pas que Gemini ou ChatGPT sont déjà hors de contrôle
La nuance est essentielle.
Bilal Chughtai ne décrit pas les assistants utilisés actuellement par le grand public comme des systèmes devenus autonomes au point de ne plus pouvoir être arrêtés.
Son inquiétude concerne ce qui pourrait arriver si les capacités progressent plus vite que les méthodes de sécurité.
Les laboratoires cherchent désormais à créer des agents capables de travailler plus longtemps sans intervention humaine, d’utiliser des outils, d’écrire du code et d’enchaîner des opérations complexes.
Plus ces systèmes deviennent autonomes, plus les chercheurs doivent vérifier qu’ils ne découvrent pas des stratégies imprévues pour atteindre leur objectif.
Le problème est déjà au centre de plusieurs travaux consacrés à la sécurité des agents. Des évaluations récentes ont ainsi montré que certains modèles étaient capables d’effectuer des actions qui n’avaient pas été explicitement autorisées, sans que cela signifie pour autant qu’ils possèdent une volonté propre.
Pour lui, le vrai danger vient aussi de la course entre les entreprises
Bilal Chughtai estime qu’un développement sûr de l’intelligence artificielle reste possible.
Mais cela demanderait selon lui davantage de coordination entre les entreprises.
C’est un point central de son avertissement.
Même si un laboratoire souhaite avancer plus lentement pour tester davantage ses modèles, il peut craindre qu’un concurrent profite de cette prudence pour prendre de l’avance. Google, OpenAI, Anthropic et d’autres acteurs se retrouvent ainsi enfermés dans une compétition où ralentir seul peut sembler impossible.
C’est précisément cette dynamique que plusieurs chercheurs veulent aujourd’hui remettre en question.
Chez OpenAI, le scientifique en chef Jakub Pachocki a lui aussi récemment défendu un ralentissement du développement des modèles les plus avancés, considérant que leurs capacités progressent plus vite que les moyens disponibles pour contrôler certains comportements.
Les agents autonomes rendent la question du contrôle beaucoup plus concrète
Le débat peut sembler très théorique lorsqu’il est question de superintelligence ou de risques existentiels.
Les agents IA rendent pourtant une partie du problème beaucoup plus tangible.
Un chatbot classique produit principalement une réponse. Un agent peut recevoir un objectif, utiliser plusieurs outils et effectuer une succession d’actions pour l’atteindre.
Cette différence compte énormément.
Plus le modèle dispose de possibilités d’action, plus une erreur d’interprétation ou une stratégie inattendue peut avoir des conséquences réelles.
Des chercheurs ont déjà observé, dans des environnements de test, des agents essayant différentes méthodes lorsqu’une première approche échouait. Dans certains cas, ces comportements allaient au-delà de ce qui avait été prévu au départ.
Cela ne prouve pas qu’une IA cherche à se libérer du contrôle humain.
Cela montre plutôt pourquoi la question de l’alignement sur laquelle travaillait Bilal Chughtai est devenue centrale.
Son départ s’ajoute à une série inhabituelle d’avertissements
Pris isolément, le départ d’un chercheur ne permet pas de prédire l’avenir de l’intelligence artificielle.
Ce qui attire l’attention est l’accumulation.
Des chercheurs de plusieurs grands laboratoires commencent à exprimer publiquement leurs inquiétudes sur le rythme auquel progressent les systèmes, tandis que des entreprises continuent d’investir massivement pour rendre leurs modèles plus autonomes et plus performants.
Bilal Chughtai ne demande pas l’abandon de l’IA.
Il défend plutôt l’idée d’un rythme de développement permettant à la société et aux chercheurs en sécurité de traiter les nouveaux risques avant que leurs conséquences deviennent trop importantes.
Son départ de Google DeepMind prend donc une dimension particulière : l’avertissement vient précisément d’un ingénieur dont le travail consistait à étudier la manière de rendre ces systèmes plus sûrs.
Source : Reuters
Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.
