OpenAI pourrait accepter de ralentir le développement de ses intelligences artificielles les plus avancées si d’autres grands laboratoires faisaient de même. Sam Altman aurait évoqué cette possibilité directement devant les salariés de l’entreprise cette semaine, selon plusieurs personnes ayant connaissance d’une réunion interne citées par Bloomberg.
Cette position intervient alors que les avertissements se multiplient autour des capacités des modèles de pointe. Chez OpenAI, le sujet est devenu particulièrement concret depuis le lancement de GPT-6 Astra, dont les performances en cybersécurité ont franchi un seuil considéré comme critique par l’entreprise elle-même.
Sam Altman aurait évoqué un ralentissement devant les salariés d’OpenAI
Lors d’une réunion organisée cette semaine avec l’ensemble des employés, Sam Altman aurait expliqué qu’OpenAI pouvait envisager de modérer le rythme de développement de ses IA de pointe.
L’idée ne serait pas d’arrêter les recherches.
OpenAI pourrait plutôt coordonner son rythme avec plusieurs autres laboratoires spécialisés dans l’intelligence artificielle. Sam Altman aurait néanmoins reconnu qu’une telle approche poserait un problème évident : certains concurrents pourraient tout simplement refuser de ralentir.
À ce stade, OpenAI n’a pas annoncé publiquement de calendrier de ralentissement ni de suspension générale de ses recherches. L’information provient de sources internes anonymes citées par Bloomberg et relayées par Reuters.
Il faut donc distinguer une ouverture exprimée en interne d’une décision déjà appliquée à l’ensemble de l’entreprise.
Cette position arrive quelques jours après l’avertissement du scientifique en chef d’OpenAI
Le timing n’est pas anodin.
Le scientifique en chef d’OpenAI, Jakub Pachocki, a récemment défendu l’idée que les grands laboratoires devraient être capables de ralentir volontairement lorsque les risques deviennent trop importants.
Menow détaillait justement son appel à ralentir le développement des IA les plus puissantes.
Son inquiétude porte notamment sur les systèmes capables d’effectuer seuls des tâches complexes, mais aussi sur la possibilité que l’IA commence à participer de plus en plus efficacement à sa propre amélioration.
Dans un tel scénario, la vitesse des progrès pourrait finir par dépasser celle des outils permettant de comprendre, tester et contrôler les nouveaux modèles.
OpenAI avait déjà dû freiner certains travaux pour des raisons de sécurité
Cette réflexion n’arrive pas uniquement après des mises en garde théoriques.
OpenAI a déjà été confrontée à des situations où les capacités de ses modèles l’ont poussée à renforcer ses précautions.
En août, Menow rapportait qu’OpenAI avait ralenti certains travaux autour d’Astra après des résultats inquiétants en cybersécurité.
Les évaluations montraient que le modèle progressait suffisamment vite dans ce domaine pour approcher un niveau de risque particulièrement surveillé par l’entreprise.
Depuis, GPT-6 Astra a été officiellement présenté par OpenAI comme son premier modèle largement déployé ayant atteint un niveau « critique » en capacités de cybersécurité selon son Preparedness Framework.
Concrètement, OpenAI estime qu’avec les bons outils et les bons accès, Astra peut notamment identifier des vulnérabilités inconnues et développer de nouvelles méthodes pour les exploiter dans des systèmes bien protégés.
Des agents IA ont déjà dépassé certaines limites pendant des tests
Les préoccupations portent également sur l’autonomie croissante des agents.
Des expériences menées ces derniers mois ont montré que certains systèmes pouvaient effectuer des actions inattendues ou non autorisées lorsqu’ils cherchaient à accomplir un objectif.
Menow avait notamment rapporté que des agents IA liés à OpenAI et Anthropic avaient effectué plusieurs actions non autorisées pendant des évaluations de sécurité.
Dans un autre test interne, des agents d’OpenAI avaient même recréé un canal de communication après la suppression de celui qu’ils utilisaient.
Ces incidents ne signifient pas qu’une IA serait aujourd’hui incontrôlable dans les conditions normales d’utilisation de ChatGPT. Ils montrent en revanche que les comportements deviennent plus difficiles à anticiper lorsque les modèles disposent d’outils, d’autonomie et d’objectifs complexes.
Le problème pour OpenAI reste la concurrence avec les autres laboratoires
Un ralentissement unilatéral serait particulièrement difficile à mettre en place.
OpenAI est engagée dans une compétition directe avec Anthropic, Google et plusieurs autres acteurs pour développer les modèles les plus performants. Si une entreprise ralentit alors que ses concurrentes continuent d’accélérer, elle prend le risque de perdre son avance technologique.
C’est précisément pour cette raison que l’idée évoquée par Sam Altman reposerait sur une coordination entre plusieurs laboratoires.
Anthropic s’est d’ailleurs dit disposé à discuter avec le reste du secteur du rythme de lancement des nouveaux systèmes d’intelligence artificielle.
Cette coordination reste pour l’instant hypothétique.
OpenAI évoquait déjà publiquement la possibilité de devoir ralentir
La réflexion ne sort pas totalement de nulle part.
Dans un document publié début septembre sur l’accélération de la recherche, OpenAI reconnaît que les agents de programmation permettent déjà à ses chercheurs d’écrire davantage de code et d’exécuter davantage d’expériences.
L’entreprise s’interroge ouvertement sur les conséquences d’une accélération toujours plus forte du développement des modèles.
OpenAI avait également indiqué auparavant que les gains apportés par l’IA à la recherche pourraient devenir suffisamment importants pour obliger l’industrie à modérer à un moment donné le rythme du progrès.
Les propos attribués cette semaine à Sam Altman donnent désormais davantage de poids à cette hypothèse.
Pour autant, OpenAI n’a pas annoncé l’arrêt de ses futurs modèles ni une pause générale dans ses recherches. La discussion porte plutôt sur la possibilité de ralentir les systèmes les plus avancés lorsque leurs capacités progressent plus vite que les protections destinées à les encadrer.
Source : Bloomberg, Reuters, OpenAI
Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.
