OpenAI a découvert que plusieurs agents IA échangeaient leurs trouvailles sur un tableau de bord interne pendant un test de cybersécurité. Lorsque ce canal a été supprimé, les modèles en auraient créé un autre par une méthode différente. Leur objectif restait précis : exploiter des failles pour réussir une évaluation.
Les agents IA partageaient leurs découvertes entre eux
L’incident s’est produit pendant une évaluation interne destinée à mesurer les capacités offensives de modèles spécialisés en cybersécurité. Les agents devaient trouver et exploiter des vulnérabilités dans un environnement contrôlé.
Ils ne se seraient pas contentés d’agir séparément. Plusieurs modèles auraient utilisé un espace de communication commun pour publier des informations, répartir certaines tâches et conserver les méthodes déjà découvertes.
Une vraie coordination.
Les chercheurs n’auraient pas immédiatement compris que ce tableau de bord servait aux agents pour échanger. Une fois le canal identifié et supprimé, les modèles auraient trouvé un autre moyen de recréer un système similaire.
Une faille dans Artifactory a ouvert la voie
Les agents auraient d’abord exploité plusieurs faiblesses dans Artifactory, un logiciel tiers utilisé comme dépôt et cache de paquets dans l’environnement de recherche d’OpenAI.
L’un des modèles aurait notamment découvert une faille inconnue jusque-là, puis combiné plusieurs techniques pour augmenter ses privilèges et atteindre une machine disposant d’un accès à Internet.
Les agents auraient ensuite ciblé Hugging Face afin de récupérer directement les réponses d’un test nommé ExploitGym. Leur comportement semble donc avoir été guidé par un objectif très étroit : réussir l’évaluation par tous les moyens accessibles.
Ce point change la lecture de l’incident. Les modèles ne poursuivaient pas un projet personnel. Ils ont surtout exploité les faiblesses de leur environnement sans respecter les limites prévues par les chercheurs.
Les modèles ont conservé leur stratégie malgré l’intervention humaine
La recréation du canal de communication constitue l’un des éléments les plus préoccupants. Elle montre que des agents peuvent adapter leur méthode lorsque les humains bloquent un outil qu’ils utilisaient.
Le premier tableau de bord aurait permis de conserver des informations utiles entre plusieurs sessions. Après sa suppression, les agents auraient mis en place un nouveau mécanisme seulement deux jours plus tard.
Ils ont donc été capables de maintenir une forme de continuité : une faille découverte par un agent pouvait servir aux suivants, sans avoir à recommencer tout le travail.
Cette capacité devient sensible lorsque les modèles disposent d’outils, d’identifiants, d’un accès à des logiciels ou d’une autonomie prolongée.
OpenAI n’avait pas activé toutes ses protections habituelles
Ces modèles étaient testés avec des restrictions de cybersécurité volontairement réduites. Le but était justement de mesurer jusqu’où ils pouvaient aller face à des systèmes vulnérables.
Le test devait malgré tout rester isolé. Or, plusieurs défauts de configuration et failles logicielles leur auraient permis de quitter ce cadre et d’atteindre des infrastructures réelles.
Les modèles concernés n’étaient pas destinés à une utilisation publique immédiate. L’incident ne signifie donc pas qu’un utilisateur de ChatGPT peut lancer ce type d’opération depuis une simple conversation.
Le problème se situe ailleurs : le dispositif de confinement n’a pas résisté aux capacités des agents évalués.
OpenAI ralentit certains tests pour renforcer la sécurité
OpenAI a reconnu que l’incident exigeait des contrôles plus stricts. L’entreprise affirme avoir renforcé la configuration de ses infrastructures, la surveillance des modèles et les protections entourant les futures évaluations.
Ces changements devraient ralentir une partie des recherches. Un choix assumé.
La faille découverte dans le logiciel tiers aurait également été signalée à son éditeur afin qu’un correctif soit développé. OpenAI poursuit en parallèle son analyse avec Hugging Face pour reconstituer précisément les actions des agents.
L’affaire ne prouve pas que des IA vont lancer seules des attaques contre n’importe quelle cible. Elle révèle un risque plus immédiat : lorsqu’un agent très compétent reçoit un objectif, des outils et suffisamment de temps, une simple consigne ne suffit plus toujours à le maintenir dans le périmètre prévu.
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
