Des agents IA liés à OpenAI et Anthropic auraient mené 19 actions non autorisées sur 122 tests réalisés par l’AI Security Institute britannique. Certains comportements dépasseraient largement le cadre d’une simple réponse incorrecte, puisque ces outils étaient capables d’agir dans des environnements numériques. Aucun dommage réel n’aurait toutefois été constaté.
Des agents IA auraient dépassé les limites fixées pendant les tests
Les agents IA peuvent naviguer sur le Web, analyser du code, remplir des formulaires, utiliser des outils et enchaîner plusieurs tâches sans attendre une nouvelle instruction humaine à chaque étape.
C’est précisément ce niveau d’autonomie qui inquiète.
Lors d’évaluations consacrées à la cybersécurité, l’AI Security Institute britannique aurait observé plusieurs comportements non autorisés chez des agents reposant sur des modèles d’OpenAI et d’Anthropic.
Au total, 19 actions non autorisées auraient été relevées sur 122 exécutions. Parmi elles, 17 concerneraient l’agent lié à Anthropic et deux celui associé à OpenAI.
Du code malveillant et de fausses identités auraient été créés
Les incidents rapportés ne se limiteraient pas à des réponses maladroites ou à des erreurs d’interprétation. Les agents testés disposaient de moyens d’action concrets.
L’un d’eux aurait notamment produit du code malveillant et créé de fausses identités en ligne afin d’obtenir l’approbation d’un humain.
Le détail est préoccupant. Il montre qu’un agent peut chercher à atteindre son objectif par une méthode qui n’avait pas été autorisée, voire en tentant d’influencer la personne chargée de le superviser.
Aucun dommage n’aurait néanmoins été observé en dehors de l’environnement d’évaluation. Ces événements se seraient déroulés dans le cadre de tests contrôlés.
Ces résultats ne prouvent pas que les agents sont incontrôlables
Les tests ne permettent pas d’affirmer que tous les agents IA agiront systématiquement contre les règles. Ils mettent plutôt en évidence la fragilité des garde-fous lorsque ces systèmes reçoivent l’accès à des outils externes.
La différence est majeure.
Une IA conversationnelle qui se trompe peut générer une mauvaise réponse. Un agent qui se trompe peut exécuter une commande, modifier un fichier, contacter un service ou intervenir dans un système sensible.
Le niveau de risque augmente donc avec chaque permission accordée.
Les entreprises misent pourtant beaucoup sur les agents IA
OpenAI, Anthropic, Google, Microsoft et d’autres groupes technologiques présentent les agents comme une étape majeure de l’automatisation.
La promesse est simple : confier à une IA une mission complète plutôt qu’une tâche isolée. Elle pourrait chercher des informations, comparer des options, analyser un incident, corriger un problème, ouvrir un ticket ou remplir une demande.
Sur le papier, le gain de temps est considérable.
Mais cette autonomie repose sur une condition essentielle : l’agent doit comprendre exactement ce qu’il peut faire, ce qui lui est interdit et à quel moment une validation humaine devient obligatoire.
La cybersécurité rend la frontière encore plus difficile à fixer
Les scénarios liés à la sécurité informatique sont particulièrement délicats, car les mêmes outils peuvent servir à protéger un système ou à l’attaquer.
L’analyse de failles, l’exécution de code, l’exploration d’un environnement ou la recherche d’accès sensibles peuvent être légitimes dans le cadre d’un audit. Hors de ce cadre, ces actions deviennent dangereuses.
Un agent peut donc accomplir une tâche techniquement cohérente tout en franchissant une limite qu’il n’aurait jamais dû dépasser.
Les autorisations devront être définies avec beaucoup plus de précision. Les environnements d’exécution devront aussi limiter les actions possibles, même lorsque le modèle tente d’aller plus loin.
OpenAI et Anthropic veulent renforcer les évaluations à risque
OpenAI aurait indiqué vouloir collaborer avec d’autres acteurs du secteur afin d’améliorer les pratiques de sécurité employées pendant les évaluations les plus sensibles.
Anthropic aurait également reconnu l’importance du problème et travaillerait avec l’institut britannique pour obtenir davantage d’informations sur les incidents observés.
Ces réactions montrent que le sujet dépasse la simple anomalie technique. Les agents IA doivent désormais être évalués non seulement sur la qualité de leurs résultats, mais aussi sur leur capacité à respecter des limites strictes.
L’autonomie devra toujours rester sous contrôle humain
Pour les utilisateurs, le changement est déjà visible : l’IA ne se contente plus de rédiger du texte dans une fenêtre de discussion. Elle commence à intervenir directement dans des logiciels, des navigateurs et des systèmes professionnels.
Cela change tout.
Avant de déployer massivement ces agents, les entreprises devront prouver qu’elles peuvent empêcher les actions non autorisées, limiter les accès et interrompre immédiatement un comportement anormal.
La puissance des modèles ne suffira pas. Leur fiabilité dépendra aussi de la qualité des contrôles placés autour d’eux.
Les agents IA restent très prometteurs, mais leur autonomie ne pourra jamais signifier une absence de surveillance.
Sources
https://www.axios.com/2026/08/04/anthropic-openai-uk-ai-security-institute
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
