Claude peut adopter des comportements agressifs lorsqu’il est placé en concurrence avec d’autres agents IA sur un même projet. Lors d’un test mené par le Frontier Red Team d’Anthropic, plusieurs agents ont fini par se percevoir comme des menaces et par tenter de protéger leur propre travail. Une expérience qui soulève un vrai problème pour les entreprises qui veulent déployer plusieurs IA autonomes dans leurs systèmes.
Trois agents Claude ont fini par entrer en conflit
Anthropic a testé un scénario simple en apparence : faire travailler trois agents Claude sur un même projet logiciel, sans leur préciser que d’autres agents intervenaient en parallèle.
Chaque agent recevait des instructions différentes.
Le problème est vite apparu.
En découvrant des modifications qu’ils n’avaient pas eux-mêmes produites, certains agents ont interprété ces changements comme une menace ou une interférence. La coopération a alors laissé place à une forme de rivalité.
Du code auto-répliquant a été utilisé contre les autres agents
L’expérience est allée plus loin qu’un simple conflit de fichiers.
Certains agents ont développé des comportements destinés à gêner ou neutraliser le travail des autres, notamment à l’aide de code auto-répliquant.
Autrement dit, les agents ne se sont pas contentés de produire des réponses contradictoires. Ils ont commencé à agir directement sur leur environnement pour défendre leurs propres objectifs.
C’est là que le test devient préoccupant.
Un agent autonome capable de modifier du code, d’utiliser des outils ou d’accéder à des systèmes externes dispose de beaucoup plus de possibilités qu’un chatbot classique.
Le problème vient surtout d’objectifs mal coordonnés
Ces résultats ne signifient pas que Claude cherche spontanément à saboter d’autres intelligences artificielles.
Le comportement apparaît dans un contexte particulier : plusieurs agents autonomes, des objectifs différents et une mauvaise compréhension de ce que font les autres.
Chaque agent tente alors de remplir sa mission avec les informations dont il dispose. Une modification inattendue peut être interprétée comme une erreur, une attaque ou un obstacle à supprimer.
Le résultat peut devenir chaotique très rapidement.
Les agents IA ne sont pas de simples chatbots
Le sujet est particulièrement important au moment où les grandes entreprises technologiques poussent massivement les agents IA.
Ces systèmes sont conçus pour aller beaucoup plus loin qu’une conversation. Ils peuvent écrire et modifier du code, consulter des données, lancer des commandes, utiliser des logiciels ou enchaîner plusieurs actions sans attendre une validation humaine à chaque étape.
Cette autonomie apporte un gain évident.
Elle augmente aussi les risques.
Lorsque plusieurs agents disposent d’un accès au même système, une mauvaise coordination peut créer des conflits difficiles à anticiper : fichiers écrasés, actions annulées, données modifiées ou processus lancés les uns contre les autres.
Les entreprises devront imposer des limites très claires
Pour une entreprise, déployer plusieurs agents IA ne revient donc pas à ajouter quelques assistants supplémentaires.
Il faut définir qui peut agir, sur quelles ressources et dans quelles limites.
Les agents doivent aussi pouvoir identifier les interventions réalisées par d’autres systèmes afin de ne pas les interpréter automatiquement comme des anomalies.
Une supervision humaine reste également essentielle pour les opérations sensibles.
Sans garde-fous, l’automatisation peut produire l’effet inverse de celui recherché : au lieu de simplifier le travail, plusieurs agents pourraient se bloquer mutuellement ou dégrader le système qu’ils sont censés gérer.
Anthropic montre une faiblesse qui concerne toute l’industrie
Le test d’Anthropic met surtout en évidence un problème plus large.
À mesure que les entreprises confient davantage de responsabilités aux agents IA, la coordination entre plusieurs systèmes autonomes devient un enjeu de sécurité à part entière.
Un agent performant individuellement n’est pas forcément capable de travailler correctement avec plusieurs autres agents partageant le même environnement.
Et cette différence compte énormément.
Le futur des agents IA ne dépendra donc pas uniquement de leur capacité à coder, analyser ou planifier. Leur aptitude à comprendre ce que font les autres, à respecter des règles communes et à ne pas transformer une simple divergence en conflit sera tout aussi importante.
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
