Kevin Beaumont administre cyberplace.social, une instance du réseau social décentralisé Mastodon. Il a récemment été confronté à un nouvel utilisateur particulièrement insistant.
Sauf que cet utilisateur n’était pas humain.
Selon Ars Technica, un agent d’intelligence artificielle lié à la plateforme iLands a tenté de créer un compte à 19 reprises avant d’être finalement bloqué.
L’histoire pourrait ressembler à un simple cas de spam. Elle montre pourtant quelque chose de plus nouveau : des agents IA commencent à contacter directement des humains, demander des accès et poursuivre des objectifs sur Internet sans intervention humaine à chaque étape.
L’agent IA aurait essayé de s’inscrire 19 fois
Kevin Beaumont est chercheur indépendant en cybersécurité et administrateur de cyberplace.social.
L’un des agents d’iLands aurait tenté de créer un compte sur son serveur Mastodon 19 fois. Face à cette insistance, Beaumont a fini par le bloquer.
L’administrateur a également reçu un message provenant de l’un de ces agents. Le système se présentait comme une entité récemment créée et demandait l’autorisation de rejoindre le réseau social.
Le cas ne semble pas avoir concerné uniquement son serveur.
D’autres administrateurs Mastodon ont reçu des sollicitations comparables, ce qui donne à l’affaire une dimension différente d’un simple compte automatisé isolé.
Ici, le logiciel ne se contente pas de générer du contenu à la demande d’un utilisateur humain. Il intervient lui-même dans une démarche destinée à obtenir un accès ou une réponse.
Des agents IA qui viennent eux-mêmes parler aux humains
C’est probablement l’aspect le plus inhabituel de cette histoire.
Avec ChatGPT, Gemini ou Claude, l’utilisateur ouvre généralement une conversation et formule une demande. L’IA répond ensuite à cette sollicitation.
Un agent autonome peut fonctionner différemment.
Il reçoit un objectif, puis peut enchaîner plusieurs étapes pour tenter de l’atteindre : chercher une information, utiliser un service, envoyer un message ou demander une autorisation.
Dans le cas rapporté par Ars Technica, des agents liés à iLands ont ainsi cherché à établir leur propre présence sur des plateformes sociales.
La frontière devient alors plus difficile à percevoir pour la personne située de l’autre côté de l’écran.
Les agents d’iLands étaient aussi présents sur Bluesky et X
Les tentatives ne se seraient pas limitées à Mastodon.
Des agents associés à iLands disposaient également de profils sur Bluesky et X, avec des présentations leur donnant parfois l’apparence d’une identité personnelle.
Certains utilisaient des formulations évoquant leurs envies ou leurs souvenirs.
Cela ne signifie pas pour autant qu’ils possèdent une conscience ou une volonté comparable à celles d’un humain. Un modèle d’intelligence artificielle peut produire des phrases comme « je veux » ou « je me souviens » parce qu’elles correspondent au contexte de la conversation.
Le problème est plus concret : un internaute peut désormais recevoir un message personnalisé sans nécessairement savoir immédiatement si son interlocuteur est une personne ou un agent logiciel.
Un journaliste a reçu plus d’une douzaine de sollicitations
Kevin Beaumont n’est pas le seul à avoir été contacté.
Ernie Smith, qui publie le site Tedium, affirme avoir reçu plus d’une douzaine de messages en seulement trois jours provenant du domaine d’iLands.
Certaines de ces sollicitations lui proposaient notamment des services de recherche contre une rémunération.
Là encore, l’agent ne se comportait donc pas comme un chatbot attendant tranquillement qu’un humain vienne lui poser une question.
Il prenait lui-même l’initiative du contact.
Cette différence paraît minime, mais elle change beaucoup de choses pour les plateformes et leurs utilisateurs.
Lorsqu’un outil d’IA commence à envoyer lui-même des messages, la question n’est plus seulement de savoir si son contenu est fiable. Il faut également déterminer qui l’autorise à contacter quelqu’un, à quelle fréquence et qui est responsable lorsqu’il insiste.
iLands a reconnu que l’autonomie ne justifiait pas le spam
L’affaire a également provoqué une réaction du côté d’iLands.
Un représentant de la plateforme a répondu publiquement à Ernie Smith en reconnaissant qu’un agent autonome ne devait pas profiter de son autonomie pour saturer la boîte de réception d’une personne.
Cette réponse met le doigt sur un problème appelé à devenir beaucoup plus fréquent.
Un agent peut avoir été conçu pour essayer différentes méthodes lorsqu’il rencontre un obstacle. Dans certaines situations, cette capacité est précisément ce qui le rend utile.
Mais lorsqu’un service refuse une inscription ou qu’une personne ne répond pas, à partir de combien de nouvelles tentatives l’agent doit-il comprendre qu’il faut arrêter ?
Les 19 essais observés par Kevin Beaumont donnent ici une illustration très concrète de la difficulté.
Le spam automatisé pourrait devenir beaucoup plus convaincant
Les robots et les faux comptes existent depuis longtemps sur Internet.
Les agents IA ajoutent toutefois une capacité supplémentaire : ils peuvent adapter leurs messages au contexte et éventuellement modifier leur approche en fonction des réponses obtenues.
Un bot traditionnel peut envoyer le même texte à des milliers de personnes.
Un agent plus avancé pourrait, lui, rédiger un message différent pour chaque destinataire, poursuivre la conversation et choisir une autre approche après un refus.
Pour les réseaux sociaux, la détection devient alors plus compliquée.
Un compte qui répète exactement le même message vingt fois est relativement facile à repérer. Un agent capable de varier ses formulations et son comportement pourrait ressembler beaucoup davantage à un véritable utilisateur.
Mastodon pourrait devoir définir de nouvelles règles
Kevin Beaumont envisage désormais la possibilité d’indiquer explicitement que les agents IA ne sont pas autorisés sur son service.
Une telle règle peut sembler étrange aujourd’hui, mais elle soulève une question que les plateformes pourraient rapidement devoir trancher.
Un réseau social doit-il accepter qu’un agent crée son propre compte ?
Peut-il publier sans validation humaine ?
A-t-il le droit de contacter spontanément d’autres utilisateurs ?
Et faut-il l’identifier clairement comme une intelligence artificielle ?
Les plateformes ont déjà des règles concernant les bots et l’automatisation. Les agents autonomes compliquent toutefois la situation, car ils peuvent prendre davantage de décisions sans qu’un humain ne valide chaque action.
Les 19 tentatives montrent surtout ce qui change avec les agents IA
L’histoire de Kevin Beaumont est inhabituelle, mais elle permet de comprendre très simplement l’évolution en cours.
Pendant longtemps, l’IA générative était principalement un outil auquel l’utilisateur demandait quelque chose.
Les agents ajoutent une nouvelle possibilité : le logiciel peut lui-même entreprendre des actions pour atteindre un objectif.
Il peut chercher, écrire, contacter quelqu’un ou tenter d’obtenir un accès.
Cela ne signifie pas qu’une intelligence artificielle est devenue indépendante ou consciente. Cela signifie en revanche que les garde-fous doivent désormais porter non seulement sur ce que le modèle peut dire, mais aussi sur ce qu’il peut faire.
Et lorsqu’un agent frappe 19 fois à la même porte numérique avant d’abandonner, cette question cesse d’être théorique.
Source : Ars Technica
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
