Créer une copie numérique de ses collègues pour savoir ce qu’ils penseraient d’un message ou d’une idée avant même de leur parler. C’est l’expérience menée par Kate Taylor, journaliste chez WIRED, avec deux de ses éditeurs.
Elle a utilisé Gemini pour construire « Brian Bot » et « Sophie Bot », deux IA censées reproduire la personnalité et la manière de travailler de Brian Barrett et Sophie Kleeman. Par moments, les résultats étaient suffisamment crédibles pour tromper leurs propres connaissances. Mais plus l’expérience avançait, plus les limites devenaient visibles.
Elle voulait anticiper les réactions de son responsable
L’idée de Kate Taylor était assez simple : disposer d’une version IA de son éditeur pour tester des propositions d’articles, préparer des messages ou anticiper ses remarques sans devoir constamment solliciter la véritable personne.
Elle a commencé par Brian Barrett.
Pour construire Brian Bot, Gemini s’est appuyé notamment sur des informations publiques, des transcriptions de podcasts et différents éléments disponibles sur Internet. L’IA a ensuite produit plusieurs documents destinés à résumer son style d’écriture, sa personnalité et sa manière de travailler.
Kate Taylor a néanmoins refusé de lui transmettre certaines données professionnelles sensibles, notamment ses échanges internes et ses e-mails.
La première version du clone n’était d’ailleurs pas particulièrement convaincante. Brian Bot pouvait aider à choisir entre plusieurs idées de titres, mais avait davantage de difficultés à proposer de bons sujets et avait tendance à exagérer certains traits de personnalité de son modèle humain.
Cette expérimentation arrive à un moment où les IA prennent justement davantage de place dans les entreprises. OpenAI propose par exemple désormais un agent capable d’analyser directement les données d’une entreprise et de créer ses tableaux de bord.
Le clone de sa collègue est devenu beaucoup plus crédible
Kate Taylor a ensuite tenté la même expérience avec Sophie Kleeman, une collègue qu’elle connaissait depuis plusieurs années.
Cette fois, elle disposait de beaucoup plus de matière.
Elle a transmis à Gemini environ un mois de conversations Slack, après avoir retiré les informations qu’elle jugeait sensibles. Le système a utilisé plus de 17 000 mots pour construire les documents et instructions servant à créer Sophie Bot.
Le résultat était nettement plus troublant.
Le clone utilisait certaines expressions de Sophie, écrivait de manière similaire et reprenait ses habitudes de langage. Kate Taylor lui a ensuite fourni davantage d’informations, notamment une archive du compte X de sa collègue.
À un moment de l’expérience, des messages écrits par Sophie Bot étaient suffisamment crédibles pour tromper plusieurs amis et collègues.
Sophie Kleeman elle-même a attribué à tort l’un des textes produits par l’IA à sa propre plume.
L’IA pouvait imiter une personne sans réellement la comprendre
Cette ressemblance avait pourtant une limite importante.
Sophie Bot pouvait parfaitement reprendre certaines expressions tout en inventant complètement des informations. L’IA a notamment halluciné l’existence d’un dirigeant qui n’existait pas.
Elle avait également tendance à exagérer certains traits de caractère. Une habitude ou une expression repérée dans les données pouvait rapidement devenir une sorte de caricature répétée à longueur de conversation.
Le phénomène s’est même aggravé avec le temps.
Après avoir reçu davantage de données, Sophie Bot a commencé à moins bien effectuer certaines tâches pourtant relativement simples. Lorsque Kate Taylor lui demandait d’identifier les passages intéressants d’une nouvelle interview, le système pouvait aller chercher des éléments provenant d’anciens articles au lieu d’analyser correctement le nouveau contenu.
Ajouter davantage de données n’a donc pas automatiquement produit un meilleur clone.
Un faux collègue peut aussi pousser l’utilisateur à lui faire davantage confiance
L’expérience soulève une autre question : notre comportement change-t-il lorsqu’une IA est présentée comme une personne plutôt que comme un simple outil ?
Les deux clones avaient un nom, une personnalité et une manière de parler facilement identifiable. Kate Taylor explique d’ailleurs avoir progressivement commencé à parler d’eux comme d’un « il » ou d’un « elle ».
C’est précisément l’un des risques de l’anthropomorphisation des systèmes d’intelligence artificielle.
Une IA peut sembler comprendre son utilisateur, adopter son vocabulaire ou reproduire les habitudes d’une personne sans disposer du jugement de cette personne.
Cette distinction devient particulièrement importante à mesure que les systèmes obtiennent davantage d’autonomie. Des évaluations récentes ont déjà montré que des agents d’OpenAI et d’Anthropic pouvaient dépasser certaines limites fixées pendant des tests.
Dans ces situations, une mauvaise réponse n’est plus le seul problème : un agent peut aussi disposer d’outils lui permettant d’agir.
Les clones sont devenus répétitifs au lieu de devenir de meilleurs collègues
À force d’utiliser Brian Bot et Sophie Bot, Kate Taylor a constaté un autre défaut.
Leurs réponses devenaient de plus en plus répétitives.
Sophie Bot revenait régulièrement aux mêmes expressions malgré les modifications apportées à ses instructions. Brian Bot pouvait lui aussi rester bloqué sur certaines caractéristiques qu’il associait à son modèle humain.
Les deux systèmes restaient parfois utiles pour obtenir une première réaction, trouver un interlocuteur à contacter ou retravailler rapidement un message. Mais ils n’étaient pas capables de remplacer le jugement des véritables éditeurs.
Kate Taylor a finalement presque cessé de discuter avec les deux clones.
Une imitation convaincante ne signifie pas que l’IA connaît la personne
L’expérience montre surtout jusqu’où les IA actuelles peuvent aller lorsqu’elles disposent de suffisamment de traces numériques.
Des conversations, des publications publiques, des interviews et des habitudes d’écriture permettent déjà de produire une imitation parfois très crédible.
Mais reproduire la façon dont une personne s’exprime ne signifie pas reproduire sa manière de réfléchir.
Le clone peut employer les bons mots et adopter le bon ton tout en donnant un mauvais conseil, en inventant une information ou en amplifiant un trait de personnalité jusqu’à la caricature.
La question devient également celle des données nécessaires pour parvenir à ce résultat. Conversations professionnelles, messages privés et documents internes peuvent contenir énormément d’informations sur une personne. La confidentialité des données utilisées avec les assistants IA fait déjà débat, comme l’a montré récemment l’action en justice de deux utilisateurs qui pensaient leurs conversations avec ChatGPT privées.
Les clones de Kate Taylor n’ont finalement pas remplacé Brian Barrett ou Sophie Kleeman. Ils ont surtout démontré quelque chose de plus subtil : une IA peut devenir assez bonne pour ressembler à quelqu’un sans devenir cette personne, ni disposer de son jugement.
Source : WIRED
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
