Une simple vidéo familiale publiée sur Instagram a débouché sur une expérience particulièrement dérangeante pour une mère américaine. Après avoir partagé du contenu montrant notamment l’un de ses enfants, Kalie Robins a vu Meta AI lui proposer spontanément d’identifier la personne apparaissant dans la vidéo.
L’assistant ne s’est pas arrêté là. En exploitant des informations accessibles à travers les contenus visibles par l’utilisatrice sur les plateformes de Meta, il a réussi à faire remonter des détails personnels concernant ses filles, ainsi que des photos familiales.
L’affaire a finalement poussé Meta à modifier le fonctionnement de certaines suggestions générées par son intelligence artificielle.
Meta AI lui propose d’identifier son propre enfant
L’histoire commence lorsqu’une vidéo publiée par Kalie Robins fait apparaître l’un de ses enfants.
Meta AI affiche alors une suggestion particulièrement précise : l’assistant propose de répondre à une question portant sur l’identité de l’enfant visible dans la vidéo.
En poursuivant l’expérience, la mère constate que l’intelligence artificielle est capable de relier différentes informations présentes sur les services de Meta.
Elle explique que le système a notamment fait apparaître des informations concernant ses filles et plusieurs photographies, dont une image qu’elle pensait avoir supprimée depuis plusieurs années.
Le cas est d’autant plus marquant que Meta AI n’est plus un service isolé. L’assistant est désormais profondément intégré aux différentes applications du groupe, notamment Facebook, Instagram, Messenger et WhatsApp.
Cette intégration pose déjà régulièrement des questions autour de la confidentialité. Menow avait par exemple évoqué le cas de discussions Meta AI rendues publiques alors que certains utilisateurs les pensaient privées.
Meta assure que son IA n’a pas accédé à des données interdites
Le cas pourrait laisser penser que Meta AI a fouillé dans des informations auxquelles l’utilisatrice n’avait normalement pas accès.
Meta assure que ce n’est pas ce qui s’est produit.
Selon l’entreprise, l’assistant ne faisait remonter que des contenus que Kalie Robins était déjà autorisée à consulter. Cela peut notamment inclure des publications provenant de son propre compte, mais aussi celles de membres de sa famille ou d’autres personnes avec lesquelles elle est connectée.
Le problème vient donc plutôt de la capacité de l’IA à rassembler automatiquement plusieurs informations dispersées, puis à les présenter ensemble dans un contexte très personnel.
Une photo, un nom, une publication d’un proche et différentes relations entre comptes peuvent sembler anodins lorsqu’ils sont consultés séparément. Une IA capable de les recouper peut en revanche produire une réponse beaucoup plus précise.
Cette question prend une dimension supplémentaire depuis que Meta utilise également certains contenus publics pour améliorer ses modèles. En Europe, Meta a notamment commencé à exploiter les publications et commentaires publics d’utilisateurs adultes pour entraîner ses systèmes d’IA.
Meta reconnaît que cette suggestion n’aurait pas dû apparaître
Meta n’a pas défendu le comportement observé.
Dina El-Kassaby, porte-parole de l’entreprise, a reconnu auprès de The Verge que le système avait raté sa cible. Selon Meta, ce type de suggestion portant sur des sujets aussi personnels n’aurait pas dû être généré.
L’entreprise indique avoir depuis corrigé le problème à l’origine de ces propositions.
La nuance est importante : Meta ne dit pas que son assistant avait obtenu illégalement ou secrètement des informations supplémentaires sur cette famille. Le groupe reconnaît en revanche que son IA n’aurait pas dû inciter l’utilisatrice à effectuer ce type de recherche personnelle.
Ce cas montre une différence essentielle entre la présence d’une information sur un réseau social et ce qu’une intelligence artificielle peut en faire.
Des informations publiques peuvent devenir beaucoup plus révélatrices lorsqu’une IA les assemble
Un utilisateur peut parfaitement savoir que certaines de ses photos Instagram sont visibles par ses proches.
Il peut aussi savoir que sa famille publie occasionnellement des photos, des prénoms ou des informations sur ses enfants.
Ce qui est moins évident, c’est qu’un assistant automatisé puisse croiser instantanément ces différents éléments et construire une réponse personnalisée.
Cette capacité devient particulièrement sensible lorsque les informations concernent des enfants, la famille, le domicile ou d’autres éléments personnels.
Les outils Meta disposent par ailleurs d’un nombre croissant de fonctions liées à l’intelligence artificielle. Sur WhatsApp, certaines options permettent déjà de limiter la présence de l’assistant dans des conversations sensibles. Menow a notamment détaillé le réglage permettant de renforcer la confidentialité face à Meta AI dans certaines discussions WhatsApp.
L’affaire Kalie Robins ne signifie donc pas que Meta AI peut accéder sans limite aux données privées de n’importe quel utilisateur. Elle montre plutôt ce que peut produire une IA lorsqu’elle relie automatiquement des informations déjà accessibles mais jusque-là dispersées.
Et c’est précisément cette capacité de recoupement que Meta vient de reconnaître comme problématique dans ce cas précis.
Source : The Verge
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
