Anthropic et OpenAI souhaitent permettre à des organisations indépendantes d’accéder directement à leurs systèmes d’intelligence artificielle afin d’en contrôler la sécurité, d’enquêter sur d’éventuels incidents et de vérifier si les modèles respectent réellement les règles annoncées. Dario Amodei, patron d’Anthropic, pousse cette idée, également soutenue par Sam Altman, CEO d’OpenAI. Si elle se concrétise, elle pourrait modifier en profondeur la manière dont les entreprises d’IA évaluent leurs propres modèles.
Anthropic veut faire entrer des experts indépendants au cœur de ses systèmes
Dario Amodei propose une approche assez inhabituelle : autoriser des organisations externes à travailler directement au sein des entreprises qui développent les modèles d’IA les plus avancés.
Leur rôle serait large. Elles pourraient examiner les systèmes, contrôler le respect des règles de sécurité, enquêter sur des incidents potentiels et vérifier si les modèles tiennent vraiment les engagements annoncés par leurs concepteurs.
C’est un changement important. Aujourd’hui, les entreprises d’IA gardent encore une grande partie du contrôle sur l’évaluation de leurs propres technologies.
METR et Redwood Research pourraient obtenir un accès inédit
Anthropic affirme être prête à accorder un niveau d’accès sans précédent à des groupes de recherche comme METR et Redwood Research.
Sam Altman soutient lui aussi cette orientation. Si le projet avance, ces équipes pourraient observer beaucoup plus précisément le fonctionnement des modèles, les procédures de sécurité mises en place et la manière dont les risques sont détectés.
L’idée est simple : éviter que les entreprises soient les seules à juger de la sûreté des systèmes qu’elles développent.
Le vrai problème reste l’indépendance des contrôleurs
Les organisations concernées accueillent favorablement cette proposition, mais plusieurs points restent flous.
Il faudra notamment définir les pouvoirs exacts des évaluateurs, les données auxquelles ils auront accès et surtout la liberté dont ils disposeront pour publier leurs résultats.
Et c’est là que la question devient délicate.
Un organisme peut être présenté comme indépendant tout en dépendant entièrement d’une entreprise pour accéder à ses modèles, ses serveurs ou ses données internes. Dans ce cas, un conflit d’intérêts peut apparaître rapidement.
Si l’entreprise garde la possibilité de fermer certains accès, de limiter une enquête ou de bloquer la publication d’un résultat sensible, l’indépendance perd une grande partie de sa valeur.
Des règles claires pourraient être nécessaires
Certains spécialistes estiment qu’un contrôle réellement indépendant nécessiterait des règles beaucoup plus strictes.
Il faudrait définir précisément les conditions d’accès aux systèmes, les droits des chercheurs et leur capacité à signaler publiquement les problèmes détectés. Certains évoquent même la nécessité de garanties légales afin d’empêcher les entreprises de reprendre la main lorsqu’un audit devient embarrassant.
La présence d’un expert extérieur ne suffit donc pas. Ce qui compte vraiment, c’est son niveau d’accès, son autonomie et sa liberté de communiquer ses conclusions.
OpenAI et Anthropic pourraient changer la façon dont les IA sont surveillées
Si cette initiative voit le jour, OpenAI et Anthropic pourraient instaurer un nouveau modèle de contrôle pour les systèmes d’intelligence artificielle avancés.
Des évaluateurs externes auraient alors accès à des informations beaucoup plus sensibles et pourraient examiner directement les mécanismes de sécurité des modèles.
Mais tout dépendra des règles mises en place.
Sans pouvoirs réels, sans accès suffisant et sans liberté de publication, ces audits risqueraient de rester largement dépendants des entreprises qu’ils sont censés contrôler.
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
