Anthropic discute directement avec des responsables américains de nouveaux mécanismes de contrôle des risques liés à l’intelligence artificielle. La Maison-Blanche veut pouvoir intervenir si certains modèles menacent la sécurité nationale ou la stabilité économique. Ces échanges interviennent alors que les modèles d’IA avancés sont de plus en plus surveillés.
Les États-Unis veulent évaluer les risques avant le lancement des modèles
La direction d’Anthropic a pu aborder la régulation de l’IA avec des responsables américains lors du sommet du G7.
Selon Politico, la Maison-Blanche et l’entreprise travaillent sur des mécanismes qui permettraient au gouvernement américain d’agir lorsqu’un modèle d’IA présente un risque majeur.
L’objectif est de créer des standards communs d’évaluation avant la sortie de nouveaux modèles.
Les modèles d’IA ne peuvent pas être considérés comme totalement sûrs
Les participants aux discussions reconnaissent qu’aucun modèle d’intelligence artificielle n’est entièrement sans danger.
Ils cherchent donc à mettre en place une procédure claire pour repérer les failles potentielles avant le déploiement public.
Les échanges portent aussi sur la manière dont des acteurs malveillants pourraient exploiter les capacités de l’IA à des fins nuisibles.
Sarah Heck et Tom Brown portent les discussions
Côté américain, les discussions impliquent Sarah Heck, chargée des questions de politique publique.
Anthropic est représenté par Tom Brown, cofondateur de l’entreprise.
Le passage à des échanges plus techniques montre que les deux parties cherchent désormais à définir des règles concrètes, au-delà des déclarations politiques.
Des restrictions passées poussent Anthropic et Washington à clarifier le cadre
Des inquiétudes liées à la sécurité avaient déjà conduit à restreindre l’accès à certains modèles d’Anthropic pour des utilisateurs étrangers.
Les discussions actuelles doivent aider à éviter de nouvelles crises et rendre la relation entre l’État américain et les développeurs d’IA plus prévisible.
Le principal défi reste de trouver un équilibre entre sécurité et vitesse de développement des modèles.
Je m’appelle Samuel Le Goff. À 38 ans, je suis l’actualité du numérique depuis plus de 14 ans. Aujourd’hui, je m’intéresse particulièrement aux smartphones et aux usages concrets de l’intelligence artificielle, que je traite à travers des contenus clairs et accessibles sur Menow.fr.
