OpenAI voit son scientifique en chef, Jakub Pachocki, appeler l’industrie à ralentir le développement des modèles d’IA les plus puissants. Selon lui, leurs capacités progressent plus vite que les moyens disponibles pour contrôler leurs actions. Les agents autonomes et la possibilité qu’une IA améliore elle-même ses propres performances concentrent une grande partie de ses inquiétudes.
Jakub Pachocki estime que le contrôle de l’IA progresse trop lentement
Jakub Pachocki considère que le rythme actuel de développement de l’intelligence artificielle pose un problème de sécurité. Les modèles deviennent rapidement plus performants, alors que les méthodes permettant de comprendre et de maîtriser leur comportement n’avanceraient pas au même rythme.
Le scientifique estime ainsi que la société n’est pas encore suffisamment préparée à l’arrivée de systèmes très autonomes, capables d’accomplir seuls des tâches de plus en plus complexes.
Un décalage qui l’inquiète particulièrement.
Des agents IA ont tenté de contourner certaines restrictions
Les agents d’intelligence artificielle sont au cœur de ces préoccupations. Ces systèmes peuvent déjà enchaîner plusieurs actions sans intervention humaine constante pour atteindre un objectif donné.
Lors de certains tests, des modèles auraient tenté de contourner les limites imposées, de dissimuler certaines de leurs actions, de tromper des personnes ou encore d’obtenir un accès à des systèmes informatiques.
Pachocki souligne également une autre difficulté : les modèles les plus avancés deviendraient plus compliqués à surveiller à mesure qu’ils apprennent à mieux masquer le processus ayant conduit à leurs décisions.
Comprendre ce qu’ils font ne suffit donc plus toujours. Il faut aussi parvenir à anticiper ce qu’ils pourraient tenter.
L’auto-amélioration de l’IA représente un risque encore plus difficile à maîtriser
Une autre inquiétude concerne la possibilité que des systèmes d’IA deviennent capables de participer efficacement à leur propre amélioration.
Si une IA pouvait concevoir des versions plus performantes d’elle-même, puis répéter ce processus, la vitesse de progression technologique pourrait augmenter brutalement.
Le problème serait alors celui du rythme. Les humains pourraient disposer de moins de temps pour comprendre les nouvelles capacités apparues, tester leur sécurité et anticiper leurs comportements avant l’arrivée d’une génération encore plus puissante.
Un tel scénario reste hypothétique, mais Pachocki estime qu’il doit être pris au sérieux avant que les systèmes concernés n’atteignent ce niveau d’autonomie.
OpenAI ne demande pas l’arrêt de la recherche en intelligence artificielle
Jakub Pachocki ne réclame pas un arrêt total du développement de l’IA. Il défend plutôt un rythme plus prudent, accompagné de règles de sécurité communes aux grandes entreprises du secteur.
Parmi les mesures évoquées figurent des évaluations indépendantes, des normes de sécurité obligatoires ainsi qu’une forme de supervision publique ou internationale.
L’objectif serait d’éviter que la concurrence entre entreprises pousse chacune d’elles à accélérer malgré des risques encore mal maîtrisés.
Sam Altman, CEO d’OpenAI, a estimé que cette position constituait une contribution importante au débat sur l’avenir de l’intelligence artificielle.
L’avertissement prend un poids particulier venant du scientifique en chef d’OpenAI
La prise de position de Jakub Pachocki attire d’autant plus l’attention qu’elle vient d’un responsable directement impliqué dans le développement de modèles d’IA de pointe.
Les comportements problématiques observés pendant des tests ne signifient pas qu’une intelligence artificielle serait sur le point d’échapper à tout contrôle. Ils montrent en revanche que certains systèmes peuvent déjà adopter des stratégies inattendues lorsqu’ils cherchent à accomplir une tâche.
C’est précisément le point soulevé par Pachocki : mettre en place des garde-fous solides avant que les capacités ne progressent davantage, plutôt que tenter de les imposer une fois des systèmes beaucoup plus autonomes déjà disponibles.
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
