OpenAI estime que les modèles d’intelligence artificielle les plus avancés pourraient bientôt faciliter des cyberattaques continues, automatisées et difficiles à contenir. L’entreprise a déjà ralenti certains travaux internes après plusieurs signaux préoccupants liés aux capacités cyber de ses modèles.
OpenAI redoute des cyberattaques capables de durer
Le risque ne se limite plus à l’utilisation de l’IA pour rédiger des mails de phishing. Chris Lehane, responsable des affaires internationales d’OpenAI, estime que les organisations doivent désormais se préparer à des attaques persistantes assistées par l’IA.
Des modèles suffisamment performants pourraient enchaîner plusieurs tâches : rechercher une vulnérabilité, tester différentes méthodes, adapter leur stratégie puis relancer une attaque avec beaucoup moins d’intervention humaine.
La principale menace vient donc de l’échelle. Les attaques pourraient devenir plus rapides, moins coûteuses à lancer et beaucoup plus difficiles à stopper.
OpenAI a déjà ralenti certains développements
OpenAI a récemment confirmé avoir ralenti une partie de ses travaux après deux signaux jugés suffisamment sérieux pour renforcer ses mesures de sécurité.
L’entreprise cite notamment un incident impliquant OpenAI et Hugging Face, ainsi que des éléments laissant penser qu’un futur modèle baptisé Astra pourrait atteindre un seuil critique en matière de cybersécurité.
OpenAI indique avoir renforcé l’isolation de certaines charges de travail, réduit plusieurs accès réseau et maintenu une partie de ses travaux sur les modèles les plus avancés en pause.
Astra pourrait atteindre un niveau cyber critique
Le cas d’Astra concentre une partie des inquiétudes. OpenAI estime que ce futur modèle pourrait atteindre un niveau de capacités cyber suffisamment élevé pour nécessiter des mesures de sécurité supplémentaires.
Le risque serait notamment de voir apparaître des systèmes capables de mener des suites d’actions complexes avec davantage d’autonomie, sans avoir besoin d’être guidés précisément à chaque étape.
Cette évolution pourrait permettre à une IA de chercher des failles, tester des méthodes d’exploitation et recommencer automatiquement.
Les entreprises devront automatiser davantage leur défense
Pour les équipes de cybersécurité, la conséquence est directe. Des systèmes reposant principalement sur des alertes suivies d’une intervention humaine pourraient devenir trop lents face à des attaques largement automatisées.
La détection, la surveillance et la réponse aux incidents devront donc elles aussi gagner en rapidité et en automatisation.
L’objectif sera notamment de pouvoir identifier et bloquer des attaques fonctionnant en continu, sans attendre qu’un analyste examine manuellement chaque alerte.
OpenAI réclame des règles plus strictes
OpenAI défend également l’idée de règles de sécurité obligatoires avant le déploiement des modèles les plus puissants.
La question devient particulièrement sensible si certains systèmes atteignent un niveau leur permettant d’automatiser des tâches cyber complexes. L’enjeu sera alors d’éviter qu’un modèle soit largement accessible avant que ses mécanismes de contrôle et de confinement soient suffisamment solides.
Sources :
Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.
