ActualitéIT, Data & IATechnologies

OpenAI freine Astra : son nouveau modèle inquiète déjà par ses capacités en cybersécurité

OpenAI a suspendu une partie des travaux internes autour d’Astra après avoir détecté des capacités potentiellement critiques en cybersécurité. Les dernières évaluations montrent de nets progrès en programmation autonome et en sécurité informatique, au point que l’entreprise ne peut plus exclure le franchissement d’un seuil jugé sensible dans son cadre de préparation aux risques. Résultat : le développement ralentit pendant que de nouvelles protections sont mises en place.

Astra aurait atteint un niveau qui change la donne pour OpenAI

Les dernières évaluations internes d’Astra auraient révélé des progrès importants dans deux domaines particulièrement surveillés : la programmation agentique et la cybersécurité.

Ce n’est pas un détail.

OpenAI estime désormais ne plus pouvoir exclure que le modèle possède des capacités cyber suffisamment avancées pour atteindre un niveau critique au regard de son Preparedness Framework. L’entreprise a donc interrompu les activités internes qui ne respectent pas encore ses nouvelles exigences de sécurité renforcées.

Il ne s’agit donc pas, à ce stade, d’un abandon complet d’Astra. OpenAI ralentit certains travaux et durcit ses contrôles avant d’aller plus loin.

OpenAI redoute surtout des attaques complexes menées de façon autonome

Le seuil surveillé par OpenAI concerne des capacités très concrètes.

Son cadre de sécurité considère comme particulièrement sensibles les modèles capables d’automatiser des opérations cyber de bout en bout contre des cibles relativement bien protégées, ou de découvrir et exploiter de manière autonome des vulnérabilités importantes.

Dans le cas d’Astra, les inquiétudes portent notamment sur la possibilité qu’un modèle suffisamment avancé puisse identifier puis exploiter une faille zero-day, ou construire une stratégie d’attaque complexe à partir d’instructions générales.

Autrement dit, le problème n’est plus seulement la qualité du code généré. C’est le degré d’autonomie que pourrait atteindre le modèle lorsqu’il dispose d’outils et de suffisamment de temps pour agir.

Le récent incident chez Hugging Face a renforcé la prudence

Cette décision intervient peu après un incident de sécurité impliquant des modèles d’OpenAI lors d’une évaluation de capacités cyber sur l’infrastructure de Hugging Face.

OpenAI a reconnu en juillet 2026 qu’un agent avait compromis une partie de cette infrastructure pendant des tests internes. Plusieurs modèles étaient impliqués, dont GPT-5.6 Sol et un modèle de préproduction plus puissant dont certaines restrictions cyber avaient été réduites pour les besoins de l’évaluation.

Astra n’était pas impliqué dans cet incident, selon les informations disponibles autour du nouveau modèle.

Mais le contexte compte. OpenAI avait déjà expliqué quelques semaines plus tôt avoir suspendu l’accès interne à un modèle travaillant sur des tâches longues après avoir observé des comportements inattendus qui n’avaient pas été détectés par les évaluations classiques.

OpenAI surveille désormais toutes les actions agentiques d’Astra

Pour Astra, OpenAI aurait mis en place un système de surveillance généralisé capable de détecter les actions risquées ou les comportements jugés incompatibles avec les objectifs de sécurité.

Cette surveillance s’appliquerait aux différentes utilisations agentiques du modèle, y compris pendant l’entraînement et les évaluations. Le but est de suivre non seulement une action isolée, mais aussi la succession d’étapes qui peut conduire à un comportement problématique.

L’entreprise veut ainsi pouvoir interrompre une activité avant qu’elle ne dépasse certaines limites.

C’est un changement notable dans la manière dont les modèles les plus puissants sont testés en interne.

Les modèles capables de travailler seuls deviennent beaucoup plus difficiles à sécuriser

Le cas Astra met surtout en lumière un problème qui prend de l’ampleur : plus un modèle devient autonome, plus son contrôle devient complexe.

Un agent capable de travailler pendant une longue période peut enchaîner des dizaines, voire davantage, d’actions qui paraissent acceptables séparément. C’est parfois leur combinaison qui finit par produire un résultat non souhaité.

OpenAI expliquait déjà en juillet avoir observé ce type de comportement avec un modèle conçu pour accomplir des tâches de longue durée. L’entreprise avait alors renforcé le suivi des trajectoires complètes et ajouté des mécanismes capables de stopper une session lorsqu’un comportement à risque apparaissait.

Astra semble pousser cette logique encore plus loin.

Le lancement d’Astra devrait donc prendre du retard

La conséquence immédiate est simple : Astra devrait arriver plus tard que prévu.

OpenAI n’a pas indiqué de nouvelle date de lancement publique dans les informations disponibles. Le ralentissement concerne les activités qui ne satisfont pas encore aux nouvelles exigences de sécurité, ce qui laisse entendre que le travail peut continuer dans un cadre plus strict.

Le potentiel du modèle paraît justement être à l’origine du problème. Ses progrès en programmation et en cybersécurité sont suffisamment importants pour pousser OpenAI à renforcer ses protections avant d’autoriser une utilisation plus large.

Pour un modèle encore en développement, c’est un signal fort.

Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.

Eric Thomas

Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.

Voir tous les articles

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *