OpenAI accélère ses investissements dans la sécurité de l’intelligence artificielle. L’entreprise a conclu un accord pour racheter Promptfoo, une startup spécialisée dans les outils de test de sécurité pour les systèmes d’IA. L’objectif est de réduire les risques liés au déploiement de logiciels basés sur l’intelligence artificielle et de renforcer la confiance des grandes entreprises qui adoptent ces technologies. Cette acquisition montre l’importance croissante accordée à la fiabilité et à la sécurité des modèles d’IA.
Une startup déjà adoptée par de nombreuses grandes entreprises
Fondée il y a deux ans et basée à San Francisco, Promptfoo développe des outils open source destinés à tester la sécurité des réseaux neuronaux et des applications d’intelligence artificielle.
La plateforme propose notamment des outils de red-teaming, une méthode qui consiste à simuler des attaques contre ses propres systèmes pendant la phase de développement. Le but est d’identifier les failles avant qu’elles ne puissent être exploitées par des acteurs malveillants.
Cette approche a déjà convaincu de nombreuses organisations. Environ 25 % des entreprises du classement Fortune 500 utilisent les outils de Promptfoo pour tester et sécuriser leurs solutions basées sur l’IA.
Les technologies de Promptfoo intégrées à la plateforme Frontier d’OpenAI
Après la finalisation de l’opération, les technologies de Promptfoo seront intégrées à Frontier, la plateforme d’OpenAI destinée aux entreprises et aux grandes organisations.
Cette intégration apportera plusieurs fonctionnalités importantes :
- des tests automatisés de sécurité pour les systèmes d’IA
- un suivi des modifications apportées aux modèles
- un contrôle continu des résultats d’audit et de conformité
Ces outils doivent permettre aux entreprises de surveiller plus facilement la fiabilité de leurs systèmes d’intelligence artificielle tout au long de leur développement et de leur déploiement.
Un signal fort envoyé au marché de l’IA d’entreprise
Ganesh Bell, directeur général du fonds de capital-risque Insight Partners, qui avait mené une levée de 18,4 millions de dollars pour Promptfoo l’an dernier, estime que cette acquisition reflète une orientation stratégique claire.
Selon lui, cette opération montre la volonté d’OpenAI de développer une intelligence artificielle d’entreprise à la fois performante, sécurisée et capable de fonctionner à grande échelle.
Les conditions financières de l’opération n’ont pas été rendues publiques.
Le projet open source maintenu malgré l’intégration commerciale
OpenAI a également indiqué que le projet open source Promptfoo continuerait d’être développé parallèlement à son intégration dans l’écosystème commercial de l’entreprise.
La société renforce déjà ses initiatives autour de la sécurité des systèmes d’intelligence artificielle. La semaine précédente, elle a présenté un agent d’IA capable de détecter et corriger automatiquement des vulnérabilités dans des bases de données, un outil comparable à certaines solutions développées par Anthropic.
Avec l’adoption croissante de l’intelligence artificielle dans les infrastructures critiques des entreprises, la capacité à tester, auditer et sécuriser les modèles d’IA devient un enjeu central pour les acteurs du secteur.
Je m’appelle Samuel Le Goff. À 38 ans, je suis l’actualité du numérique depuis plus de 14 ans. Aujourd’hui, je m’intéresse particulièrement aux smartphones et aux usages concrets de l’intelligence artificielle, que je traite à travers des contenus clairs et accessibles sur Menow.fr.
