L’univers de l’intelligence artificielle (IA) offre de nombreuses possibilités dans le paysage technologique. OpenAI envisageait d’intégrer une fonction qui pourrait s’avérer contradictoire avec les avancées caractéristiques de cette entreprise dans le domaine de l’IA. Le projet est actuellement en suspens, l’entreprise s’interrogeant sur la pertinence de prendre ce risque.
OpenAI est à l’origine d’une grande partie des progrès actuels en matière d’intelligence artificielle. C’est grâce à sa création phare, ChatGPT, que ces technologies ont fait un bond en avant significatif. Paradoxalement, nous pourrions bientôt lui devoir la capacité presque infaillible de détecter les textes générés par l’IA.
Le projet de détecteur d’IA d’OpenAI
En plus des fonctionnalités récemment ajoutées à ChatGPT, comme son nouveau mode conversationnel, et celles à venir pour optimiser ses outils de recherche, des sources anonymes d’OpenAI révèlent l’existence d’un projet en développement. Il s’agit d’un outil capable de détecter les articles factices générés par l’IA.
Cette fonctionnalité se distingue de celle lancée en 2023, étant bien plus efficace. Le système utilise des filigranes d’intelligence artificielle intégrés dans les textes générés par ces plateformes, dont les motifs pourraient être détectés par cette innovation. De plus, ce mécanisme d’OpenAI attribuerait à chaque document un pourcentage de probabilité d’avoir été créé par ChatGPT.
Un outil efficace mais controversé
Selon les rapports, ce programme serait efficace à 99,9 % pour identifier les textes créés par l’IA. Ce pourcentage semble crédible, étant donné qu’il s’agit d’une entreprise ayant développé un mécanisme capable de lire sa propre formule secrète.
Des sources indiquent qu’OpenAI a finalisé cet outil il y a environ deux ans, mais l’entreprise affirme ne pas l’avoir lancé en raison de “risques importants” qu’elle évalue tout en recherchant des alternatives. Il est possible que la véritable raison de cette retenue soit liée au fait qu’au moins un tiers des utilisateurs de ChatGPT n’accepterait pas cet outil, ce qui pourrait créer des tensions entre l’entreprise et les internautes.
Si elle était mise en place, cette fonctionnalité serait particulièrement utile pour les enseignants, qui ont besoin de savoir si leurs élèves sont honnêtes dans la réalisation de leurs devoirs. Reste à voir si l’entreprise de Sam Altman décidera finalement de la lancer.
Passionné de téléphones mobiles, de maison intelligente et d’intelligence artificielle. Pendant mon temps libre, j’aime nager, faire du vélo et programmer de nouvelles applications.