OpenAI retarde la publication de l’outil de détection de l’IA en raison de préoccupations

OpenAI a reporté la publication de son outil tant attendu conçu pour détecter le texte généré par son modèle ChatGPT. Selon les rapports, le lancement a été retardé en raison de problèmes potentiels qui pourraient affecter l’expérience utilisateur et l’écosystème.

Le Wall Street Journal a déclaré qu’OpenAI se préparait à publier l’outil depuis un an mais ne l’avait pas fait, principalement en raison des risques et de divers problèmes. Le choix de reporter le lancement de l’outil semble également être lié à l’entrée de l’utilisateur. Dans un sondage mené par OpenAI, ils ont constaté que près d’un tiers de ses utilisateurs fidèles de ChatGPT pourraient être dissuadés par l’introduction d’une technologie anti-triche.

Comment fonctionne l’outil anti-triche

Selon le Center for Democracy and Technology, 59 % des enseignants du collège et du lycée estiment que les élèves ont utilisé l’IA dans leurs devoirs, soit une augmentation par rapport à l’année précédente.

L’outil anti-triche fonctionne en intégrant un filigrane dans le texte écrit par une IA. Bien que ce filigrane soit invisible à l’œil nu, la technologie de détection d’OpenAI est capable de le détecter. L’outil fournit un score qui représente la probabilité qu’un texte donné ait été écrit par ChatGPT. Cette technique de filigrane est dite presque parfaite, car des documents internes révèlent qu’elle a une efficacité de 99,9 % lorsque ChatGPT génère beaucoup de contenu.

Cependant, certaines questions ont été soulevées concernant l’outil. Une préoccupation majeure est qu’il pourrait désavantager ceux qui ne sont pas des locuteurs natifs de l’anglais. Certaines personnes craignent que le filigrane ne soit pas aussi efficace qu’il le devrait ou qu’il puisse signaler d’autres œuvres d’auteurs ayant de mauvaises compétences en anglais comme du plagiat. De plus, des critiques ont exprimé leur inquiétude quant au fait que le filigrane puisse être effacé ou manipulé en le traduisant ou en insérant et supprimant des emojis.

Un autre problème est de savoir qui devrait être autorisé à utiliser l’outil de détection. Limiter l’accès pourrait réduire l’applicabilité de la méthode de filigrane ; cependant, permettre un accès gratuit pourrait rendre la méthode inefficace. 

D’autres géants de la technologie développent des solutions similaires

Bien qu’OpenAI n’ait pas encore mis en œuvre l’outil anti-triche pour le texte, l’entreprise a déjà commencé à appliquer le filigrane pour les sorties audio et vidéo. Ces formats multimédias ont été considérés par l’entreprise comme des priorités car les deepfakes générés par l’IA présentent des risques plus élevés que le contenu basé sur le texte. 

D’autres entreprises technologiques développent également des solutions similaires. Par exemple, Google travaille également sur sa propre solution de filigrane connue sous le nom de SynthID, qui est encore en phase bêta. Cependant, OpenAI a priorisé le filigrane audio et visuel par rapport au texte, car les impacts des premiers sont plus graves et peuvent survenir lors de périodes critiques telles que les années électorales. 

Cette nouvelle survient alors qu’Elon Musk revient au tribunal pour poursuivre OpenAI, accusant l’entreprise et ses fondateurs, Sam Altman et Greg Brockman, de s’écarter de l’objectif initial de créer une IA pour l’amélioration de l’humanité.