L'outil de détection d'images d'OpenAI affiche des résultats prometteurs, mais fait face à des défis

Les images générées par l'IA peuvent induire en erreur et faire passer du contenu falsifié pour de l'original. C'est pourquoi OpenAI, le développeur de ChatGPT, a créé un outil capable de déterminer si une image provient de DALL-E 3, l'algorithme de génération d'images qu'ils ont développé.

Mardi, OpenAI a offert aux utilisateurs la possibilité de tester un outil de détection d'images composé de modèles de base et optimisés. L'objectif est d'inciter des chercheurs à étudier la fiabilité, l'utilité et les applications possibles de cet outil, ainsi que les facteurs susceptibles d'influencer le contenu généré par l'IA. 

Taux de réussite et tests de l'outil

OpenAI a testé l'outil en interne ; les résultats se sont avérés encourageants à certains égards, mais aussi très décevants à d'autres. L'évaluation des images produites par DALL-E 3 a permis d'en identifier correctement 98 %. Par ailleurs, lors de l'analyse d'images non générées par DALL-E 3, le système ne les a attribuées par erreur à DALL-E 3 que dans 0,5 % des cas. 

OpenAI n'a pas détecté de modification d'une image présentant une différence légèrement significative. L'équipe interne a testé l'outil en compressant, recadrant et modifiant la saturation de l'image créée par DALL-E 3 et a constaté que l'outil conservait un bon niveau de performance. 

Défis et limites

Malheureusement, l'outil s'est avéré peu efficace avec les images ayant subi un traitement important. L'article d'OpenAI manque de clarté quant au nombre de modifications apportées dans les cas décrits, et précise que « d'autres modifications peuvent réduire les performances » 

Dans un entretien accordé au Wall Street Journal, Sandhini Agarwal, chercheuse, a indiqué que l'outil était moins performant pour des tâches comme la modification de la teinte d'une image et qu'un abonnement était requis. Comme l'a précisé Mme Agarwal, OpenAI fera appel à des testeurs externes pour remédier à ces problèmes. 

De plus, les tests internes ont également mis en doute la capacité de l'outil à analyser les images créées par des modèles d'IA provenant d'autres entreprises. Dans ce cas, l'outil d'OpenAI ne reconnaissait que 5 % à 10 % des images par rapport aux modèles autres que le sien. De telles modifications apportées aux images, comme des changements de teinte, réduisaient également considérablement son efficacité, a déclaré Agarwal au Journal.

Les images générées par l'IA ne sont pas seulement artificielles ; elles posent également problème en cette année électorale. Des groupes mal intentionnés, tant à l'intérieur qu'à l'extérieur du pays, peuvent facilement utiliser ces photos pour discréditer un candidat ou une cause qu'il défend. Aujourd'hui, avec le développement constant des générateurs d'images par IA, la frontière entre réalité et fiction est plus floue que jamais. 

Adoption par l'industrie

Par ailleurs, OpenAI cherche à ajouter des filigranes aux métadonnées des images générées par l'IA, à mesure que les entreprises deviennent membres de l'User Value Organization (UVG). La norme C2PA, une initiative du secteur technologique, propose des standards techniques permettant d'identifier la source du contenu et d'en garantir l'authenticité grâce au processus de filigranage. Meta, le géant de Facebook, a annoncé en début de mois que son IA serait étiquetée conformément à la norme C2PA dès le mois de mai.