L'outil de détection d'images d'OpenAI montre des résultats prometteurs mais fait face à des défis
- OpenAI a lancé un outil capable de repérer les images générées par l'IA dans le but de relever le défi des menaces liées aux deepfakes.
- Le détecteur identifie 98 % des images du modèle DALL-E 3, mais échoue à détecter celles qui ont été modifiées.
- OpenAI prévoit d'améliorer l'outil en menant des expériences et en coordonnant ses efforts avec des chercheurs externes.
Les images générées par l'IA peuvent vous tromper en vous faisant percevoir du contenu factice comme étant original. C'est pourquoi OpenAI, le développeur de ChatGPT, a créé un outil qui peut déterminer si une image provient de DALL-E 3, l'algorithme de génération d'images qu'ils ont développé.
Mardi, OpenAI a donné aux utilisateurs la première chance d'essayer un outil de détection d'images composé de modèles de base et ajustés. L'objectif est d'engager des chercheurs auto-performants pour examiner l'appréhension, l'utilité, les façons dont il pourrait être appliqué et les facteurs qui pourraient causer du contenu généré par l'IA.
Taux de réussite de l'outil et tests
OpenAI a testé l'outil en interne, et dans certains aspects, les résultats ont été encourageants, tandis que dans d'autres, ils ont été très décevants. L'évaluation des images produites par DALL-E 3 a permis de les identifier correctement à 98 %. De plus, lors de l'analyse d'images non créées par DALL-E 3, le système les attribuait erronement à DALL-E 3 seulement 0,5 % du temps.
OpenAI n'a pas trouvé que la modification d'une image avec une différence légèrement significative affectait les résultats. L'équipe interne a testé l'outil en compressant, recadrant et introduisant des changements de saturation dans l'image créée par DALL-E 3 et a observé que l'outil était toujours capable d'atteindre un bon niveau de succès.
Défis et limites
Malheureusement, l'outil n'était pas très efficace avec les images qui avaient été traitées de manière extensive. Le libellé de cet article par OpenAI n'est pas clair sur le nombre de modifications apportées dans les cas qu'ils décrivent, et ils disent que « d'autres modifications peuvent réduire les performances ».
Dans une interview avec The Wall Street Journal, Sandhini Agarwal, une chercheuse, a déclaré que l'outil était moins efficace dans des situations telles que le changement de teinte de l'image et qu'un abonnement est requis. Comme l'a mentionné Agarwal, afin de faire face à ce type de problèmes, OpenAI fera appel à des testeurs externes au système.
De plus, les tests internes ont également remis en question la capacité de l'outil à analyser les images créées avec des modèles IA d'autres entreprises. Dans de telles situations, l'outil d'OpenAI ne pouvait reconnaître que 5 % ou 10 % des images par rapport à des modèles autres que le sien. De telles modifications dans de telles images, comme les changements de teinte, ont également considérablement diminué l'efficacité, a déclaré Agarwal au Journal.
Les images créées par l'IA ne sont pas seulement artificielles, mais posent également des problèmes cette année électorale. Des groupes lésés, tant à l'intérieur qu'à l'extérieur d'un pays, peuvent facilement employer de telles photos pour ternir l'image d'un politicien aspirant ou d'une cause défendue. De nos jours, alors que les générateurs d'images IA continuent de se développer, la ligne entre réalité et fantaisie est plus difficile à distinguer que jamais.
Adoption par l'industrie
D'un autre côté, OpenAI cherche à ajouter des filigranes aux métadonnées des images IA à mesure que les entreprises rejoignent l'Organisation de la Valeur Utilisateur (UVG). Le C2PA fait partie d'une initiative de l'industrie technologique qui comprend des normes techniques pour révéler la source du contenu et son authenticité dans le processus connu sous le nom de filigranage. Le géant Facebook Meta a déclaré plus tôt ce mois-ci que son IA serait étiquetée comme telle selon la norme C2PA à partir de mai.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
