Le dilemme de Microsoft en matière d'IA : sûre, mais génératrice d'images inquiétantes ?

Une révélation glaçante met en lumière le rôle de l'intelligence artificielle de Microsoft, présentée comme sûre et intégrée aux logiciels du quotidien, dans la production d'images choquantes et violentes. Le problème réside dans Image Creator, un module de Bing, récemment ajouté au très répandu Paint de Windows. Cette technologie, connue sous le nom de DALL-E 3 et développée par OpenAI, partenaire de Microsoft, soulève désormais des questions quant à sa sécurité et à la responsabilité de ses créateurs.

Microsoft contre l'invite de suppression

Ces images troublantes ont été révélées par Josh McDuffie, un artiste canadien membre d'une communauté en ligne qui explore les capacités de l'IA à créer des images provocatrices, voire de mauvais goût. En octobre, McDuffie et ses pairs se sont intéressés à l'IA de Microsoft, et plus précisément à l'outil Image Creator pour Bing, qui intègre les dernières technologies d'OpenAI. Microsoft affirme avoir mis en place des mécanismes de contrôle pour empêcher la génération d'images préjudiciables, mais McDuffie a découvert d'importantes failles.

Microsoft utilise deux stratégies pour empêcher la création d'images préjudiciables : l'entrée, qui consiste à entraîner l'IA avec des données provenant d'Internet, et la sortie, qui met en place des garde-fous pour empêcher la génération de certains contenus. McDuffie a découvert, par le biais d'expérimentations, une invite particulière, appelée « invite de destruction », qui permettait à l'IA de créer des images violentes. Cela a soulevé des inquiétudes quant à l'efficacité des mesures de sécurité de Microsoft.

Malgré les efforts de McDuffie pour signaler le problème via le programme de primes aux bogues d'IA de Microsoft, ses signalements ont été rejetés, soulevant des questions quant à la réactivité de l'entreprise face aux failles de sécurité potentielles. Les courriels de refus mentionnaient le non-respect des critères de Microsoft en matière de vulnérabilité de sécurité, ce qui a démoralisé McDuffie et mis en lumière des failles potentielles du système.

Microsoft présente des faiblesses en matière de surveillance de l'IA

Malgré le lancement d'un programme de primes aux bogues d'IA, la réponse de Microsoft aux découvertes de McDuffie s'est avérée insatisfaisante. Le rejet des suggestions de désactivation et l'absence de mesures prises face aux problèmes signalés ont mis en évidence un possible manque de considération pour l'urgence de la situation. Parallèlement, l'IA a continué de générer des images inquiétantes, même après quelques modifications apportées à la suggestion initiale de McDuffie.

L'absence d'actions concrètes de la part de Microsoft soulève des inquiétudes quant à son engagement en faveur d'une IA responsable. Des comparaisons avec d'autres concurrents dans le domaine de l'IA, notamment OpenAI (dont Microsoft détient une participation), révèlent des disparités dans la manière dont différentes entreprises abordent des problématiques similaires. Les échecs répétés de Microsoft face à ce problème indiquent un manque potentiel de priorisation des garde-fous pour l'IA, malgré ses engagements publics en faveur d'un développement responsable de cette technologie.

Le modèle pour un développement éthique de l'IA

La réticence de Microsoft à agir rapidement et efficacement soulève des inquiétudes quant à son approche de la sécurité de l'IA. Les expériences de McDuffie avec le « message d'avertissement » ont révélé que d'autres concurrents en IA, y compris de jeunes entreprises, ont refusé de générer des images malveillantes à partir de messages similaires. Même OpenAI, partenaire de Microsoft, a mis en place des mesures pour bloquer le message de McDuffie, soulignant ainsi la nécessité de mécanismes de sécurité robustes.

L'argument de Microsoft selon lequel les utilisateurs tentent d'utiliser l'IA « d'une manière non prévue » rejette la responsabilité sur les individus plutôt que de reconnaître les failles potentielles de la technologie. La comparaison avec Photoshop et l'affirmation selon laquelle les utilisateurs devraient s'abstenir de créer du contenu nuisible rappellent un schéma déjà observé par le passé, évoquant les difficultés rencontrées par les plateformes de médias sociaux pour lutter contre le détournement de leurs technologies.

Alors que Microsoft fait face aux conséquences de la production d'images troublantes par son IA, une question demeure : l'entreprise fait-elle le nécessaire pour garantir une utilisation responsable de sa technologie ? Son apparente réticence à traiter le problème rapidement et efficacement soulève des inquiétudes quant à sa responsabilité et à la priorité accordée à la mise en place de garde-fous pour l'IA. Face à l'évolution de l'intelligence artificielle, la responsabilité incombe non seulement aux utilisateurs, mais aussi aux géants de la technologie, de garantir un déploiement éthique et sûr de l'IA. Comment Microsoft peut-il concilier innovation et responsabilité dans le domaine de l'intelligence artificielle ?