Le dilemme de l'IA de Microsoft – Sûre, mais créant des images troublantes ?

Dans une révélation glaçante, l'intelligence artificielle de Microsoft, présentée comme sûre et intégrée dans les logiciels quotidiens, est sous le feu des critiques pour la génération d'images grotesques et violentes. La préoccupation porte sur Image Creator, une partie du Bing de Microsoft, récemment ajoutée au logiciel Paint largement utilisé de Windows. La technologie, connue sous le nom de DALL-E 3 du partenaire de Microsoft, OpenAI, fait maintenant l'objet de questions sur sa sécurité et la responsabilité de ses créateurs.

Microsoft contre le « prompt de meurtre »

Les images troublantes ont été révélées par Josh McDuffie, un artiste canadien impliqué dans une communauté en ligne qui explore les capacités de l'IA à créer des images provocantes et parfois déplacées. En octobre, McDuffie et ses pairs se sont concentrés sur l'IA de Microsoft, spécifiquement l'Image Creator pour Bing, intégrant la dernière technologie d'OpenAI. Microsoft affirme disposer de contrôles pour empêcher la génération d'images nuisibles, mais McDuffie a trouvé des failles significatives.

Microsoft met en œuvre deux stratégies pour empêcher la création d'images nuisibles : l'entrée, qui consiste à entraîner l'IA avec des données issues d'Internet, et la sortie, qui implique la mise en place de garde-fous pour empêcher la génération de contenus spécifiques. McDuffie a découvert, par l'expérimentation, une invite de commande particulière, qualifiée d'« invite de suppression » (kill prompt), qui permettait à l'IA de créer des images violentes. Cela a suscité des inquiétudes quant à l'efficacité des mesures de sécurité de Microsoft.

Malgré les efforts de McDuffie pour attirer l'attention sur le problème via le programme de prime pour bogues d'IA de Microsoft, ses soumissions ont été rejetées, soulevant des questions sur la réactivité de l'entreprise face aux vulnérabilités de sécurité potentielles. Les e-mails de rejet invoquaient l'absence de conformité aux exigences de Microsoft pour une vulnérabilité de sécurité, laissant McDuffie démoralisé et mettant en lumière d'éventuelles failles du système.

Microsoft fait défaut dans la supervision de l'IA

Malgré le lancement d'un programme de prime pour bogues d'IA, la réponse de Microsoft aux découvertes de McDuffie a été jugée insatisfaisante. Le rejet des soumissions concernant l'« invite de suppression » et le manque d'action sur les préoccupations signalées soulignent un mépris potentiel pour l'urgence de la question. Parallèlement, l'IA a continué à générer des images troublantes, même après que certaines modifications aient été apportées à l'invite originale de McDuffie.

Le manque d'actions concrètes de Microsoft suscite des inquiétudes quant à l'engagement de l'entreprise envers une IA responsable. Les comparaisons avec d'autres concurrents de l'IA, y compris OpenAI, partiellement détenu par Microsoft, révèlent des disparités dans la manière dont différentes entreprises abordent des problèmes similaires. Les échecs répétés de Microsoft à résoudre ce problème signalent un éventuel manque de priorité accordée aux garde-fous de l'IA, malgré les engagements publics en faveur d'un développement responsable de l'IA.

Le modèle d'un développement éthique de l'IA

La réticence de Microsoft à agir rapidement et efficacement suggère un signal d'alarme dans l'approche de l'entreprise en matière de sécurité de l'IA. Les expériences de McDuffie avec l'« invite de suppression » ont révélé que d'autres concurrents de l'IA, y compris de petites startups, refusaient de générer des images nuisibles basées sur des invites similaires. Même OpenAI, partenaire de Microsoft, a mis en place des mesures pour bloquer l'invite de McDuffie, soulignant la nécessité de mécanismes de sécurité robustes.

L'argument de Microsoft selon lequel les utilisateurs tentent d'utiliser l'IA « de manière non prévue » déplace la responsabilité sur les individus plutôt que de reconnaître d'éventuelles failles dans la technologie. La comparaison avec Photoshop et l'affirmation selon laquelle les utilisateurs devraient s'abstenir de créer du contenu nuisible font écho à un schéma observé par le passé, rappelant les plateformes de réseaux sociaux luttant pour remédier à la mauvaise utilisation de leur technologie.

Alors que Microsoft fait face aux conséquences de son IA générant des images troublantes, la question persiste : la compagnie fait-elle assez pour garantir l'utilisation responsable de sa technologie ? La réticence apparente à aborder le problème rapidement et efficacement soulève des préoccupations quant à la responsabilité et à la priorisation des garde-fous de l'IA. Alors que la société navigue dans le paysage évolutif de l'intelligence artificielle, la responsabilité incombe non seulement aux utilisateurs, mais aussi aux géants de la technologie pour garantir le déploiement éthique et sûr de l'IA. Comment Microsoft peut-il combler le fossé entre innovation et responsabilité dans le domaine de l'intelligence artificielle ?