Le personnel de xAI s'interroge sur l'éthique des demandes d'enregistrement de leurs expressions faciales lors de la formation Grok

L'éthique de xAI, la société d'intelligence artificielle d'Elon Musk, est remise en question après que des communications internes ont révélé que les employés étaient invités à enregistrer des vidéos de leurs visages et de leurs expressions pour entraîner Grok, le vaste modèle de langage de l'entreprise. 

D'après des sources proches du dossier, ce projet interne, baptisé « Skippy », s'est déroulé en avril et a mobilisé plus de 200 collaborateurs. L'objectif était d'améliorer la capacité du système d'IA à interpréter les émotions et les expressions humaines grâce à l'analyse d'enregistrements vidéo de conversations réelles et de mouvements faciaux.

Certains membres du personnel estimaient que l'entreprise violait leur droit à la vie privée et au consentement, et n'indiquait pas clairement comment leurs données seraient utilisées pour l'entraînement de l'IA. 

Les employés de xAI rencontrent des problèmes avec le projet « Skippy » 

D'après des documents internes et des communications Slack obtenus par Business Insider, xAI a chargé ses tuteurs en IA, employés chargés d'affiner le modèle, d'enregistrer des conversations de 15 à 30 minutes avec leurs collègues. 

Les séances comportaient, semble-t-il, des dialogues et des expressions faciales exagérées afin de simuler des réactions émotionnelles réalistes. Dans chaque paire de conversations, une personne jouait le rôle d’« hôte » ou d’assistant virtuel, tandis que l’autre était un utilisateur. 

L'animateur avait pour consigne de limiter ses mouvements et de rester dans le champ de vision optimal de la caméra, tandis que l'utilisateur était libre de filmer depuis un téléphone portable ou un ordinateur et de se déplacer naturellement. Les images obtenues étaient censées refléter des conversations informelles et authentiques.

L'ingénieur principal du projet Skippy a déclaré aux employés lors d'une réunion de lancement qu'ils souhaitaient « donner un visage à Grok » et que ces données pourraient soutenir le développement d'avatars à l'apparence humaine. 

Les échanges montrent que l'ingénieur avait promis que les vidéos ne seraient utilisées qu'en interne et non pour créer des versions numériques des participants, mais ils n'auraient apparemment pas été convaincus.

«Notre objectif est d'exposer le modèle à des données imparfaites, comme du bruit de fond et des mouvements brusques, afin de diversifier ses réponses», a expliqué l'ingénieur, selon l'enregistrement de la réunion. Il a également insisté : « Votre visage ne sera jamais utilisé en production. Il sert uniquement à apprendre à Grok ce qu'est un visage. »

Malgré ces assurances, des dizaines d'employés ont été perturbés après avoir été contraints de signer un formulaire de consentement accordant à xAI des droits « perpétuels » d'utiliser leur image à des fins de formation et dans des supports promotionnels. 

Possibilités de retrait et messages intrusifs

Plusieurs employés ont refusé de participer au programme, se disant mal à l'aise avec le projet et le langage utilisé dans les accords de consentement. Lors de discussions internes, un employé a demandé si les enregistrements pouvaient être manipulés pour faire croire qu'il disait des choses qu'il n'avait jamais dites.

Dans le cadre des séances d'enregistrement, xAI encourageait les employés à aborder des sujets personnels ou provocateurs tels que : « Sortiriez-vous avec quelqu'un qui a un enfant ? », « Comment manipulez-vous secrètement les gens pour obtenir ce que vous voulez ? » et « Et les douches, matin ou soir ? » 

Certains ont jugé les sujets abordés profondément intrusifs ou inappropriés.

Quelques jours seulement après de Grok 4 à la mi-juillet, xAI a dévoilé deux avatars IA nommés Ani et Rudi. Des vidéos publiées sur X, la plateforme sociale appartenant à Musk, montrent qu'Ani peut être incitée à avoir des conversations à caractère sexuel et à se déshabiller. 

Rudi, un avatar de panda roux, aurait proféré des menaces violentes, notamment des déclarations concernant des attentats à la bombe contre des banques et des attaques contre des milliardaires.

Bien que xAI n'ait pas confirmé si le projet Skippy a directement contribué au développement de ces avatars, ce silence donne lieu à différentes interprétations.

xAI a également déployé une fonctionnalité de chat vidéo pour Grok en avril, et a lancé Grok pour les propriétaires de Tesla, ainsi qu'un abonnement premium appelé SuperGrok Heavy, au prix de 300 $ par mois.

Le 9 juillet, la fonctionnalité de prompts de Grok a été brièvement désactivée après la publication d'un message antisémite. L'entreprise a ensuite présenté des excuses publiques sur X.