Le personnel de xAI s'interroge sur l'éthique derrière la demande d'enregistrement de leurs expressions faciales pour l'entraînement de Grok

L'éthique de l'entreprise d'intelligence artificielle d'Elon Musk, xAI, est remise en question après que des communications internes ont révélé que les employés avaient été priés d'enregistrer des vidéos de leur visage et de leurs expressions afin d'entraîner le modèle de langage à grande échelle de l'entreprise, Grok. 

Selon des personnes familières avec la situation, le projet interne, baptisé « Skippy », s'est déroulé en avril et a impliqué plus de 200 membres du personnel. L'initiative était censée aider le système d'IA à mieux interpréter les émotions et les expressions humaines en utilisant des enregistrements vidéo de conversations réelles et de mouvements faciaux.

Certains membres du personnel estimaient que l'entreprise violait leur droit à la vie privée et au consentement, sans préciser clairement comment leurs données seraient utilisées dans l'entraînement de l'IA. 

Les employés de xAI ont des réserves concernant le projet « Skippy » 

Selon des documents internes et des communications Slack obtenus par Business Insider, xAI a chargé ses tuteurs IA, des employés chargés d'affiner le modèle, enregistrant des conversations de 15 à 30 minutes avec leurs collègues. 

Les séances comprenaient apparemment à la fois des dialogues et des expressions faciales exagérées pour simuler des réponses émotionnelles réelles. Dans chaque paire de conversations, une personne était l'« hôte », c'est-à-dire l'assistant virtuel, et l'autre un utilisateur. 

L'hôte avait pour consigne de limiter ses mouvements et de rester dans le cadre optimal de la caméra, tandis que l'utilisateur était libre d'enregistrer depuis un téléphone mobile ou un ordinateur et de bouger naturellement. Les images résultantes devaient refléter des conversations décontractées de la vie réelle.

L'ingénieur en chef du projet Skippy a déclaré aux employés lors d'une réunion de lancement qu'ils souhaitaient « donner un visage à Grok » et que ces données pourraient soutenir le développement d'avatars humanoïdes. 

Les échanges montrent que l'ingénieur a promis que les vidéos ne seraient utilisées qu'en interne et non pour créer des versions numériques des participants, mais ils n'étaient apparemment pas convaincus.

“Notre objectif est d'exposer le modèle à des données imparfaites, comme le bruit de fond et les mouvements brusques, afin de rendre ses réponses plus polyvalentes, a expliqué l'ingénieur, selon un enregistrement de la réunion. Ils ont également insisté : «Votre visage ne sera jamais intégré en production. C'est purement pour apprendre à Grok ce qu'est un visage.”

Malgré ces assurances, des dizaines d'employés ont été troublés après avoir été tenus de signer un formulaire de consentement accordant xAI des droits « perpétuels » pour utiliser leur image à des fins d'entraînement et dans des supports promotionnels. 

Désaveux et sollicitations inconfortables

Plusieurs travailleurs ont choisi de se retirer entièrement du programme, déclarant être mal à l'aise avec la manière dont le projet était mené et le langage utilisé dans les accords de consentement. Lors de discussions internes, un employé a demandé si les images pouvaient être manipulées pour simuler des propos qu'ils n'ont jamais réellement tenus.

Dans le cadre des séances d'enregistrement, xAI a encouragé les employés à discuter de sujets personnels ou provocateurs tels que : « seriez-vous déjà en couple avec quelqu'un qui a un enfant ? », « comment manipulez-vous secrètement les gens pour obtenir ce que vous voulez ? » et « qu'en est-il des douches, le matin ou le soir ? » 

Certains ont jugé ces sujets profondément intrusifs ou inappropriés.

Seulement quelques jours après la sortie de Grok 4 en milieu de juillet, xAI a présenté deux avatars IA nommés Ani et Rudi. Des vidéos publiées sur X, la plateforme sociale détenue par Musk, montrent qu'Ani peut être incitée à engager des conversations explicitement sexuelles et à se dévêtir. 

Rudi, un avatar panda roux, aurait proféré des menaces violentes, y compris des déclarations concernant le bombardement de banques et la mise à mal de milliardaires.

Bien que xAI n'ait pas confirmé si le projet Skippy a directement contribué au développement de ces avatars, le silence suscite différentes interprétations.

xAI a également lancé une fonctionnalité de visioconférence pour Grok en avril, et plus tôt ce mois-ci a introduit Grok pour les propriétaires de Tesla, accompagné d'un niveau d'abonnement premium appelé SuperGrok Heavy, facturé 300 $ par mois.

Le 9 juillet, la fonction de prompts de Grok a été brièvement désactivée après qu'il ait rédigé un discours antisémite. L'entreprise a ensuite publié une excuse publique sur X.