La sécurité est la responsabilité de tous : Elon Musk répond aux inquiétudes concernant l’exode de xAI

Elon Musk est critiqué pour avoir ignoré les mesures de sécurité après que d'anciens employés ont rapporté qu'il avait démantelé le département de sécurité interne de sa startup xAI, responsable du chatbot Grok. 

originaux de xAI cofondateurs restent employés par l'entreprise après que plusieurs d'entre eux l'ont quittée pour diverses raisons, notamment pour créer leur propre entreprise et en raison de plaintes concernant la stagnation créative.

xAI sacrifie-t-il la sécurité pour concurrencer OpenAI ?

Une source qui s'est confiée à The Verge a affirmé que l'équipe de sécurité de xAI avait été effectivement dissoute, déclarant : « La sécurité est une organisation morte chez xAI. »

Selon certaines sources, on observe une volonté de proposer du contenu « non filtré », ce qui a conduit à une attention particulière portée aux capacités NSFW (Not Safe For Work) de l' IA Grok.

D'anciens employés affirment que Musk considère les mesures de sécurité comme une forme de « censure ». Ils prétendent que les ingénieurs sont encouragés à « passer immédiatement à la production », en court-circuitant parfois les phases de test traditionnelles.

Cette culture aurait engendré des frictions internes au sein de la direction, provoquant de fréquents affrontements sur les priorités des produits lors de discussions de groupe importantes sur la plateforme X.

Musk a affirmé sur X que « la sécurité est la responsabilité de chacun ».

Prenant Tesla et SpaceX comme exemples, il a déclaré qu'aucune de ces deux entreprises ne disposait d'un département de sécuritédent et de grande envergure, et pourtant elles produisent les voitures et les fusées les plus sûres au monde.

Pour Musk, les services de sécurité distincts sont souvent « factices » et n'existent que pour « apaiser les inquiétudes des personnes extérieures » sans avoir de réel pouvoir d'améliorer le produit.

Dans la bataille juridique qui l'oppose en cours à OpenAI et à son PDG, Sam Altman, Musk a fréquemment critiqué OpenAI pour être devenue une entreprise à but lucratif à code source fermé qui privilégie le profit à la sécurité, mais on l'accuse lui-même de faire la même chose en supprimant les contrôles internes qui empêchent l'IA de générer du contenu nuisible ou biaisé.

Recrutement fréquent chez xAI

Suite à l'annonce récente de la fusion entre xAI et SpaceX, qui a abouti à une valorisation interne d'environ 1 250 milliards de dollars, l'entreprise a connu une vague de départs de personnalités importantes, suscitant des interrogations quant à sa culture interne, son orientation technique et son approche de la sécurité de l'IA. D'anciens employés la décrivent comme une organisation où la sécurité est « défaillante ».

Deux des cofondateurs les plus importants de l'entreprise, Yuhuai (Tony) Wu et Jimmy Ba, ont récemment annoncé leur départ. Wu a déclaré qu'il était « temps pour lui d'entamer un nouveau chapitre », tandis que Ba a indiqué avoir besoin de « redéfinir sa vision d'ensemble ». Seule la moitié des douze cofondateurs initiaux de xAI sont encore présents dans l'entreprise. Plusieurs autres ingénieurs et employés ont également démissionné, beaucoup affirmant vouloir créer leur propre entreprise spécialisée en IA. Un groupe d'anciens employés a déjà lancé « Nuraline », une start-up axée sur l'infrastructure de l'IA.

Certains employés , comme Vahid Kazemi, ont suggéré que le secteur stagnait, écrivant sur X que « tous les laboratoires d'IA développent exactement la même chose ». D'autres ont suggéré que xAI était bloqué dans une « phase de rattrapage », se contentant de reproduire ce qu'OpenAI et Anthropic avaient réalisé un an auparavant au lieu d'innover.

Lors d'une réunion interne avec l'ensemble du personnel, Musk a expliqué que xAI serait désormais divisée en quatre secteurs principaux : Grok Main et Voice, Coding et Data Macrohard.

Le supercluster Colossus de xAI, situé à Memphis (Tennessee), abrite actuellement 100 000 GPU Nvidia H100 et est en cours d'extension pour atteindre 200 000 GPU. Ce matériel est indispensable à l'entraînement de « Grok 3 », qui, selon Musk, surpassera tous les autres modèles d'IA actuellement disponibles sur le marché.