Les géants de la Silicon Valley sacrifient la sécurité de l'IA au profit du gain commercial de leurs produits

La Silicon Valley était le berceau des plus grands experts mondiaux en intelligence artificielle, venus y mener des recherches novatrices. Cependant, les experts avertissent que la situation a évolué et que, désormais, l'IA est avant tout axée sur le produit. Les chercheurs et experts en IA estiment également que, depuis la sortie de ChatGPT par OpenAI fin 2022, l'industrie technologique a privilégié la commercialisation au détriment de la recherche, en développant des produits d'IA destinés au grand public.

Les analystes de Morgan Stanley prévoient que le secteur de l'IA pourrait atteindre 1 000 milliards de dollars de revenus annuels d'ici 2028. Les experts du secteur se disent préoccupés par la sécurité, alors que les principaux acteurs développent une intelligence artificielle générale (IAG).

La recherche en IA se recentre sur les profits, la Silicon Valley privilégiant les produits à la sécurité

Geoffrey Hinton affirme que les entreprises spécialisées en IA devraient être contraintes de consacrer un tiers de leurs ressources informatiques à la recherche en matière de sécurité, car l'IA deviendra plus intelligente que nous dans les 20 prochaines années et nous devons commencer à nous préoccuper des conséquences. pic.twitter.com/ocT3Scmyxg

– Tsarathoustra (@tsarnick) 25 octobre 2024

OpenAI, fondée en 2015 en tant que laboratoire de recherche à but non lucratif, est actuellement en pleine transformation en une entreprise à but lucratif, selon son PDG, Sam Altman. Jan Leike, ancienne responsable de l'alignement chez OpenAI, dont l'équipe se concentrait sur la sécurité de l'IA, a démissionné l'année dernière et a déclaré qu'au cours des dernières années, « la culture et les processus de sécurité ont été relégués au second plan au profit de produits attrayants ».

James White, directeur technique de la start-up de cybersécurité Calypso, a affirmé que les entreprises technologiques prennent de plus en plus de raccourcis lorsqu'il s'agit de tester rigoureusement leurs modèles d'IA avant leur mise à disposition du public. Il a notamment souligné que les nouveaux modèles d'IA privilégient la qualité, c'est-à-dire de meilleures réponses des chatbots, au détriment de la sécurité. 

« Les modèles s'améliorent, mais ils sont aussi plus susceptibles d'exceller dans les mauvaises pratiques. Il est plus facile de les tromper pour qu'ils fassent de mauvaises choses. »

– James White, directeur technique de Calypso.

En mars, Google a semblé privilégier son produit à la sécurité après la sortie de son dernier modèle d'IA, Gemini 2.5, présenté comme son modèle le plus intelligent. L'entreprise a omis de publier la fiche technique de Gemini 2.5 pendant des semaines, ne partageant ainsi aucune information sur son fonctionnement, ses limitations et ses dangers potentiels lors de sa mise sur le marché.

L'entreprise a reconnu le 2 avril qu'elle évalue ses modèles les plus avancés afin d'identifier d'éventuelles fonctionnalités dangereuses avant leur commercialisation. Google a ensuite mis à jour son article de blog en supprimant les mots « avant leur commercialisation ».

L'entreprise a publié une fiche technique incomplète le 16 avril et l'a mise à jour le 28 avril, plus d'un mois après la sortie du modèle d'IA, pour inclure des informations sur les évaluations des capacités dangereuses de Gemini2.5.

Les entreprises technologiques spécialisées en IA passent de la recherche aux produits générateurs de revenus

D'anciens employés de Meta ont déclaré ne pas avoir été surpris lorsque Joelle Pineau, vice-présidente de Metadent directrice de la division FAIR de l'entreprise, a annoncé le mois dernier son départ le 30 mai. Ils ont indiqué que, selon eux, cela confirmait la volonté de l'entreprise de se détourner de la recherche en IA pour se concentrer sur le développement de produits pratiques.

Pineau dirige FAIR depuis 2023 et, selon des employés de Meta, de petites équipes de recherche pourraient travailler sur diverses technologies de pointe, dont le succès reste incertain. Ce changement a débuté lorsque l'entreprise technologique a licencié 21 000 employés, soit près d'un quart de ses effectifs, fin 2022. D'anciens employés au fait de la situation ont indiqué que, dans le cadre des mesures de réduction des coûts, les chercheurs de FAIR ont été incités à collaborer plus étroitement avec les équipes produit.

Selon deux sources proches du dossier, Kim Hazelwood, directrice de FAIR, a quitté l'entreprise en début d'année, dans le cadre du plan de Meta visant à réduire ses effectifs de 5 %. Ces mêmes sources ont indiqué que le lancement de ChatGPT par OpenAI avait incité Meta à investir davantage de ressources dans les grands modèles de langage (LLM).

Ces personnes ont également révélé que Chris Cox, directeur des produits chez Meta, supervisait FAIR afin de faciliter la collaboration entre la recherche et le groupe GenAI, axé sur les produits. Elles ont ajouté que, sous la direction de Cox, GenAI accaparait davantage de ressources informatiques et de personnel de FAIR en raison de son statut plus élevé au sein de l'entreprise. 

Le mois dernier, Meta a publié des outils de sécurité destinés aux développeurs pour la création d'applications intégrant les modèles d'IA Llama 4 de l'entreprise. Meta a indiqué que ces outils contribuent à réduire les risques de fuite accidentelle d'informations sensibles ou de production de contenu malveillant par Llama 4.