Le favoritisme d'Elon Musk envers l'IA et l'automatisation incontrôlée de X

Une nouvelle terrifiante a circulé sur les réseaux sociaux lorsque la plateforme X d'Elon Musk a mis en avant, sur la page d'accueil de son fil d'actualités « Explorer », des informations concernant une attaque iranienne contre Israël.

Jeudi, l'un des titres du fil d'actualité principal de X indiquait :

« L’Iran frappe Tel Aviv avec des missiles lourds »

Cette information aurait été plutôt inquiétante compte tenu du contexte géopolitique et de la récente attaque israélienne contre l'ambassade iranienne en Syrie, qui a coûté la vie à de hauts responsables, ainsi que des tensions entre les deux pays, exacerbées par l'invasion israélienne de Gaza. Le moment est donc mal choisi, mais il pourrait s'avérer idéal pour ceux qui souhaitent diffuser des titres trompeurs, quelles que soient leurs motivations. Le rôle de l'intelligence artificielle ne saurait être ignoré lorsqu'elle est utilisée comme un outil pour commettre de tels actes odieux. 

Le titre était faux et, plus inquiétant encore, il avait été généré par Grok, le chatbot IA officiel de X, puis promu en première page des actualités tendances de la section Explorer de X le jour même de la mise à jour de cette fonctionnalité.

La politique d'automatisation d'Elon Musk : pourquoi cetdent s'est-il produit ?

En Tracaux origines de l'dent, il devient évident que le titre trompeur généré par Grok est apparu comme un produit de la transition du travail de curation de contenu critique, auparavant effectué par des humains, vers une intelligence artificielle qui n'est pas encore totalement intelligente.

La plateforme X, anciennement Twitter, proposait une fonctionnalité fournissant un contexte écrit aux sujets d'actualité populaires. Ces descriptions étaient probablement rédigées par des humains. L'algorithme de Twitter était capable de repérer les mots-clés pertinents et de partager la tendance avec les sujets populaires en fonction des suggestions de mots-clés.

Par la suite, Twitter a constitué une équipe de rédacteurs humains pour sélectionner les actualités et gérer les tendances afin d'obtenir de meilleurs résultats. Ainsi, les sujets tendance ne dépendaient plus des algorithmes ; une intervention humaine était désormais intégrée, garantissant une approche plus fiable. Twitter a également noué des partenariats avec des agences de presse de premier plan comme Reuters et AP afin de renforcer la contextualisation humaine des sujets tendance.

Mais tout a changé lorsque Musk a racheté Twitter en 2022, l'a rebaptisé X et a remplacé les textes rédigés par des humains dans les actualités populaires. Toute l'équipe de rédacteurs humains a été licenciée, Musk préférant l'IA pour une curation plus efficace, même si cette dernière présentait ses propres failles. 

Les risques liés au recours exclusif à l'IA

Le fait que Musk affiche une telle ambition pour Grok et qu'il en fasse la promotion à la moindre occasion, tout en sachant que le service est encore à ses débuts et peu fiable, est en soi préoccupant. Remplacer les correcteurs humains par une IA peut certes présenter des avantages financiers, mais cela comporte aussi des inconvénients.

Le fait que le titre ne provienne pas du flux d'un utilisateur mais ait été généré par Grok, le chatbot IA natif de la plateforme X, est préoccupant. Mais le plus inquiétant est que, même si Grok a généré un tel titre mensonger, il a ensuite été mis en avant en haut de la page d'actualités Explorer. 

Cela démontre l'absence de tout système de contrôle entre la création et la diffusion de cette information. S'il existait un système, il était manifestement insuffisant, et l'entreprise s'est entièrement reposée sur l'IA. Comme mentionné précédemment, l'IA n'est pas encore suffisamment performante pour traiter des sujets sensibles, malgré ses nombreux atouts en matière d'analyse de données et sa capacité à fournir des résultats plus efficacement que l'humain. L'intervention humaine reste indispensable dans certains domaines, et l'IA mettra probablement du temps à atteindre ce niveau de développement. En attendant, s'appuyer exclusivement sur l'IA n'est pas une stratégie judicieuse.