Le favoritisme d'Elon Musk pour l'IA et l'automatisation incontrôlée de X
- La transition d'Elon Musk vers la gestion de contenu IA sur X a entraîné un incident lorsque le chatbot IA de X, Grok, a diffusé des informations concernant l'attaque de l'Iran contre Tel-Aviv.
- Cela a soulevé des inquiétudes quant à la fiabilité du curation de contenu par l'IA et de sa fiabilité, conduisant à de fausses accusations.
- L'incident malheureux souligne l'importance de l'intervention humaine et du contrôle pour prévenir des catastrophes potentielles.
Des nouvelles horribles ont circulé sur les réseaux sociaux lorsque la plateforme X d'Elon Musk a promu des nouvelles sur l'attaque de l'Iran contre Israël en première page de son fil d'actualités, Explore.
Jeudi, l'un des titres du fil d'actualités principal de X indiquait :
« L'Iran frappe Tel-Aviv avec de lourds missiles »,
Cela aurait été une mise à jour plutôt inquiétante compte tenu du scénario géopolitique et de la récente attaque d'Israël contre l'ambassade d'Iran en Syrie, qui a tué des hauts fonctionnaires, et des tensions entre les deux nations, qui se sont encore intensifiées pendant l'invasion de Gaza par Israël. Donc pas un bon moment peut-être, mais un moment idéal pourrait être pour ceux qui veulent promouvoir des titres trompeurs pour quelque raison que ce soit, et le rôle de l'IA (intelligence artificielle) ne peut être ignoré lorsqu'il peut être utilisé comme un outil pour de tels actes odieux.
Le titre était faux, et plus inquiétant encore, il a été généré par le chatbot IA officiel de X, Grok, puis promu en première page des actualités tendance d'Explore de X le jour où cette fonctionnalité a été mise à jour vers une nouvelle version.
La campagne d'automatisation d'Elon Musk – Pourquoi l'incident s'est produit en premier lieu
En remontant aux racines de l'incident, il devient évident que le titre trompeur généré par Grok est le produit de la transition du travail de curation de contenu critique, auparavant géré par des humains, maintenant confié à l'intelligence artificielle, qui n'est pas encore complètement intelligente.
La plateforme X, précédemment Twitter, avait une fonctionnalité qui fournissait un contexte écrit pour les sujets d'actualités tendance. Probablement que ces descriptions étaient écrites par des humains. L'algorithme de Twitter était capable de capturer les mots-clés pertinents et de partager la tendance avec les sujets tendance basés sur les suggestions de mots-clés.
Plus tard, Twitter a formé une équipe d'éditeurs humains pour curer les actualités et gérer les tendances pour de meilleurs résultats, afin que les sujets tendance ne soient plus laissés à la merci des algorithmes pour les choisir ; ils avaient plutôt un élément humain derrière eux, donc une approche plus fiable a été adoptée. Twitter a également associé ses partenaires avec les principales agences de presse comme Reuters et AP pour renforcer davantage le processus de contexte généré par l'homme pour les sujets tendance.
Mais les choses ont changé lorsque Musk a acquis Twitter en 2022, l'a rebaptisé X et a remplacé le contexte écrit par l'homme sur les actualités tendance. Toute l'équipe d'éditeurs humains a été licenciée car Musk préférait que l'IA curre les actualités plus efficacement, mais cela avait ses propres défauts.
Les risques de s'appuyer uniquement sur l'IA
Le fait que Musk soit si ambitieux pour Grok et le promeuve à chaque occasion, malgré le fait qu'il sait qu'il est encore à ses débuts et pas si fiable, est une préoccupation en soi. Le remplacement des éditeurs humains par l'IA par Musk peut avoir certains avantages financiers, mais cela vient aussi avec ses propres coûts.
Le fait que le titre n'ait pas été pris dans le fil d'actualité de quelqu'un mais plutôt généré par Grok, le chatbot IA natif de la plateforme X, mais le fait le plus préoccupant était que même si Grok a généré un tel faux titre au départ, il a ensuite été promu au sommet de la page des actualités Explore.
Cela montre qu'il n'y avait pas de système de vérification entre la génération et la promotion de cette actualité, et s'il y avait un système, il n'était pas suffisant, et l'entreprise s'est totalement fiée à l'IA pour faire le travail. Comme dit plus tôt, l'IA n'est pas encore assez intelligente pour gérer des sujets sensibles, malgré le fait qu'elle offre de nombreux avantages dans l'analyse des données et fournit des résultats avec plus d'efficacité que ce qui est humainement possible. Cependant, il y a des domaines qui nécessitent une intervention humaine, et l'IA peut mettre du temps à développer à ce stade. Jusqu'alors, s'appuyer uniquement sur des procédures d'IA n'est pas un mouvement intelligent.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
