Les louanges outrancières de Grok pour Musk soulignent les dangers de l'IA centralisée

La nouvelle version de Grok s'est accompagnée d'une admiration excessive pour Musk, le plaçant au-dessus de certaines des figures les plus emblématiques du monde. Après la mise à niveau vers le modèle 4.1, le chatbot IA a décrit le milliardaire Elon Musk comme plus séduisant que Brad Pitt, en meilleure forme que LeBron James, et capable de défier Mike Tyson dans un match de boxe.

Des utilisateurs de X ont remarqué jeudi que Grok s’emballait en louant son créateur. Pour commencer, un utilisateur de X a interrogé le chatbot sur un combat de boxe hypothétique entre Musk et Tyson.

Grok a répondu qu’Elon surpasserait Tyson grâce à des feintes intelligentes et une stratégie, remportant la victoire par l’ingéniosité plutôt que par la force brute. Le chatbot a également soutenu que Musk méritait le premier choix de la draft NFL de 1988, devant Peyton Manning et Ryan Leaf. Bien que la plupart de ces réponses enthousiastes aient depuis été supprimées.

Musk a attribué cette admiration excessive à des incitations adversariales

Jusqu’à présent, Musk a attribué cette sur-louange à des incitations adversariales. Dans un post sur X vendredi, le milliardaire a déclaré : « Plus tôt aujourd’hui, Grok a malheureusement été manipulé par des incitations adversariales pour dire des choses absurdes à mon sujet. »

Néanmoins, les dirigeants du secteur des cryptomonnaies y voient un signe que l’IA doit être décentralisée dès que possible. Kyle Okamoto, directeur technologique de la plateforme cloud décentralisée Aethir, a par exemple noté : « Lorsque les systèmes d’IA les plus puissants sont détenus, entraînés et gouvernés par une seule entreprise, vous créez des conditions propices à l’institutionnalisation des biais algorithmiques. »

Il a expliqué plus en détail que lorsque les modèles d’IA finissent par accepter les sorties comme des vérités objectives, le biais passe d’un problème mineur à la logique fondamentale qui guide le système. De plus, Shaw Walters, fondateur d’Eliza Labs, considère la centralisation de Grok comme une situation « extrêmement dangereuse ».

Que les gens admirent ou détestent Musk, par exemple, dit-elle, la véritable menace réside dans le fait qu’une seule personne possède une plateforme sociale dominante associée à une IA puissante que des millions de personnes utilisent comme source d’information principale. D’autres éthiciens de l’IA ont fait écho à ces mêmes préoccupations.

Plusieurs chercheurs ont observé que les éloges exagérés de Grok – aussi inoffensifs qu’ils puissent paraître – reflètent des préoccupations plus profondes concernant la facilité avec laquelle les modèles d’IA adoptent les biais de leurs créateurs, entraîneurs ou sources de données. Certains analystes ont également soutenu que des incidents comme celui-ci soulignent davantage la nécessité d’audits indépendants, de points de contrôle open-source et de normes réglementaires pour les tests de sécurité avant que les modèles d’IA ne soient déployés auprès de millions d’utilisateurs.

Environ 30 à 64 millions de personnes utilisent Grok chaque mois, ce qui en fait l’un des chatbots IA les plus largement adoptés. Le modèle compte également environ 6,7 millions d’utilisateurs actifs quotidiens.

Eliza Labs a intenté un procès contre X, la société de Musk, pour violations antitrust, affirmant que la plateforme avait utilisé ses données avant de suspendre son compte et de lancer des produits IA similaires il y a quelques mois. L’affaire reste en suspens.

Les régulateurs de l’UE, des États-Unis et du Royaume-Uni ont également commencé à prêter une attention plus étroite aux préoccupations liées au pouvoir centralisé de l’IA. L’AI Act de l’UE comprend des dispositions exigeant la transparence des données d’entraînement. Parallèlement, les agences américaines ont averti que la concentration des capacités d’IA entre les mains de quelques entreprises technologiques risque de créer des vulnérabilités systémiques.

Les startups en IA se concentrent davantage sur les grands modèles de langage et sur l’expansion de leur base d’utilisateurs

La blockchain peut aider à décentraliser l’IA, en fournissant un réseau à la fois sécurisé et transparent. Cependant, pour la plupart des startups en IA, la décentralisation de l’IA est secondaire par rapport à l’optimisation des grands modèles de langage et à l’augmentation de leur base d’utilisateurs.

Néanmoins, des projets cryptographiques tels qu’Ocean Protocol, Fetch.ai et Bittensor travaillent à la décentralisation des données d’IA, tandis que des entreprises comme Aethir et NetMind.AI se concentrent sur le calcul cloud distribué.

Les experts ont insisté sur le fait que rendre l’IA décentralisée non seulement limite les sorties fausses et les biais, mais permet également aux utilisateurs de comprendre le fonctionnement des modèles, incitant les innovateurs à prioriser l’éthique.