Les conseillers de Trump dans la Silicon Valley mènent une guerre contre la censure de l'IA

Des entrepreneurs de la Silicon Valley, dont David Sacks, Elon Musk et Marc Andreessen, qui conseillent désormais Trump en matière de technologie, ont exprimé leurs inquiétudes quant à la menace de censure de l'IA par les géants du numérique. Ces experts s'accordaient globalement sur la nécessité d'un développement et d'une adoption rapides d'une IA fiable à travers les États-Unis.

Ce trio pourrait faire des réponses des chatbots un nouveau champ de bataille pour les conservateurs dans leur « guerre culturelle » contre les géants de la tech. Les entreprises spécialisées en IA peuvent contrôler la manière dont les chatbots répondent afin de se conformer à certaines idéologies politiques ou d'imposer leur modération de contenu biaisée. 

Obtenir des réponses correctes en matière d'IA reste un défi en constante évolution

Existe-t-il un moyen d'évaluer les modèles d'IA en fonction de leur fiabilité ? Appelons cela l'indice Galilée. Vos suggestions sont les bienvenues. https://t.co/fJzwOH3JJa

— David Sacks (@DavidSacks) 12 décembre 2024

D'après les conseillers technologiques de Trump, fournir des réponses justes à l'IA sur des sujets controversés et des événements d'actualité en direct est un « objectif en constante évolution ». Les conservateurs ont critiqué à plusieurs reprises les géants de la tech pour avoir cédé à la censure approuvée par le gouvernement, même si certains dirigeants du secteur avaient commencé à modérer leurs positions publiquement. 

Mark Zuckerberg, PDG de Meta, a présenté ses excuses au Congrès avant les élections de 2024 pour avoir cédé aux pressions de l'administration Biden concernant la modération des contenus liés à la COVID-19. Il a reconnu avoir commis une erreur politique vieille de 20 ans en assumant une responsabilité excessive pour des problèmes indépendants de la volonté de Meta. Zuckerberg a toutefois promis de ne plus jamais reproduire ces erreurs. 

Sacks a également critiqué OpenAI et Google pour avoir forcé les chatbots d'IA à être politiquement corrects, affirmant que l'une des premières préoccupations concernant ChatGPT était qu'il était programmé pour être « woke ». Il a ajouté que ChatGPT ne donnait pas de réponses véridiques, soulignant que la censure était intégrée aux réponses. 

« Je pense que ce qui est important dans l'entraînement de l'IA, c'est de s'assurer qu'elle soit aussi honnête que possible et aussi curieuse que possible, car il est important qu'elle apprenne à être honnête même si cette vérité est impopulaire. »

– Elon Musk, PDG de Tesla Motors

Andreessen, cofondateur d'a16z, estime que la censure par l'IA pourrait être mille fois pire que celle des réseaux sociaux. Il ajoute que confier le contrôle de l'ensemble de la vie à une IA programmée pour mentir serait le moyen idéal de créer le monde dystopique par excellence.

Sacks a clairement indiqué qu'il se concentrait sur la « véracité de l'IA »

Sacks, conseiller de Trump, suggère l'« indice Galilée » pour évaluer la véracité de l'IA

Les conseillers technologiques de Trump ont suggéré que des agences spécialisées pourraient mener des enquêtes sur la fiabilité de l'IA. Cependant, on ignore si l'administration Trump dispose des moyens et des options nécessaires en la matière. Sacks a proposé l'indice Galileo pour évaluer la fiabilité des modèles d'IA. 

Musk a déclaré qu'il lancerait un projet appelé « TruthGPT », une IA en quête de vérité qui tenterait de comprendre la nature de l'univers.

Sacks a salué le lancement de Grok par Musk, affirmant que son existence permettrait, à tout le moins, de garantir l'intégrité d'OpenAI et de ChatGPT. Andreessen a également ajouté qu'avec les fichiers Twitter, Musk prenait les mesures nécessaires à grande échelle. 

Andreessen a souligné que les Américains doivent comprendre les liens étroits entre pressions gouvernementales et censure. Il a également fait remarquer que des conséquences doivent être appliquées.

Des utilisateurs ont récemment constaté que ChatGPT refusait de répondre aux questions concernant certains noms, tandis qu'OpenAI a admis que certains noms déclenchaient des mécanismes internes de protection de la vie privée. Presque tous les outils d'IA, à l'exception de Grok et Perplexity, ont refusé de répondre aux questions relatives aux résultats de l'élection de 2024.