OpenAI a dû bloquer plus de 250 000 demandes d'images de candidats à ladentaméricaine sur ChatGPT

OpenAI a confirmé que son outil d'IA populaire, ChatGPT, a bloqué un nombre stupéfiant de plus de 250 000 requêtes visant à générer des images des principaux candidats à ladentaméricaine de 2024.

Les utilisateurs ont essayé à maintes reprises d'obtenir de ChatGPT qu'il produise des images dudentélu Donald Trump, de la vice-dent Kamala Harris, dudent actuel Joe Biden, du gouverneur du Minnesota Tim Walz et du vice-dentélu JD Vance.

Mais OpenAI a catégoriquement refusé chacune de ces demandes. Il s'agirait d'empêcher que ChatGPT ne devienne un pion dans une vaste opération de désinformation.

À l'approche des élections américaines, OpenAI souhaitait que ChatGPT s'abstienne de toute ingérence électorale. Les deepfakes politiques, les fausses informations générées par l'IA et les mensonges purs et simples se propagent à une vitesse fulgurante sur Internet. Clarity, une entreprise spécialisée dans l'apprentissage automatique, indique que le contenu deepfake a connu une augmentation de 900 % cette année.

Et les services de renseignement américains affirment qu'une partie de ces éléments est liée à des agents russes qui tentent de contrôler la politique américaine.

La grande bataille d'OpenAI contre la désinformation

Dans un rapport publié en octobre, OpenAI a exposé la gravité de la situation. L'organisation a trac20 opérations illégales à travers le monde, toutes visant à exploiter l'intelligence artificielle pour manipuler les internautes. Certaines d'entre elles publiaient en masse des articles web générés par l'IA.

D'autres utilisaient de faux comptes sur les réseaux sociaux pour diffuser de la propagande. Mais l'équipe d'OpenAI affirme avoir réussi à démanteler ces réseaux avant qu'ils ne deviennent viraux.

Pourtant, cela ne suffit pas à satisfaire tout le monde. Des élus, des organismes de surveillance du secteur technologique et des sceptiques tirent la sonnette d'alarme quant aux dangers que représente le déploiement sans restriction de ChatGPT pendant la période électorale. Les chatbots dotés d'IA sont certes impressionnants, mais il leur arrive encore de diffuser des informations douteuses.

« Les électeurs ne doivent absolument pas se fier aux chatbots d'IA pour obtenir des informations sur le vote ou les élections ; les problèmes d'exactitude et d'exhaustivité sont bien trop nombreux », a déclaré Alexandra Reeve Givens, PDG du Center for Democracy & Technology, dans un communiqué la semaine dernière.

Par ailleurs, la procureure générale de New York, Letitia James, a lancé un avertissement vendredi dernier après que son bureau a effectué des tests sur une poignée de chatbots alimentés par l'intelligence artificielle. Son équipe leur a posé des questions relatives aux élections et les réponses obtenues ont été préoccupantes : désinformation à profusion.

« Les New-Yorkais qui se fient aux chatbots plutôt qu'aux sources gouvernementales officielles pour répondre à leurs questions sur le vote risquent d'être mal informés et pourraient même perdre leur droit de vote en raison d'informations inexactes », a déclaré le bureau du procureur général.

Depuis, OpenAI a ajouté une fonctionnalité à ChatGPT qui incite les utilisateurs à consulter des sources d'information fiables comme l'Associated Press et Reuters pour obtenir les résultats des élections. Cette fonctionnalité, introduite le 5 novembre, vise à encourager les utilisateurs à éviter de se fier aux réponses générées par l'IA pour des données aussi importantes que celles relatives aux élections.

L'IA au cœur des élections mondiales

Cette année, les campagnes politiques à travers le monde pourraient toucher plus de 4 milliards de personnes dans plus de 40 pays. Face à de tels enjeux, le risque de propagation de la désinformation, alimentée par l'IA, au-delà des frontières est un problème majeur.

Une fois de plus, le rapport de Clarity faisant état d'une augmentation de 900 % des contenus deepfake est très inquiétant. Le fait que certaines de ces vidéos deepfake soient liées à des campagnes d'influence soutenues par la Russie ne fait qu'accentuer l'urgence de la situation.

Une étude publiée en juillet par le Center for Democracy & Technology vient s'ajouter aux inquiétudes. Les chercheurs ont testé des chatbots d'IA de grandes entreprises (Mistral, Google, OpenAI, Anthropic et Meta) sur des questions relatives aux élections. Sur les 77 questions posées, plus d'un tiers ont reçu des réponses inexactes ou trompeuses. C'est préoccupant.

Un porte-parole d'Anthropic, la société qui conçoit le chatbot Claude, a clairement indiqué : « Pour obtenir des informations spécifiques sur les élections et le vote, nous orientons les utilisateurs vers des sources officielles, car Claude n'est pas entraîné suffisamment fréquemment pour fournir des informations en temps réel sur des élections spécifiques. »

Le duo Trump-Musk et la nouvelle réalité de la Silicon Valley

Tandis qu'OpenAI lutte contre la désinformation, la Silicon Valley dans son ensemble se prépare à une refonte de ses relations avec Washington. Le retour à la Maison-Blanche dudentélu Donald Trump s'accompagne de grandes promesses : il prévoit de démanteler nombre de politiques technologiques de son prédécesseur, notamment le récent décret présidentiel de l'administration Biden sur la sécurité de l'IA.

Ce décret a instauré des directives de sécurité et de confidentialité pour les développeurs d'IA, dans le but d'établir des garde-fous fondamentaux. Il a encouragé le financement de la recherche en IA et visait à impliquer davantage le National Institute of Standards and Technology dans l'élaboration des normes en la matière. Trump a qualifié cette politique de « dangereuse » et d'obstacle à l'innovation, promettant de la remplacer par ce qu'il appelle un « développement de l'IA fondé sur la liberté d'expression »

Elon Musk, qui a investi plus de 130 millions de dollars dans les campagnes pro-Trump et a même participé à un rassemblement en sa faveur en Pennsylvanie, devrait être l'un des plus importants alliés de Trump dans le secteur technologique. Grâce à son influence et à son contrôle de X (anciennement Twitter), il dispose d'un accès direct pour diffuser des messages politiques auprès de millions de personnes.

Sans oublier que Musk a des intérêts en jeu : Tesla et SpaceX pourraient tirer profit des politiques de Trump, surtout si la nouvelle administration privilégie une surveillance moindre.

Alors que certains magnats de la tech, comme Jeff Bezos d'Amazon, se sont ouvertement opposés à Trump, d'autres ont trouvé le moyen de rester en bons termes avec lui. Mark Zuckerberg de Meta, par exemple, aurait salué la réaction de Trump à une récente tentative d'assassinat, la qualifiant d'« impressionnante »

Facebook ne s'est pas arrêté là : la plateforme a également supprimé certaines de ses mesures de lutte contre la désinformation. Par ailleurs, Jeff Bezos, propriétaire du Washington Post, aurait bloqué un éditorial qui aurait apporté son soutien à la vice-dent Kamala Harris dans les semaines précédant l'élection.

L'impact d'un second mandat de Trump sur la Silicon Valley dépendra également de la composition du Congrès. Les Républicains ayant désormais la majorité au Sénat, Trump peut plus facilement mettre en œuvre son programme technologique et faire confirmer ses candidats sans trop d'obstacles.