OpenAI a dû bloquer plus de 250 000 demandes d’images de candidats à la présidence américaine sur ChatGPT

OpenAI a confirmé que son outil d’IA populaire, ChatGPT, a bloqué un nombre stupéfiant de plus de 250 000 demandes de génération d’images des principaux candidats à la présidence américaine de 2024.

Les utilisateurs ont essayé – encore et encore – de faire en sorte que ChatGPT crée des images du président élu Donald Trump, de la vice-présidente Kamala Harris, du président actuel Joe Biden, du gouverneur du Minnesota Tim Walz et du vice-président élu JD Vance.

Mais OpenAI a répondu par un ferme « Non ! » à chacune de ces demandes. C’est serait pour empêcher ChatGPT de devenir un pion dans un jeu à haut risque de désinformation.

Avec l’élection américaine qui approche, OpenAI voulait que ChatGPT évite toute ingérence électorale. Les deepfakes politiques, les fausses nouvelles générées par l’IA et les mensonges purs et simples se propagent comme un feu de forêt en ligne. Clarity, une entreprise de machine learning, rapporte que le contenu deepfake seul a augmenté de 900 % cette année.

Et les services de renseignement américains indiquent que certaines de ces choses sont liées à des opérateurs russes essayant de contrôler la politique américaine.

La grande bataille d’OpenAI contre la désinformation

Dans un rapport d’octobre, OpenAI a exposé à quel point les choses se sont aggravées. Ils ont suivi des opérations douteuses dans le monde entier – 20 exactement – toutes en train d’essayer d’exploiter les outils d’IA pour manipuler les gens en ligne. Certaines diffusaient des articles de sites web générés par l’IA.

D’autres utilisaient des comptes de réseaux sociaux fictifs pour publier de la propagande. Mais l’équipe d’OpenAI affirme avoir réussi à fermer ces réseaux avant qu’ils ne deviennent viraux.

Et pourtant, cela ne suffit pas à satisfaire tout le monde. Certains législateurs, observateurs technologiques et sceptiques soulèvent des drapeaux rouges concernant les dangers de laisser ChatGPT agir librement pendant la saison électorale. Les chatbots d’IA peuvent être impressionnants, certes, mais ils sont encore connus pour sortir de temps en temps des informations contestables.

« Les électeurs ne devraient absolument pas se tourner vers les chatbots d’IA pour obtenir des informations sur le vote ou l’élection – il y a trop de préoccupations concernant l’exactitude et l’exhaustivité », a déclaré Alexandra Reeve Givens, PDG du Center for Democracy & Technology, dans un communiqué la semaine dernière.

De plus, l’avocat général de New York, Letitia James, a publié un avertissement vendredi dernier après que son bureau a effectué des tests sur une poignée de chatbots alimentés par l’IA. Son équipe leur a posé des questions liées à l’élection et n’a pas aimé les réponses obtenues. Une pléthore de désinformation.

« Les New-Yorkais qui s’appuient sur les chatbots, plutôt que sur les sources officielles du gouvernement, pour répondre à leurs questions sur le vote risquent d’être mal informés et pourraient même perdre leur opportunité de voter en raison d’informations inexactes », a déclaré le bureau de l’avocat général.

OpenAI a depuis ajouté une fonctionnalité sur ChatGPT qui incite les utilisateurs recherchant des résultats électoraux à se tourner vers des sources d’information fiables comme l’Associated Press et Reuters. La fonctionnalité, introduite le 5 novembre, est une incitation douce à éviter d’utiliser des réponses générées par l’IA pour quelque chose d’aussi important que les données électorales.

L’IA prend le siège chaud au milieu des élections mondiales

Cette année, les campagnes politiques du monde entier pourraient toucher plus de 4 milliards de personnes dans plus de 40 pays. Avec autant d’enjeux en jeu, le risque de propagation transfrontalière de la désinformation alimentée par l’IA est un problème majeur.

Encore une fois, le rapport de Clarity sur l’augmentation de 900 % du contenu deepfake met les nerfs à vif. Le fait que certaines de ces vidéos deepfake soient liées à des campagnes d’influence soutenues par la Russie ajoute à l’urgence.

Une étude de juillet du Center for Democracy & Technology ajoute une autre couche d’inquiétude. Ils ont testé des requêtes liées aux élections sur les chatbots d’IA de grandes entreprises – Mistral, Google, OpenAI, Anthropic et Meta. Sur les 77 questions liées aux élections, plus d’un tiers ont reçu des réponses inexactes ou trompeuses. Pas génial.

Un porte-parole d’Anthropic, qui fabrique le chatbot Claude, a clairement indiqué : « Pour des informations spécifiques sur les élections et le vote, nous dirigeons les utilisateurs vers des sources autoritaires car Claude n’est pas entraîné suffisamment fréquemment pour fournir des informations en temps réel sur des élections spécifiques. »

Le duo Trump-Musk et la nouvelle réalité de la Silicon Valley

Et alors qu’OpenAI fait face à la désinformation, la Silicon Valley dans son ensemble se prépare à une refonte de sa relation avec Washington. Le retour du président élu Donald Trump à la Maison Blanche apporte de grandes promesses – il prévoit de démanteler nombre des politiques technologiques de son prédécesseur, y compris l’ordre exécutif récent de l’administration Biden sur la sécurité de l’IA.

Cet ordre a introduit des lignes directrices de sécurité et de confidentialité pour les développeurs d’IA, avec pour objectif d’établir quelques garde-fous de base. Il a poussé au financement de la recherche sur l’IA et visait à impliquer davantage le National Institute of Standards and Technology dans la définition des normes de l’IA. Trump a qualifié cette politique de « dangereuse » et d’obstacle à l’innovation, s’engageant à la remplacer par ce qu’il appelle un « développement de l’IA ancré dans la liberté d’expression ».

Elon Musk, qui a investi plus de 130 millions de dollars dans des campagnes pro-Trump et même fait campagne pour Trump en Pennsylvanie, devrait être l’un des plus grands alliés technologiques de Trump. Avec l’influence de Musk et son contrôle de X (anciennement Twitter), il dispose d’une ligne directe pour amplifier les messages politiques auprès de millions de personnes.

Sans oublier que Musk a un intérêt financier dans l’affaire : Tesla et SpaceX pourraient bénéficier des politiques de Trump, surtout si la nouvelle administration favorise moins de surveillance.

Alors que certains magnats de la tech, comme Jeff Bezos d’Amazon, ont ouvertement affronté Trump, d’autres ont trouvé des moyens de rester dans ses bonnes grâces. Mark Zuckerberg de Meta, par exemple, aurait loué la réaction de Trump à une tentative d’assassinat récente, la qualifiant de « badass ».

Et Facebook ne s’est pas arrêté là – ils ont également supprimé certaines des mesures anti-désinformation de la plateforme. Et Bezos, propriétaire du Washington Post, aurait bloqué un éditorial qui aurait soutenu la vice-présidente Kamala Harris dans les semaines précédant l’élection.

L’impact du deuxième mandat de Trump sur la Silicon Valley dépendra également de qui contrôle le Congrès. Avec les Républicains qui ont sécurisé le Sénat, la voie est maintenant plus claire pour que Trump pousse son programme technologique et confirme ses candidats choisis avec moins de friction.