Anthropic affirme que Claude Chatbot est intouchable pour les candidats politiques

L'intersection entre intelligence artificielle et politique est de plus en plus source d'inquiétudes quant à la propagation de la désinformation et à la manipulation. Anthropic, la société à l'origine de Claude, concurrent de ChatGPT, a récemment dévoilé des politiques strictes visant à empêcher l'exploitation de ses outils d'IA dans les campagnes politiques ou les activités de lobbying. Cette décision s'inscrit dans un effort plus large de l'ensemble du secteur pour relever les défis posés par l'IA aux processus démocratiques.

Anthropic s'apprête à supprimer les abus électoraux avec Claude

La politique d'Anthropic en matière d'« utilisation abusive des technologies électorales » interdit formellement aux candidats d'utiliser Claude pour créer des chatbots usurpant leur identité ou pour mener des campagnes politiques ciblées. Toute violation de cette politique fait l'objet d'avertissements et peut entraîner la suspension de l'accès aux services d'Anthropic. L'entreprise effectue également des tests rigoureux, notamment des exercices de simulation d'attaques, afin d'évaluer les risques d'utilisation abusive de ses systèmes d'IA.

Outre la mise en œuvre de politiques visant à prévenir les abus liés aux élections, Anthropic collabore avec des organisations telles que TurboVote afin de fournir aux électeurs des informations fiables. Par exemple, si un utilisateur aux États-Unis demande des informations sur le vote, il est redirigé vers TurboVote, une ressource proposée par l'organisation non partisane Democracy Works. Des mesures similaires devraient être mises en place dans d'autres pays.

OpenAI, l'organisation à l'origine de ChatGPT, prend également des mesures proactives pour prévenir les risques d'utilisation abusive de l'IA en politique. Elle redirige les utilisateurs en quête d'informations sur les élections vers le site web apolitique CanIVote.org. Cette initiative s'inscrit dans un mouvement plus large au sein du secteur technologique visant à encadrer l'application de l'IA dans le contexte politique.

Efforts déployés à l'échelle de l'industrie pour lutter contre les abus

D’autres géants de la technologie, comme Facebook et Microsoft, mettent également en œuvre des initiatives pour lutter contre la prolifération de contenus politiques trompeurs générés par l’IA. Microsoft, par exemple, a lancé « Contentdentas a Service » et une plateforme de communication électorale pour contrer la désinformation.

Par ailleurs, la Commission fédérale des communications des États-Unis (FCC) a interdit l'utilisation de voix deepfake générées par l'IA dans les appels automatisés, soulignant ainsi l'urgence d'une réglementation dans ce domaine. L'apparition de répliques politiques générées par l'IA a également suscité des inquiétudes. OpenAI a suspendu le compte d'un développeur ayant créé un bot se faisant passer pour le candidatdent, le représentant Dean Phillips, suite à une pétition de l'organisation à but non lucratif Public Citizen. Cette pétition demandait l'interdiction de l'utilisation de l'IA générative dans les campagnes politiques.

De manière générale, les efforts déployés par des entreprises comme Anthropic et OpenAI pour encadrer l'utilisation de l'IA en politique témoignent d'une prise de conscience croissante des risques potentiels liés à l'IA dans les processus démocratiques. En mettant en œuvre des politiques rigoureuses et en collaborant avec des organisations non partisanes, ces entreprises s'efforcent de préserver l'intégrité du débat politique et de lutter contre la désinformation et la manipulation.

À une époque où la frontière entre réalité et fiction s'estompe, il est primordial, pour préserver l'intégrité des systèmes démocratiques, de mettre en place des garde-fous solides contre le détournement de l'IA dans le contexte politique. Face à l'évolution constante des technologies, une vigilance permanente et des mesures proactives seront indispensables pour que l'IA soit un vecteur de changement positif et non un outil de manipulation et de tromperie.