Anthropic déclare que le chatbot Claude est hors limites pour les candidats politiques

L’intersection de l’intelligence artificielle et de la politique est de plus en plus marquée par des préoccupations concernant la propagation de la désinformation et de la manipulation. Anthropic, l’entreprise derrière le concurrent de ChatGPT Claude, a récemment dévoilé des politiques strictes pour empêcher ses outils d’IA d’être exploités dans les campagnes politiques ou les efforts de lobbying. Cette décision reflète un effort plus large de l’industrie pour relever les défis posés par l’IA dans les processus démocratiques.

Anthropic prévoit de supprimer les abus électoraux avec Claude

La politique d’« abus électoral » d’Anthropic interdit fermement aux candidats d’utiliser Claude pour créer des chatbots qui les impersonnent ou pour exécuter des campagnes politiques ciblées. Les violations de cette politique sont sanctionnées par des avertissements et pourraient potentiellement entraîner la suspension de l’accès aux services d’Anthropic. L’entreprise effectue également des tests approfondis, y compris des exercices de « red-teaming », pour évaluer les abus potentiels de ses systèmes d’IA.

En plus de faire respecter les politiques contre les abus liés aux élections, Anthropic collabore avec des organisations telles que TurboVote pour fournir aux électeurs des informations fiables. Par exemple, si un utilisateur aux États-Unis demande des informations sur le vote, il est redirigé vers TurboVote, une ressource fournie par l’organisation à but non lucratif et apolitique Democracy Works. Des mesures similaires sont prévues pour d’autres pays.

OpenAI, l’organisation derrière ChatGPT, prend également des mesures proactives pour remédier à l’utilisation abusive potentielle de l’IA en politique. Ils redirigent les utilisateurs recherchant des informations sur le vote vers le site apolitique CanIVote.org. Cette initiative souligne un mouvement plus large au sein de l’industrie technologique pour réglementer l’application de l’IA dans les contextes politiques.

Efforts à l’échelle de l’industrie pour lutter contre les abus

D’autres géants de la technologie, y compris Facebook et Microsoft, mettent également en œuvre des initiatives pour combattre la prolifération de contenu politique généré par l’IA et trompeur. Microsoft, par exemple, a introduit « Content Credentials as a Service » et lancé un Election Communications Hub pour contrer la désinformation.

De plus, la Federal Communications Commission (FCC) des États-Unis a interdit l’utilisation de voix de deepfake générées par l’IA dans les appels automatisés, soulignant le besoin urgent de réglementation dans ce domaine. L’émergence de répliques politiques générées par l’IA a également suscité des inquiétudes. OpenAI a suspendu le compte d’un développeur qui avait créé un bot impersonnant un candidat à la présidence, M. Dean Phillips, en réponse à une pétition de l’organisation à but non lucratif Public Citizen. Cette pétition appelait à une interdiction de l’utilisation de l’IA générative dans les campagnes politiques.

Dans l’ensemble, les efforts des entreprises comme Anthropic et OpenAI pour réglementer l’utilisation de l’IA en politique mettent en évidence une reconnaissance croissante des risques potentiels associés à l’IA dans les processus démocratiques. En mettant en œuvre des politiques strictes et en collaborant avec des organisations apolitiques, ces entreprises cherchent à maintenir l’intégrité du discours politique et à se protéger contre la désinformation et la manipulation.

À une époque où les frontières entre réalité et artificialité sont de plus en plus floues, il est primordial d’établir des garde-fous robustes contre l’utilisation abusive de l’IA dans les contextes politiques afin de préserver l’intégrité des systèmes démocratiques. Alors que la technologie continue d’évoluer, une vigilance constante et des mesures proactives seront essentielles pour s’assurer que l’IA serve de force pour un changement positif plutôt que d’outil de manipulation et de tromperie.