Chargement...

Anthropic dit que Claude Chatbot est interdit aux candidats politiques

TL; DR

  • Anthropic a expliqué avoir mis en place des mesures pour garantir que son Chatbot ne soit pas utilisé à des fins politiques.
  • Efforts à l’échelle de l’industrie pour lutter contre les abus.

L’intersection de l’intelligence artificielle et de la politique suscite de plus en plus d’inquiétudes quant à la propagation de la désinformation et de la manipulation. Anthropic, la société derrière le concurrent ChatGPT Claude, a récemment dévoilé des politiques strictes pour empêcher que ses outils d'IA ne soient exploités dans des campagnes politiques ou des efforts de lobbying. Cette décision reflète un effort plus large à l’échelle de l’industrie pour relever les défis posés par l’IA dans les processus démocratiques.

Anthropic s'apprête à éliminer les abus électoraux avec Claude

La politique d'Anthropic en matière d'« utilisation abusive des élections » interdit fermement aux candidats d'exploiter Claude pour créer des chatbots qui usurpent leur identité ou pour exécuter des campagnes politiques ciblées. Les violations de cette politique donnent lieu à des avertissements et pourraient potentiellement conduire à la suspension de l'accès aux services d'Anthropic. L’entreprise effectue également des tests approfondis, notamment des exercices de « équipe rouge », pour évaluer une éventuelle utilisation abusive de ses systèmes d’IA.

En plus d'appliquer des politiques contre les abus liés aux élections, Anthropic collabore avec des organisations telles que TurboVote pour fournir aux électeurs des informations fiables. Par exemple, si un utilisateur aux États-Unis demande des informations sur le vote, il est dirigé vers TurboVote, une ressource fournie par l'organisation non partisane Democracy Works. Des mesures similaires devraient être mises en œuvre dans d’autres pays.

OpenAI, l'organisation derrière ChatGPT, prend également des mesures proactives pour lutter contre l'utilisation abusive potentielle de l'IA en politique. Ils redirigent les utilisateurs cherchant des informations sur le vote vers le site Web non partisan CanIVote.org. Cette initiative souligne un mouvement plus large au sein de l’industrie technologique visant à réglementer l’application de l’IA dans des contextes politiques.

Efforts à l’échelle de l’industrie pour lutter contre les abus

D’autres géants de la technologie, dont Facebook et Microsoft, mettent également en œuvre des initiatives pour lutter contre la prolifération de contenus politiques trompeurs générés par l’IA. Microsoft, par exemple, a introduit « les informations d’ dent de contenu en tant que service » et a lancé un centre de communications électorales pour lutter contre la désinformation.

De plus, la Federal Communications Commission des États-Unis a interdit l’utilisation de fausses voix générées par l’IA dans les appels automatisés, soulignant le besoin urgent d’une réglementation dans ce domaine. L’émergence de répliques politiques générées par l’IA a également suscité des inquiétudes. OpenAI a suspendu le compte d'un développeur qui a créé un robot se faisant passer pour un dent à la présidence, le représentant Dean Phillips, en réponse à une pétition de l'organisation à but non lucratif Public Citizen. Cette pétition demandait l'interdiction de l'utilisation de l'IA générative dans les campagnes politiques.

Dans l’ensemble, les efforts d’entreprises comme Anthropic et OpenAI pour réglementer l’utilisation de l’IA en politique mettent en évidence une reconnaissance croissante des risques potentiels associés à l’IA dans les processus démocratiques. En mettant en œuvre des politiques strictes et en collaborant avec des organisations non partisanes, ces entreprises cherchent à maintenir l’intégrité du discours politique et à se prémunir contre la désinformation et la manipulation.

À une époque où les frontières entre réalité et artificialité sont de plus en plus floues, il est primordial d’établir des garanties solides contre l’utilisation abusive de l’IA dans des contextes politiques pour préserver l’intégrité des systèmes démocratiques. À mesure que la technologie continue d’évoluer, une vigilance continue et des mesures proactives seront essentielles pour garantir que l’IA constitue une force de changement positif plutôt qu’un outil de manipulation et de tromperie.

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Owotunse Adebayo

Adebayo aime garder un œil sur des projets passionnants dans l'espace blockchain. C'est un écrivain chevronné qui a écrit des tonnes d'articles sur les crypto-monnaies et la blockchain.

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Bitcoin
cryptopolite
Abonnez-vous à CryptoPolitan