A Anthropic afirma que o chatbot Claude está fora dos limites para candidatos políticos

A interseção entre inteligência artificial e política está cada vez mais repleta de preocupações sobre a disseminação de desinformação e manipulação. A Anthropic, empresa por trás do Claude, concorrente do ChatGPT, revelou políticas rigorosas para impedir que suas ferramentas de IA sejam exploradas em campanhas políticas ou atividades de lobby. Essa decisão reflete um esforço mais amplo em toda a indústria para lidar com os desafios que a IA representa para os processos democráticos.

Anthropic se prepara para eliminar o uso indevido de eleições com a ajuda de Claude.

A política da Anthropic contra o uso indevido de inteligência artificial em eleições proíbe estritamente que candidatos utilizem o Claude para criar chatbots que se façam passar por eles ou para executar campanhas políticas direcionadas. Violações dessa política resultam em advertências e podem levar à suspensão do acesso aos serviços da Anthropic. A empresa também realiza testes rigorosos, incluindo simulações de ataque (red teaming), para avaliar o potencial uso indevido de seus sistemas de IA.

Além de implementar políticas contra o uso indevido de informações relacionadas às eleições, a Anthropic colabora com organizações como a TurboVote para fornecer aos eleitores informações confiáveis. Por exemplo, se um usuário nos Estados Unidos solicitar informações sobre votação, ele será direcionado para a TurboVote, um recurso oferecido pela organização apartidária Democracy Works. Medidas semelhantes estão previstas para implementação em outros países.

A OpenAI, organização por trás do ChatGPT, também está tomando medidas proativas para lidar com o potencial uso indevido de IA na política. Ela redireciona os usuários que buscam informações sobre votação para o site não partidário CanIVote.org. Essa iniciativa reforça um movimento mais amplo dentro da indústria de tecnologia para regulamentar a aplicação da IA ​​em contextos políticos.

Esforços de toda a indústria para combater o uso indevido.

Outras gigantes da tecnologia, incluindo o Facebook e a Microsoft, também estão implementando iniciativas para combater a proliferação de conteúdo político enganoso gerado por IA. A Microsoft, por exemplo, introduziu o serviço "dentde Conteúdo como Serviço" e lançou um Centro de Comunicação Eleitoral para combater a desinformação.

Além disso, a Comissão Federal de Comunicações dos EUA proibiu o uso de vozes deepfake geradas por IA em chamadas automatizadas, ressaltando a necessidade urgente de regulamentação nesse domínio. O surgimento de réplicas políticas geradas por IA também gerou preocupações. A OpenAI suspendeu a conta de um desenvolvedor que criou um bot se passando por um candidatodent, o deputado Dean Phillips, em resposta a uma petição da organização sem fins lucrativos Public Citizen. Essa petição pedia a proibição do uso de IA generativa em campanhas políticas.

De modo geral, os esforços de empresas como a Anthropic e a OpenAI para regulamentar o uso da IA ​​na política destacam um reconhecimento crescente dos riscos potenciais associados à IA nos processos democráticos. Ao implementar políticas rigorosas e colaborar com organizações apartidárias, essas empresas buscam manter a integridade do discurso político e proteger contra a desinformação e a manipulação.

Numa era em que as fronteiras entre a realidade e a artificialidade se tornam cada vez mais ténues, estabelecer salvaguardas robustas contra o uso indevido da IA ​​em contextos políticos é fundamental para preservar a integridade dos sistemas democráticos. À medida que a tecnologia continua a evoluir, a vigilância constante e as medidas proativas serão essenciais para garantir que a IA sirva como uma força para a mudança positiva, em vez de uma ferramenta de manipulação e engano.