Anthropic diz que o Chatbot Claude está fora dos limites para candidatos políticos

A interseção entre inteligência artificial e política está cada vez mais repleta de preocupações sobre a disseminação de desinformação e manipulação. A Anthropic, a empresa por trás do concorrente do ChatGPT, Claude, recentemente apresentou políticas rigorosas para impedir que suas ferramentas de IA sejam exploradas em campanhas políticas ou esforços de lobby. Essa decisão reflete um esforço mais amplo de toda a indústria para abordar os desafios impostos pela IA nos processos democráticos.

Anthropic se prepara para remover o uso indevido em eleições com o Claude

A política de “uso indevido em eleições” da Anthropic proíbe firmemente que candidatos aproveitem o Claude para criar chatbots que os imitem ou executem campanhas políticas direcionadas. As violações dessa política são acompanhadas de avisos e podem potencialmente levar à suspensão do acesso aos serviços da Anthropic. A empresa também realiza testes rigorosos, incluindo exercícios de “red-teaming”, para avaliar possíveis usos indevidos de seus sistemas de IA.

Além de aplicar políticas contra o uso indevido relacionado a eleições, a Anthropic colabora com organizações como a TurboVote para fornecer aos eleitores informações confiáveis. Por exemplo, se um usuário nos Estados Unidos solicitar informações sobre votação, ele será direcionado à TurboVote, um recurso fornecido pela organização sem partido Democracy Works. Medidas semelhantes estão previstas para implementação em outros países.

A OpenAI, a organização por trás do ChatGPT, também está tomando medidas proativas para abordar o possível uso indevido da IA na política. Eles redirecionam os usuários que buscam informações de votação para o site sem partido CanIVote.org. Essa iniciativa destaca um movimento mais amplo dentro da indústria de tecnologia para regular a aplicação da IA em contextos políticos.

Esforços em toda a indústria para combater o uso indevido

Outros gigantes da tecnologia, incluindo Facebook e Microsoft, também estão implementando iniciativas para combater a proliferação de conteúdo político gerado por IA que induz ao erro. A Microsoft, por exemplo, introduziu o “Content Credentials as a Service” e lançou um Election Communications Hub para combater a desinformação.

Além disso, a Comissão Federal de Comunicações dos EUA proibiu o uso de vozes deepfake geradas por IA em chamadas robóticas, destacando a necessidade urgente de regulamentação neste domínio. O surgimento de réplicas políticas geradas por IA também levantou preocupações. A OpenAI suspendeu a conta de um desenvolvedor que criou um bot imitando um candidato presidencial, o representante Dean Phillips, em resposta a uma petição da organização sem fins lucrativos Public Citizen. Essa petição pedia uma proibição do uso de IA generativa em campanhas políticas.

No geral, os esforços de empresas como Anthropic e OpenAI para regular o uso da IA na política destacam um reconhecimento crescente dos riscos potenciais associados à IA nos processos democráticos. Ao implementar políticas rigorosas e colaborar com organizações sem partido, essas empresas buscam manter a integridade do discurso político e se proteger contra desinformação e manipulação.

Em uma era em que as linhas entre realidade e artificialidade estão cada vez mais borradas, estabelecer salvaguardas robustas contra o uso indevido de IA em contextos políticos é fundamental para preservar a integridade dos sistemas democráticos. À medida que a tecnologia continua a evoluir, a vigilância contínua e as medidas proativas serão essenciais para garantir que a IA sirva como uma força para o mudança positiva, em vez de uma ferramenta para manipulação e engano.