- A OpenAI compromete-se a não usar sua IA em eleições para combater a desinformação.
- Eles estão impedindo a geração de imagens de pessoas reais por IA e aprimorando as ferramentas de transparência.
- Concorrentes como Google e Meta também combatem a desinformação, mas o timing é questionado.
Em uma decisão ousada e resoluta, a OpenAI, uma líder no campo da inteligência artificial (IA), declarou oficialmente uma posição firme contra o uso de suas ferramentas de IA generativa em campanhas eleitorais e táticas de supressão de eleitores. Este anúncio ocorre em um momento crucial, com várias eleições-chave agendadas para 2024 e crescentes preocupações sobre a disseminação de desinformação.
A OpenAI embarcou em uma iniciativa estratégica para proteger sua tecnologia, empregando uma equipe especializada que aborda as preocupações relacionadas às eleições. Esta equipe interdisciplinar, composta por especialistas de várias áreas, como sistemas de segurança, inteligência de ameaças, jurídico, engenharia e políticas, tem como objetivo principal identificar e mitigar o potencial abuso da IA nas eleições.
Medidas proativas para combater a desinformação
A ameaça da desinformação na política não é um desafio novo, mas o advento da tecnologia de IA trouxe desafios sem precedentes. Reconhecendo a gravidade dessa questão, a OpenAI está tomando medidas proativas para proteger sua tecnologia de ser explorada para manipular os resultados eleitorais. Para esse fim, a empresa está adotando uma abordagem multifacetada, incluindo testes de equipe vermelha (red teaming), engajamento do usuário e barreiras de segurança.
Uma das ferramentas de IA mais notáveis da OpenAI, o DALL-E, foi atualizada para incluir salvaguardas contra a geração de imagens que retratem indivíduos reais, incluindo candidatos políticos. Essa medida proativa garante que o conteúdo gerado por IA não contribua inadvertidamente para a disseminação de imagens enganosas ou manipuladas na esfera política.
A OpenAI está comprometida em revisar continuamente suas políticas de usuário para se alinhar com o cenário em evolução da tecnologia de IA e seu potencial de uso indevido. As políticas de segurança atualizadas da empresa agora restringem explicitamente o desenvolvimento de aplicativos de IA para campanhas políticas e lobby.
Além disso, medidas rigorosas foram implementadas para impedir a criação de chatbots que imitam indivíduos ou organizações reais, reduzindo o risco de a IA ser usada para fins enganosos.
Introduzindo transparência com classificador de proveniência
Um aspecto significativo da estratégia da OpenAI para combater a desinformação envolve a introdução de um classificador de proveniência para sua ferramenta DALL-E. Em testes beta, este recurso é atualmente projetado para detectar imagens geradas pelo DALL-E, aumentando a transparência no conteúdo gerado por IA.
A OpenAI planeja tornar essa ferramenta acessível a jornalistas, plataformas e pesquisadores, promovendo maior responsabilidade e permitindo a detecção de conteúdo visual potencialmente enganoso.
A OpenAI também está aprimorando a transparência e a precisão na disseminação de informações, integrando a reportagem de notícias em tempo real no ChatGPT. Essa integração garante que os usuários recebam informações atualizadas e confiáveis, esclarecendo assim as fontes de informações fornecidas pela IA e reduzindo o risco de disseminar desinformação.
Em um esforço colaborativo com a Associação Nacional de Secretários de Estado dos Estados Unidos, a OpenAI está trabalhando ativamente para impedir que sua tecnologia desencoraje a participação eleitoral. Esta parceria envolve direcionar os usuários de chatbots alimentados por GPT para sites confiáveis de informações eleitorais, como CanIVote.org, promovendo assim o engajamento cívico e o acesso a informações eleitorais precisas.
Líderes da indústria unem forças contra a desinformação por IA
A declaração resoluta da OpenAI estabeleceu um precedente notável na indústria de IA. Concorrentes da indústria, incluindo Google LLC e Meta Platforms Inc., também tomaram medidas decisivas para combater a desinformação disseminada por meio de suas tecnologias. Esse esforço coletivo entre os líderes da indústria reflete uma crescente conscientização sobre sua responsabilidade e o impacto potencial da IA nos processos democráticos.
Embora o anúncio da OpenAI seja louvável, ele provocou um debate sobre a oportunidade dessas medidas. Charles King, da Pund-IT Inc., levantou questões críticas sobre se essas ações são oportunas ou reativas.
Ele argumenta que as preocupações com a desinformação gerada por IA persistem há anos, e o anúncio recente da OpenAI pode ser percebido como uma resposta tardia ou um mero gesto simbólico. Essa perspectiva leva a uma reflexão mais profunda sobre o papel e a responsabilidade dos desenvolvedores de IA no cenário político.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brian Koome
Brian Koome tem mais de sete anos de experiência em reportagens sobre blockchain e criptomoedas, estando ativo no setor desde 2017. Ele contribuiu para publicações de destaque, incluindo BlockToday.com. Além disso, desenvolveu o curso Ethereum 101 para BitDegree.org antes de se juntar à Cryptopolitan como escritor em tempo integral. Brian cobre guias perenes (EGs), análises aprofundadas, entrevistas e análise de preços. Seu foco em DeFi, inovação em blockchain e projetos emergentes de criptomoedas encanta os leitores.
