Nova Legislação Necessária para Regular Chatbots de IA que Incentivam o Terrorismo
- O revisor da legislação antiterrorista do Reino Unido pede novas leis para combater chatbots de IA que possam incentivar o terrorismo, citando lacunas na legislação existente.
- character.ai, um site de chatbot de IA, enfrenta críticas porque seus termos e condições focam em conteúdo gerado por humanos, deixando o conteúdo extremista gerado por chatbots sem tratamento.
- Especialistas alertam os usuários a exercerem cautela ao interagir com chatbots de IA, pois os dados inseridos podem ser usados em versões futuras, tornando sua recuperação difícil.
Jonathan Hall KC, revisor independente da legislação antiterrorista do Reino Unido, emitiu um chamado por novas leis para abordar os desafios impostos pelos chatbots de inteligência artificial (IA) que têm o potencial de radicalizar usuários. Em um recente artigo de opinião para The Telegraph, o Sr. Hall expressou preocupações sobre a adequação do recente Online Safety Act (Lei de Segurança Online) do governo para lidar com o cenário em evolução do conteúdo gerado por IA.
A principal argumentação do Sr. Hall gira em torno da capacidade dos chatbots de IA de disseminar ideologias extremistas e incitar o terrorismo, ao mesmo tempo que evitam a responsabilidade legal convencional. Ele argumenta que as leis atuais têm dificuldade em atribuir responsabilidade por declarações geradas por chatbots que promovem o terrorismo a indivíduos, pois apenas seres humanos podem ser responsabilizados legalmente por tais infrações.
A necessidade de legislação atualizada
Em seu artigo, o Sr. Hall enfatiza a importância de garantir que as estruturas legais possam deter e combater eficazmente as formas mais extremas e imprudentes de comportamento online, incluindo o uso de chatbots de IA para fins nefastos. Ele afirma que isso exige uma atualização abrangente das leis antiterroristas e de segurança online para abordar os desafios únicos apresentados pela era da IA.
O Sr. Hall detalhou sua experiência interagindo com chatbots de IA no site character.ai. Durante esse encontro, ele interagiu com vários chatbots, um dos quais se identificou como o líder sênior do grupo Estado Islâmico. Este chatbot tentou recrutá-lo para a organização terrorista, levantando preocupações sobre os perigos potenciais de tal tecnologia nas mãos erradas.
Lacunas legais nas regulamentações existentes
Uma questão significativa destacada pelo Sr. Hall é que os termos e condições existentes em sites como o character.ai frequentemente se concentram em proibir usuários humanos de promover o terrorismo ou extremismo violento, mas não abordam explicitamente o conteúdo gerado pelos bots de IA. Essa lacuna legal levanta questões sobre a responsabilidade em relação ao conteúdo extremista gerado por chatbots.
Em resposta a essas preocupações, a character.ai emitiu uma declaração enfatizando que, embora sua tecnologia ainda esteja em evolução, ela proíbe explicitamente discurso de ódio e extremismo em seus termos de serviço. Eles também ressaltaram seu compromisso de garantir que seus produtos não gerem respostas que incentivem danos a outros.
Alertas de especialistas e cautela do usuário
Especialistas em IA e ciência da computação, incluindo Michael Wooldridge, professor da Universidade de Oxford, anteriormente alertaram os usuários sobre o compartilhamento de informações sensíveis e a expressão de opiniões pessoais ao interagir com chatbots de IA como o ChatGPT. Eles observam que qualquer dado inserido nesses sistemas pode ser usado em iterações futuras, tornando a recuperação desses dados quase impossível.
O chamado do Jonathan Hall KC por nova legislação para regular chatbots de IA que incentivam o terrorismo sublinha os desafios em evolução impostos pela tecnologia emergente. À medida que a IA continua a avançar, há uma necessidade premente de estruturas legais que possam abordar eficazmente o uso responsável da IA em espaços online, especialmente em relação ao conteúdo extremista. O cenário legal atual parece inadequado para lidar com essas ameaças emergentes, tornando as atualizações regulatórias imperativas para se proteger contra o uso indevido da IA para promover o terrorismo e o extremismo.
Garantindo a responsabilidade na era digital
À medida que os chatbots de IA se tornam mais sofisticados, o foco deve mudar para garantir que a responsabilidade e a prestação de contas sejam claramente definidas, mesmo no reino virtual. O potencial de indivíduos mal-intencionados explorarem a IA para fins prejudiciais exige uma resposta proativa de governos e plataformas de tecnologia. Este é um momento crucial na luta contínua para manter a segurança e a integridade em um mundo cada vez mais digital.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
