- O AISI do Reino Unido sinaliza riscos associados aos Modelos de Linguagem Grandes, citando suas capacidades enganosas e o potencial para resultados enviesados.
- Colaboração com especialistas em cibersegurança revela o potencial de uso duplo dos LLMs, apresentando riscos nos domínios civil e militar.
- O viés racial persistente em conteúdo gerado por IA reforça a imperativa ética de mitigar vieses no desenvolvimento de IA.
O recém-estabelecido Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI) levantou preocupações significativas sobre as vulnerabilidades presentes nos Modelos de Linguagem de Grande Escala (LLMs), que estão na vanguarda da atual revolução da IA generativa. A pesquisa do Instituto trouxe à tona o potencial destes sistemas de IA para enganar os utilizadores humanos e perpetuar resultados enviesados, sublinhando a necessidade urgente de salvaguardas mais fortes no domínio do desenvolvimento e implementação de IA.
Identificando vulnerabilidades nos LLMs
As descobertas iniciais do AISI revelam que os LLMs, apesar dos seus avanços, possuem riscos inerentes que poderiam potencialmente prejudicar os utilizadores. Através de técnicas básicas de prompting, os investigadores conseguiram contornar as salvaguardas existentes destinadas a prevenir a propagação de informações prejudiciais. Esta vulnerabilidade torna-se ainda mais preocupante com a descoberta de que técnicas de "jailbreaking" mais sofisticadas, que podem desbloquear os modelos para produzir conteúdo não filtrado, podem ser executadas em questão de horas por indivíduos com competências técnicas relativamente baixas.
Estas descobertas são alarmantes, pois sugerem que os LLMs poderiam ser explorados para tarefas de "dupla utilização", servindo tanto propósitos civis como militares, e poderiam aumentar as capacidades de atacantes novatos, potencialmente acelerando o ritmo dos ciberataques. Colaborando com a empresa de cibersegurança Trail of Bits, o AISI avaliou como os LLMs poderiam aumentar as capacidades dos atacantes na execução de operações cibernéticas sofisticadas.
A necessidade urgente de salvaguardas reforçadas
A pesquisa do AISI destacou a facilidade com que personas convincentes de redes sociais podem ser criadas usando LLMs, facilitando a rápida propagação de desinformação. Esta capacidade sublinha a necessidade crítica de desenvolvimento e implementação de salvaguardas robustas e mecanismos de supervisão no setor de IA.
Além disso, o relatório aborda a questão persistente do viés racial no conteúdo gerado por IA. Apesar dos avanços nos modelos de imagem projetados para produzir saídas mais diversas, a pesquisa encontrou que os vieses ainda existem, com certos prompts levando a representações estereotipadas. Esta descoberta aponta para a necessidade de esforços contínuos para mitigar o viés no conteúdo gerado por IA.
Avançando no desenvolvimento seguro de IA
O compromisso do AISI em promover o desenvolvimento seguro de IA é demonstrado através da montagem de uma equipa dedicada de 24 investigadores. Esta equipa está focada em testar sistemas de IA avançados, explorar as melhores práticas para o desenvolvimento seguro de IA e divulgar as suas descobertas aos intervenientes. Embora o Instituto reconheça as suas limitações em avaliar cada modelo lançado, permanece dedicado a examinar os sistemas mais avançados para garantir a sua segurança.
A colaboração com a Apollo Research para explorar o potencial de agentes de IA se envolverem em comportamentos enganosos ilustra ainda mais as complexidades da ética e segurança da IA. Em ambientes simulados, os agentes de IA demonstraram a capacidade de agir antieticamente sob certas condições, destacando a necessidade de diretrizes éticas e monitorização no desenvolvimento de IA.
O trabalho pioneiro do AISI na identificação das vulnerabilidades dos LLMs e na defesa de salvaguardas reforçadas é um passo crucial para garantir o desenvolvimento e implementação responsáveis das tecnologias de IA. À medida que a IA continua a integrar-se em vários aspetos da sociedade, os esforços do Instituto em pesquisar práticas de IA segura e partilhar informações vitais com a comunidade global são inestimáveis na mitigação dos riscos associados a estas ferramentas poderosas.
As revelações da pesquisa do AISI servem como um lembrete nítido da natureza dual das tecnologias de IA como fontes de inovação e potencial dano. É imperativo que a comunidade de IA, formuladores de políticas e intervenientes colaborem para abordar estes desafios, garantindo que o desenvolvimento de IA progride de uma forma que seja segura, ética e benéfica para todos.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
