O desaprendizado de máquina abre caminho para a implementação responsável e ética da IA

Em um momento crucial para o campo da inteligência artificial (IA), os pesquisadores estão enfrentando um problema premente associado à tecnologia — ensinar sistemas de IA a esquecer. A Cúpula de IA trouxe esse problema para o primeiro plano, destacando a importância do “desaprendizado de máquina” como uma ferramenta crítica para mitigar os riscos impostos pela IA. 

À medida que a IA continua a se integrar a vários aspectos da sociedade, seus benefícios são inegáveis, mas os perigos potenciais também são. Esse campo emergente de pesquisa busca abordar essas preocupações removendo eficientemente e com custo eficaz dados problemáticos dos modelos de IA, particularmente redes neurais profundas (DNNs), que desempenham um papel central nas aplicações modernas de IA.

Treinar DNNs modernas, incluindo modelos bem conhecidos como ChatGPT e Bard, é um processo intensivo que exige recursos computacionais e tempo significativos. Esses modelos, conhecidos como Modelos de Linguagem Grande (LLMs), requerem quantidades massivas de dados e energia para treinamento, equivalentes a dezenas de Gigawatt-horas, um nível de consumo de energia que poderia alimentar milhares de residências por um ano. A essência do problema reside no fato de que o retratamento de sistemas de IA para esquecer dados específicos é uma tarefa trabalhosa e intensiva em recursos.

Para enfrentar esse desafio, surgiu um novo campo de pesquisa conhecido como “desaprendizado de máquina”. Os pesquisadores estão trabalhando no desenvolvimento de técnicas que permitam aos modelos de IA esquecer eficientemente dados que representam riscos para a sociedade, mantendo ao mesmo tempo alta precisão. Liderando essa pesquisa está a colaboração entre especialistas em ciência da computação da Universidade de Warwick e do Google DeepMind.

O professor Peter Triantafillou do Departamento de Ciência da Computação da Universidade de Warwick co-autorou recentemente uma publicação intitulada “Towards Unbounded Machine Unlearning” (Em direção ao Desaprendizado de Máquina Ilimitado), disponível no servidor de pré-impressão arXiv. Ele enfatiza a complexidade das DNNs, que podem conter trilhões de parâmetros, tornando difícil entender como e por que esses modelos alcançam seus objetivos. Essa complexidade, combinada com os vastos conjuntos de dados em que são treinados, levanta preocupações sobre o potencial dano que as DNNs podem causar à sociedade.

Abordando preocupações de viés e privacidade

Um dos riscos mais significativos associados às DNNs é a presença de dados tendenciosos. Esses modelos podem perpetuar estereótipos negativos ao aprender de conjuntos de dados repletos de vieses. Por exemplo, sistemas de IA podem associar incorretamente médicos a homens e enfermeiras a mulheres, ou até mesmo reforçar preconceitos raciais. Além disso, as DNNs podem incorporar dados com “anotações errôneas”, como rotular itens incorretamente, o que pode ter sérias implicações, especialmente em aplicações como reconhecimento de imagens.

Além disso, a violação da privacidade dos indivíduos é uma grande preocupação. O direito ao esquecimento, consagrado em regulamentações como o GDPR, concede aos indivíduos o direito de solicitar a remoção de seus dados de qualquer conjunto de dados e programa de IA. Isso representa um desafio significativo para as gigantes da tecnologia e destaca a necessidade de técnicas eficazes de desaprendizado de máquina.

A promessa do desaprendizado de máquina

A pesquisa recente conduzida pelo professor Triantafillou e sua equipe resultou em um algoritmo de “desaprendizado de máquina” inovador. Este algoritmo permite que as DNNs esqueçam seletivamente dados problemáticos sem a necessidade de um retratamento completo do modelo do zero. Importantes, ele distingue entre três tipos diferentes de dados que precisam ser esquecidos: vieses, anotações errôneas e questões relacionadas à privacidade. Essa inovação oferece uma solução prática e eficiente para mitigar os riscos associados à IA.

O desaprendizado de máquina agora é posicionado como uma ferramenta vital para proteger a implementação responsável da tecnologia de IA. Ao permitir que os sistemas de IA esqueçam dados que perpetuam vieses, contêm erros ou violam a privacidade, a sociedade pode aproveitar os benefícios da IA sem comprometer os valores éticos e sociais.