Pesquisadores do MIT anunciam repositório de riscos de IA

Pesquisadores do MIT e outras organizações criaram o Repositório de Riscos de IA — um amplo banco de dados documentado de riscos agravados por sistemas de IA. Isso ocorre em um momento em que a tecnologia está evoluindo rapidamente, o que também se aplica aos riscos associados ao uso de sistemas de IA.

O repositório busca auxiliar os tomadores de decisão em diversas instituições, como governo, pesquisa, empresas e indústria, a avaliar os riscos emergentes associados à IA, embora ela possua capacidades transformadoras.

O repositório fornece documentação organizada dos riscos da IA.

Embora diversas organizações e pesquisadores tenham reconhecido a importância de resolver os riscos da IA, os esforços para documentar e categorizar esses riscos têm sido, em grande medida, desajeitados, resultando em um cenário fragmentado de sistemas de classificação conflitantes.

“Queríamos uma visão geral totalmente abrangente dos riscos da IA ​​para usar como uma lista de verificação”, disse Peter Slattery, futuro pós-doutorando e líder do projeto no MIT FutureTech, ao VentureBeat.

“Mas quando analisamos a literatura, descobrimos que as classificações de risco existentes eram como peças de um quebra-cabeça: individualmente interessantes e úteis, mas incompletas.”

Slattery.

O Repositório de Riscos de IA aborda o desafio acima ao fundir informações de 43 taxonomias existentes, incluindo artigos revisados ​​por pares, pré-publicações, trabalhos apresentados em conferências e relatórios.

Esse rigoroso processo de curadoria resultou na criação de um banco de dados com mais de 700 riscos exclusivos. O repositório utiliza um sistema de classificação bidimensional.

Em primeiro lugar, os riscos são classificados com base em suas causas, levando em consideração a entidade responsável (humana ou IA), a intenção (não intencional ou internacional) e o momento da ocorrência (pós-desenvolvimento ou pré-implantação).

Segundo o MIT, essa categorização subjacente ajuda a compreender as situações e os mecanismos através dos quais os riscos da IA ​​podem surgir.

Pesquisadores do MIT categorizaram os riscos da IA ​​em sete

Por outro lado, os riscos são categorizados em sete domínios diferentes, incluindo desinformação e agentes maliciosos, uso indevido, discriminação e toxicidade, privacidade e segurança.

O Repositório de Riscos de IA foi concebido para ser um banco de dados dinâmico e está disponível publicamente, podendo ser baixado por instituições para uso próprio.

As equipes de pesquisa podem planejar a atualização frequente do banco de dados com novos riscos, descobertas recentes e tendências em evolução.

O Repositório de Riscos de IA também se destina a ser um recurso prático para empresas de diversos setores. Para instituições que desenvolvem sistemas de IA, o repositório funciona como uma lista de verificação indispensável para avaliar e mitigar riscos.

“As organizações que utilizam IA podem se beneficiar do uso do Banco de Dados de Riscos de IA e das taxonomias como uma base útil para avaliar e gerenciar de forma abrangente sua exposição e gestão de riscos.”

Pesquisadores do MIT.

“As taxonomias também podem ser úteis paradentcomportamentos específicos que precisam ser realizados para mitigar riscos específicos”, acrescentaram os pesquisadores.

Uma organização que esteja implementando um sistema de recrutamento baseado em inteligência artificial, por exemplo, pode usar o repositório para identificar possíveis riscos associados à discriminação e ao preconceito.

Dessa forma, uma empresa que utiliza IA para moderação de conteúdo pode aproveitar o domínio da "desinformação" para entender os riscos potenciais relacionados ao conteúdo gerado por IA e estabelecer as medidas de segurança necessárias.

Pesquisadores do MIT colaboraram com colegas da Universidade de Queensland, do Future of Life Institute, da KU Leuven e da startup de IA Harmony Intelligence para vasculhar bancos de dados acadêmicos e recuperar documentos relacionados aos riscos da IA.

Os pesquisadores também revelaram que o Repositório de Riscos de IA servirá de base para outras pesquisas, à medida quedentmais lacunas que precisam de atenção.

“Usaremos este repositório paradentpossíveis lacunas ou desequilíbrios na forma como os riscos estão sendo abordados pelas organizações”, disse Neil Thompson, chefe do MIT FutureTech Lab.