Grupo do MIT publica documentos técnicos sobre governança de IA: uma estrutura para a governança de IA nos EUA

Com o objetivo de fornecer recursos valiosos para os formuladores de políticas dos EUA, um comitê de líderes e acadêmicos do MIT publicou uma série de documentos de políticas que delineiam uma estrutura abrangente para a governança da inteligência artificial (IA). O objetivo principal desses documentos é fortalecer a liderança dos EUA no campo da IA, que está em rápida evolução, mitigando simultaneamente os potenciais danos que possam surgir dessa tecnologia. Esse esforço é motivado pelo desejo de incentivar a implantação responsável da IA ​​para o benefício da sociedade.

Uma abordagem prática para a supervisão da IA

O principal documento de política, intitulado [título do documento], propõe uma abordagem para a regulamentação da IA ​​que aproveita as entidades governamentais americanas já responsáveis ​​pela supervisão de domínios relevantes. Essa abordagem reconhece que muitas aplicações de IA podem ser regulamentadas pelas mesmas agências que atualmente governam atividades humanas semelhantes. A ênfase principal reside em alinhar as regulamentações com o propósito e a função pretendidos das ferramentas de IA.

Dan Huttenlocher, reitor da Faculdade de Computação Schwarzman do MIT, destacou a importância de construir sobre as bases regulatórias existentes: “Como país, já regulamentamos muitas coisas de risco relativamente alto e oferecemos governança para elas… Não estamos dizendo que isso seja suficiente, mas vamos começar com coisas em que a atividade humana já é regulamentada e que a sociedade, ao longo do tempo, considerou de alto risco. Encarar a IA dessa forma é a abordagem prática.”

Defipropósito e intenção

Um aspecto essencial dessa estrutura é a necessidade de os fornecedores de IA deficlaramente o propósito e a intenção de suas aplicações de IA com antecedência. Essa etapa facilitaria adentdas regulamentações e dos órgãos reguladores apropriados para cada ferramenta de IA. Seja na área da saúde ou em outros setores, a IA deve estar sujeita aos mesmos padrões legais que seus equivalentes humanos.

Além disso, a estrutura reconhece que os sistemas de IA frequentemente existem em "pilhas" de múltiplas camadas que trabalham juntas para fornecer serviços específicos. Embora a responsabilidade principal por problemas relacionados a um serviço específico recaia sobre o provedor desse serviço, reconhece-se que os desenvolvedores de ferramentas de IA de uso geral também devem compartilhar a responsabilidade se suas tecnologias contribuírem para problemas específicos.

Auditoria e autorregulação

Para aprimorar a supervisão e a responsabilização, a estrutura política sugere o avanço da auditoria de novas ferramentas de IA. Isso poderia envolver diversas abordagens, incluindo auditorias iniciadas pelo governo, auditorias conduzidas por usuários ou auditorias resultantes de processos de responsabilidade legal. Padrões públicos para auditoria, sejam eles estabelecidos por uma entidade sem fins lucrativos ou por uma organização federal, seriam cruciais nesse sentido.

Além disso, a estrutura explora a possibilidade de criar uma nova “organização autorreguladora” (SRO, na sigla em inglês) aprovada pelo governo, semelhante à Autoridade Reguladora do Setor Financeiro (FINRA). Tal agência, focada em IA, poderia acumular conhecimento específico da área e se adaptar ao cenário de IA em rápida transformação, mantendo a supervisão governamental.

Lidar com questões jurídicas complexas

Além desses princípios gerais, a estrutura reconhece diversos desafios jurídicos específicos no âmbito da IA. Questões de direitos autorais e propriedade intelectual relacionadas à IA já são objeto de litígios e exigem consideração cuidadosa. Ademais, a estrutura reconhece a existência de questões jurídicas “humanas mais”, em que as capacidades da IA ​​superam as dos humanos. Essas questões abrangem tópicos como ferramentas de vigilância em massa e podem exigir considerações jurídicas especiais.

Além dos aspectos regulatórios, os documentos de política enfatizam a importância de promover pesquisas para aproveitar o potencial da IA ​​em benefício da sociedade. Por exemplo, um dos documentos explora a ideia de que a IA poderia complementar e auxiliar os trabalhadores, em vez de substituí-los, levando a um crescimento econômico de longo prazo compartilhado por toda a sociedade.

Essa diversidade de análises reflete o compromisso do comitê em abordar a regulamentação da IA ​​a partir de uma ampla perspectiva interdisciplinar. Isso ressalta a importância de os formuladores de políticas considerarem tanto os aspectos técnicos da IA ​​quanto suas implicações sociais.

O papel do MIT na definição da governança da IA

O MIT, como líder em pesquisa de IA, acredita ter um papel crucial a desempenhar na definição da governança da IA. David Goldston, diretor do escritório do MIT em Washington, observa: "Como estamos entre aqueles que criam tecnologia que levanta essas questões importantes, sentimos a obrigação de ajudar a resolvê-las". O objetivo do comitê não é impedir o avanço da IA, mas sim defender seu desenvolvimento e governança responsáveis.

Nas palavras de Dan Huttenlocher: "Trabalhar a serviço da nação e do mundo é algo que o MIT leva a sério há muitas décadas. Este é um momento muito importante nesse sentido."

Um esforço unificado para o futuro da governança da IA

A publicação desses documentos de política pelo comitê representa um passo significativo para aproximar os entusiastas da IA ​​daqueles preocupados com suas consequências. Embora o comitê reconheça o imenso potencial da IA, ele também ressalta a necessidade de governança e supervisão. Esses especialistas da área estão enviando uma mensagem clara: a IA pode e deve ser utilizada para o bem da sociedade, mas isso deve ser feito de forma responsável e com estruturas regulatórias robustas em vigor.