Por que a Vigilância de IA Ética Não é Viável, Como Colocar Batom num Porco?

Resumo TL;DR

• Rumman Chowdhury acredita que a vigilância de IA ética não é viável, afirmando: “Não podemos colocar batom num porco.”
• Ela defende a criação de um conselho global de governança externa para supervisionar as tecnologias de IA e abordar questões como o capitalismo de vigilância.
• Chowdhury enfatiza a importância da responsabilidade e da colaboração na governança da IA, alertando contra a regulamentação excessiva ao mesmo tempo em que aborda desafios éticos.

Em uma entrevista recente, Rumman Chowdhury, ex-diretora de ética, transparência e responsabilidade em aprendizado de máquina no Twitter, expressou seu ceticismo quanto à possibilidade de vigilância de inteligência artificial (IA) ética. Falando na Escola de Ciências Sociais da Universidade de Nova York, Chowdhury afirmou: “Não podemos colocar batom num porco. Eu não acho que a vigilância ética possa existir.”

Chowdhury, conhecida por seu trabalho em ética de IA, destacou suas preocupações com o surgimento do capitalismo de vigilância, que ela acredita ser inerentemente racista e não deve ser apoiado. Em um artigo de opinião na Wired, ela defendeu a criação de um conselho global de governança externa para supervisionar as tecnologias de IA, abordando questões como capitalismo de vigilância, interrupção de empregos e desinformação nuclear. Chowdhury enfatizou a necessidade de um conselho diverso que não esteja vinculado a nenhuma instituição única e que represente uma perspectiva global.

Desafios de responsabilidade e regulamentação na indústria de IA

De acordo com Chowdhury, a responsabilidade é um aspecto crucial que muitas vezes falta na indústria de IA. Ela apontou que a análise de risco interna nas empresas tende a negligenciar considerações morais. Quando o risco de falha ou dano reputacional se torna significativo, ela observou que as organizações frequentemente dobram as regras a seu favor. Chowdhury acredita que abordar esses desafios requer um esforço coletivo, envolvendo várias partes interessadas e cooperação em escala global.

Embora reconheça que a regulamentação é necessária, Chowdhury alertou contra a regulamentação excessiva, que poderia levar os modelos a supercorrigir e falhar em abordar as questões subjacentes. Ela enfatizou a natureza complexa de definir o que é tóxico ou odioso, afirmando que é uma jornada contínua que requer avaliação e adaptação constantes.

Rumman Chowdhury acredita que a tecnologia não deve se divorciar da humanidade

O trabalho de Chowdhury visa preencher a lacuna entre tecnólogos e formuladores de políticas, defendendo uma melhor compreensão do impacto humano da tecnologia. Ela acredita que a tecnologia não deve se divorciar da humanidade, mas sim ser aproveitada para abordar as falhas humanas e melhorar a sociedade.

Rumman Chowdhury, uma figura proeminente no campo da ética de IA, sempre foi intrigada pela complexidade e imprevisibilidade do comportamento humano. Durante seus estudos de graduação em ciência política no MIT, ela percebeu o potencial de usar modelos e dados de forma mais eficaz em organizações sem fins lucrativos. Isso a levou a buscar um mestrado em métodos quantitativos na Universidade de Columbia, onde aprimorou ainda mais suas habilidades.

O trabalho de Chowdhury a levou a vários locais ao redor do mundo apenas no último mês. De Espanha a São Francisco, Boston a Nova York, e palestras futuras em Viena e Pittsburgh, ela está ativamente engajada em abordar questões prementes relacionadas à IA, como cibersegurança, desinformação nuclear e plataformas de aprendizado de idiomas como o Duolingo.

Aproveite as estruturas de incentivo e descentralize o poder.

No cerne da abordagem de Chowdhury reside um ditame simples, mas poderoso: ouvir, comunicar, colaborar. No entanto, ela reconhece que, mesmo quando os líderes da indústria expressam seu compromisso de prevenir danos da IA, pode haver uma discrepância entre palavras e ações. Ela observa que, em tempos de maior escrutínio, algumas entidades podem pedir regulamentação enquanto simultaneamente empregam táticas de lobby para impedir a aprovação de leis regulatórias.

A abordagem de Chowdhury para a ética e governança da IA está fundamentada na compreensão de que as pessoas, ao contrário das máquinas, têm motivações e prioridades diversas. Efetuar mudanças significativas requer aproveitar as estruturas de incentivo e descentralizar o poder. Ela desafia a noção de uma única narrativa de herói e enfatiza a importância da colaboração e da tomada de decisão coletiva na moldagem do futuro da IA.