Uso Governamental da IA para Fiscalizar Redes Sociais Levanta Preocupações

Nos últimos anos, o uso de inteligência artificial (IA) em vários aspectos das operações governamentais tornou-se mais prevalente. Ainda assim, isso provocou debates significativos sobre privacidade, responsabilidade e justiça. Uma revelação recente sobre o uso da IA pela agência de Imigração e Controle de Aduanas dos EUA (ICE) para monitorar a atividade de mídia social de candidatos a visto reacendeu discussões sobre o papel dos algoritmos na determinação de quem é considerado “de risco”. 

A ferramenta impulsionada por IA: Giant Oak Search Technology (GOST)

Documentos obtidos por meio de uma ação de Lei de Liberdade de Informação (FOIA) revelaram que a ICE tem utilizado uma ferramenta impulsionada por IA conhecida como Giant Oak Search Technology (GOST) desde 2014. O GOST é projetado para analisar as postagens de mídia social dos candidatos a visto e atribuir-lhes uma “pontuação de mídia social” que varia de 1 a 100. Essa pontuação é determinada com base no fato de as postagens serem “derrogatórias” em relação aos Estados Unidos. Se a pontuação de um candidato levantar preocupações, os analistas da ICE podem revisar imagens e perfis sinalizados para avaliar se eles representam um risco potencial.

Um investimento de milhões de dólares

O escopo deste programa de vigilância por IA é significativo, com a ICE tendo pago mais de US$ 10 milhões à Giant Oak pela tecnologia desde 2017. Além disso, o alcance da Giant Oak vai além da ICE, pois a empresa também possui contratos com outras agências governamentais, incluindo a Administração de Combate às Drogas (DEA), a Força Aérea, o Departamento de Estado e o Departamento do Tesouro. O uso generalizado dessa tecnologia em várias agências governamentais levou defensores da privacidade a questionar suas implicações para as liberdades civis.

Defensores da privacidade soam o alarme

Defensores da privacidade argumentam que o uso de algoritmos de IA para filtrar conteúdo de redes sociais levanta sérias preocupações. Patrick Toomey, diretor adjunto do projeto de segurança nacional da União Americana pelas Liberdades Civis (ACLU), expressou suas preocupações, afirmando: “O governo não deve usar algoritmos para analisar nossas postagens nas redes sociais e decidir quem de nós é ‘arriscado’.” Toomey pediu transparência e instou o Departamento de Segurança Interna (DHS) a explicar como seus sistemas determinam o risco de um indivíduo e quais as consequências enfrentadas por aqueles sinalizados por seus algoritmos.

As origens da vigilância de mídia social

O programa de vigilância de mídia social em discussão começou como um piloto em 2016, direcionado principalmente a possíveis estagiários de visto. Concurrentemente, em 2016, a administração Trump implementou regras exigindo que candidatos a visto fornecessem cinco anos de seu histórico de mídia social como parte do processo de triagem. Essas medidas foram introduzidas na tentativa de melhorar a segurança nacional, mas desde então tornaram-se um assunto de controvérsia.

O risco de discriminação

Especialistas levantaram preocupações de que essas práticas impulsionadas por IA podem inadvertidamente levar à discriminação. Sistemas automatizados, argumentam eles, poderiam sinalizar desproporcionalmente candidatos de certos países ou origens, potencialmente resultando em resultados injustos. Um caso notável em 2019 viu um estudante de Harvard negado a entrada nos Estados Unidos devido à atividade de mídia social de seus amigos, destacando o potencial para consequências não intencionais.

O futuro da IA na aplicação da lei de imigração

Embora o contrato da ICE com a Giant Oak tenha terminado em 2022, conforme relatado, a questão mais ampla de usar IA para avaliar o conteúdo de mídia social dos candidatos continua sendo um tópico de preocupação. A necessidade de mais supervisão e regulação para prevenir abusos e proteger as liberdades civis é evidente. As implicações dessas práticas vão além da aplicação da lei de imigração e levantam questões fundamentais sobre o equilíbrio entre segurança e privacidade individual na era digital.

O uso de algoritmos de IA para monitorar e avaliar o conteúdo de mídia social no contexto de solicitações de visto reacendeu um debate sobre o papel do governo na determinação de quem é considerado um risco potencial. Defensores da privacidade argumentam que tais práticas levantam preocupações significativas de liberdades civis, e especialistas alertam para o risco de discriminação com base na nacionalidade ou origem. À medida que a tecnologia continua a evoluir, torna-se cada vez mais importante encontrar um equilíbrio entre a segurança nacional e a proteção dos direitos de privacidade individual. O caso do GOST e seu uso pela ICE serve como um lembrete nítido dos desafios e perguntas que estão por vir na era da vigilância impulsionada por IA.