Acadêmicos de Boston Argumentam que as Ansiedades Catastróficas sobre a IA são Exageradas e Mal Direcionadas

Acadêmicos da Centro de Ética Aplicada da UMass Boston têm estudado o impacto do envolvimento com a IA na compreensão que as pessoas têm de si mesmas, e Nir Eisikovits acredita particularmente que estas ansiedades catastróficas são exageradas e mal direcionadas. Embora existam grandes problemas humanos (não causados pela IA, mas pelos humanos), eles requerem a atenção dos formuladores de políticas. Os problemas existem há algum tempo, portanto, argumenta-se, e são quase cataclísmicos.

Nos últimos meses, o surgimento da IA, exemplificado por sistemas como o ChatGPT, provocou uma ampla ansiedade sobre seus perigos potenciais. Alguns até expressaram medos existenciais e cenários catastróficos, comparando a IA a pandemias e guerra nuclear. Nir oferece particularmente o conceito de que o verdadeiro perigo reside na erosão sutil de qualidades humanas essenciais, levando a uma reavaliação do que significa ser humano na era da IA.

Desafiar cenários catastróficos

Embora experimentos mentais como o "maximizador de clipes de papel" tenham sido usados para ilustrar riscos potenciais, a realidade é que as aplicações de IA existentes estão longe de possuir a capacidade de causar catástrofes em larga escala. Esses cenários, embora intrigantes, pertencem mais ao reino da ficção científica do que a ameaças iminentes. Os sistemas de IA hoje focam-se em tarefas específicas e carecem do julgamento sofisticado e do acesso à infraestrutura crítica necessários para os exemplos extremos apresentados.

Em vez de eventos cataclísmicos, o verdadeiro perigo reside na transformação gradual da existência humana através da integração crescente da IA. As tecnologias de IA existentes já demonstraram seu potencial de dano, como a criação de mídia deepfake convincente e a perpetuação de viés algorítmico em sistemas de tomada de decisão. Essas questões exigem atenção e regulamentação por parte dos formuladores de políticas, mas não são ameaças existenciais para a humanidade.

A diminuição das qualidades humanas

O Professor Nir Eisikovits argumenta que o perigo existencial posed pela IA é de natureza diferente – é um risco filosófico. A IA tem o potencial de alterar como os indivíduos se percebem e pode gradualmente erodir habilidades e experiências humanas fundamentais. Uma dessas habilidades é a tomada de julgamento, um traço profundamente enraizado na natureza humana. À medida que mais julgamentos são automatizados e delegados a algoritmos, as pessoas podem perder a capacidade de fazer esses julgamentos por si mesmas, levando a uma diminuição de sua capacidade de raciocinar e tomar decisões informadas.

Outro aspecto crucial da existência humana que a IA impacta é o papel do acaso e da serendipidade. Os humanos valorizam encontros inesperados e o elemento de surpresa em suas vidas, no entanto, os sistemas de recomendação algorítmica visam minimizar tais experiências serendipitosas, confiando na previsibilidade e no planejamento. A substituição gradual do acaso por algoritmos pode privar os indivíduos de descobertas significativas e inesperadas.

Além disso, o avanço das capacidades de escrita da IA levanta preocupações sobre o declínio das habilidades de pensamento crítico. Se a tecnologia de IA substituir as tarefas de escrita no ensino superior, os educadores podem perder uma ferramenta valiosa para ensinar os alunos a pensar criticamente e a se expressar eficazmente.

A importância da integração ponderada

Embora a IA não represente uma ameaça catastrófica iminente, a adoção e integração acrítica da IA em vários domínios acarretam consequências. O Prof. Eisikovits alerta que, se esses desenvolvimentos continuarem sem controle, as habilidades humanas, como a tomada de julgamento, a apreciação de encontros casuais e o pensamento crítico, serão diminuídas ao longo do tempo. Embora a espécie humana sobreviva a essas perdas, a qualidade da existência humana será empobrecida como resultado.

No meio das ansiedades crescentes em torno da IA, é crucial diferenciar entre cenários catastróficos exagerados e os riscos filosóficos associados à sua integração na sociedade. Embora seja improvável que a IA traga um fim apocalíptico, a erosão das qualidades humanas essenciais é uma preocupação genuína. Ao reconhecer e abordar os custos sutis da IA, formuladores de políticas, pesquisadores e a sociedade em geral podem garantir que as tecnologias de IA sejam integradas de forma reflexiva para aprimorar a existência humana, em vez de diminuí-la.

Nir Eisikovits é professor de filosofia e diretor fundador do Centro de Ética Aplicada. Antes de vir para a UMass Boston, foi professor associado de filosofia legal e política na Suffolk University, onde co-fundou e dirigiu o Programa de Pós-Graduação em Ética e Política Pública. A pesquisa do Professor Eisikovits concentra-se nos dilemas morais e políticos que surgem após a guerra. É autor de "A Theory of Truces" (Palgrave MacMillan) e "Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation" (Brill) e co-editor de "Theorizing Transitional Justice" (Routledge). É também editor convidado de uma edição recente da Theoria sobre "The Idea of Peace in the Age of Asymmetrical Warfare." Leia mais sobre ele.