Académicos de Boston sostienen que las ansiedades catastróficas sobre la IA son exageradas y mal dirigidas

Académicos en El Centro de Ética Aplicada de UMass Boston han estado estudiando el impacto del compromiso con la IA en la comprensión que las personas tienen de sí mismas, y Nir Eisikovits cree particularmente que estas ansiedades catastróficas son exageradas y mal dirigidas. Si bien hay grandes problemas humanos (no causados por la IA, sino por los humanos), requieren la atención de los formuladores de políticas. Los problemas han existido por un tiempo, por lo que el razonamiento va, y apenas son cataclísmicos.

En los últimos meses, el auge de la IA, ejemplificado por sistemas como ChatGPT, ha provocado una amplia ansiedad sobre sus posibles peligros. Algunos incluso han expresado miedos existenciales y escenarios catastróficos, comparando la IA con pandemias y guerra nuclear. Nir ofrece particularmente el concepto de que el verdadero peligro reside en la erosión sutil de las cualidades humanas esenciales, lo que impulsa una reevaluación de lo que significa ser humano en la era de la IA.

Desafiar los escenarios catastróficos

Si bien experimentos mentales como el «maximizador de clips de papel» se han utilizado para ilustrar riesgos potenciales, la realidad es que las aplicaciones de IA existentes están lejos de poseer la capacidad de causar catástrofes a gran escala. Estos escenarios, aunque intrigantes, pertenecen más al reino de la ciencia ficción que a amenazas inminentes. Los sistemas de IA hoy se centran en tareas específicas y carecen del juicio sofisticado y el acceso a la infraestructura crítica requeridos para los ejemplos extremos presentados.

Más que eventos cataclísmicos, el verdadero peligro reside en la transformación gradual de la existencia humana a través de la integración creciente de la IA. Las tecnologías de IA existentes ya han demostrado su potencial de daño, como la creación de medios deepfake convincentes y la perpetuación del sesgo algorítmico en sistemas de toma de decisiones. Estos problemas requieren atención y regulación de los formuladores de políticas, pero no son amenazas existenciales para la humanidad.

La disminución de las cualidades humanas

El profesor Nir Eisikovits argumenta que el peligro existencial planteado por la IA es de una naturaleza diferente: es un riesgo filosófico. La IA tiene el potencial de alterar cómo los individuos se perciben a sí mismos y puede erosionar gradualmente habilidades y experiencias humanas fundamentales. Una de esas habilidades es la toma de juicios, un raspo profundamente arraigado en la naturaleza humana. A medida que más juicios se automatizan y delegan a algoritmos, las personas pueden perder la capacidad de realizar estos juicios ellas mismas, lo que lleva a un declive en su capacidad para razonar y tomar decisiones informadas.

Otro aspecto crucial de la existencia humana que la IA impacta es el papel de la casualidad y la serendipia. Los humanos valoran los encuentros inesperados y el elemento de sorpresa en sus vidas, sin embargo, los sistemas de recomendación algorítmicos buscan minimizar tales experiencias serendípicas confiando en la predictibilidad y la planificación. El reemplazo gradual de la casualidad con algoritmos podría privar a los individuos de descubrimientos significativos e inesperados.

Además, el avance de las capacidades de escritura de la IA plantea preocupaciones sobre el declive de las habilidades de pensamiento crítico. Si la tecnología de IA reemplaza las asignaciones de escritura en la educación superior, los educadores pueden perder una herramienta valiosa para enseñar a los estudiantes a pensar críticamente y expresarse eficazmente.

La importancia de la integración considerada

Si bien la IA no representa una amenaza catastrófica inminente, la adopción y la integración acrítica de la IA en varios dominios conllevan consecuencias. El prof. Eisikovits advierte que si estos desarrollos continúan sin control, las habilidades humanas, como la toma de juicios, la apreciación de los encuentros casuales y el pensamiento crítico, se verán disminuidas con el tiempo. Aunque la especie humana sobrevivirá a estas pérdidas, la calidad de la existencia humana se empobrecerá como resultado.

En medio de las ansiedades crecientes en torno a la IA, es crucial diferenciar entre escenarios catastróficos exagerados y los riesgos filosóficos asociados con su integración en la sociedad. Si bien es poco probable que la IA traiga un final apocalíptico, la erosión de las cualidades humanas esenciales es una preocupación genuina. Al reconocer y abordar los costos sutiles de la IA, los formuladores de políticas, los investigadores y la sociedad en general pueden garantizar que las tecnologías de IA se integren de manera reflexiva para mejorar la existencia humana en lugar de disminuirla.

Nir Eisikovits es profesor de filosofía y director fundador del Centro de Ética Aplicada. Antes de llegar a UMass Boston, fue profesor asociado de filosofía legal y política en la Universidad de Suffolk, donde cofundó y dirigió el Programa de Posgrado en Ética y Política Pública. La investigación del profesor Eisikovits se centra en los dilemas morales y políticos que surgen después de la guerra. Es autor de «A Theory of Truces» (Palgrave MacMillan) y «Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation» (Brill) y coeditor de «Theorizing Transitional Justice» (Routledge). También es editor invitado de un número reciente de Theoria sobre «The Idea of Peace in the Age of Asymmetrical Warfare». Lea más sobre él.