Investigadores de IA sugieren un 5% de probabilidad de extinción humana debido a la IA avanzada

En una encuesta reciente realizada entre 2.700 investigadores de inteligencia artificial (IA) que han publicado trabajos en seis conferencias importantes sobre IA, se reveló que casi el 58% de losdentcree que hay un 5% de posibilidades de que la IA cause la extinción humana u otros resultados catastróficos.

La encuesta también exploró los plazos para los hitos tecnológicos de la IA y sus posibles consecuencias sociales. A pesar de la incertidumbre y el desacuerdo entre los investigadores, estos hallazgos arrojan luz sobre las preocupaciones de la comunidad de la IA respecto a los posibles riesgos asociados con el desarrollo de una IA sobrehumana.

Los investigadores expresan cautela sobre el riesgo de extinción de la IA

Katja Grace, autora de la encuesta e investigadora del Instituto de Investigación de Inteligencia Artificial de California, enfatizó la importancia de creer en un riesgo considerable que plantea la IA avanzada. Grace afirmó: «Es una señal importante que la mayoría de los investigadores de IA no considerentronimprobable que la IA avanzada destruya a la humanidad». Sin embargo, no hay motivo inmediato de alarma, según Émile Torres, académico de la Universidad Case Western Reserve de Ohio.

Torres advirtió contra reaccionar exageradamente a las encuestas de expertos, señalando que estas no tienen un tractantronen predecir con precisión los avances en IA. Un estudio previo de 2012 concluyó que las predicciones de los expertos en IA no eran más fiables que la opinión pública. Los autores de la encuesta actual también señalaron que los investigadores en IA podrían no tener la experiencia necesaria para pronosticar la trayectoria futura de la IA.

Hitos acelerados y predicciones anticipadas

En comparación con la versión de 2022 de la misma encuesta, muchos investigadores de IA que participaron en la última encuesta anticiparon que la IA alcanzaría ciertos hitos antes de lo previsto. Estas predicciones coincidieron con el lanzamiento en noviembre de 2022 de servicios avanzados de chatbots de IA como ChatGPT y la rápida implementación de modelos de IA similares en Silicon Valley.

Los investigadores previeron una probabilidad del 50% o superior de que los sistemas de IA realizaran con éxito diversas tareas en la próxima década. Estas tareas incluían la creación de canciones idénticas a las de artistas populares como Taylor Swift y la programación de sitios web completos de procesamiento de pagos desde cero. Sin embargo, se esperaba que otras tareas complejas, como la instalación física del cableado eléctrico en hogares o la resolución de antiguos misteriosmatic, llevaran más tiempo.

La perspectiva de que la IA supere el desempeño humano en todas las tareas recibió un 50% de posibilidades de ocurrir para 2047, mientras que la posibilidad de que todos los trabajos humanos se vuelvan completamente automatizables recibió un 50% de posibilidades para 2116. Estas estimaciones marcaron una aceleración de 13 y 48 años, respectivamente, en comparación con la encuesta del año anterior.

Avances impredecibles en IA y preocupaciones inmediatas

A pesar de las crecientes expectativas en torno al desarrollo de la IA, Émile Torres expresó cautela ante la imprevisibilidad de los avances tecnológicos. Torres señaló que el campo de la IA ya había experimentado períodos de reducción de la financiación y del interés corporativo, conocidos como "inviernos de la IA", durante las décadas de 1970 y 1980.

Además, los investigadores de IA destacaron preocupaciones inmediatas como el uso indebido de la IA, incluyendo los deepfakes, la manipulación de la opinión pública, el desarrollo de armas artificiales, el control autoritario sobre las poblaciones y el agravamiento de la desigualdad económica. Torres también destacó los posibles peligros de que la IA contribuya a la desinformación sobre temas críticos como el cambio climático y la gobernanza democrática.

La encuesta a investigadores de IA revela una considerable preocupación en la comunidad de IA respecto a los posibles riesgos asociados con el desarrollo avanzado de IA. Si bien el porcentaje exacto de riesgo de que la IA cause la extinción humana sigue siendo incierto, la creencia en un riesgo considerable subraya la necesidad de considerar constantemente la ética y la seguridad en el desarrollo de la IA.

A pesar de las predicciones aceleradas sobre los hitos de la IA, los investigadores reconocen la imprevisibilidad de los avances tecnológicos y enfatizan las preocupaciones inmediatas, como el uso indebido de la IA y su impacto social. A medida que la IA continúa evolucionando, los investigadores, los responsables políticos y la sociedad en su conjunto deben abordar estos desafíos de forma proactiva y responsable.