En una encuesta reciente realizada entre 2.700 investigadores de inteligencia artificial (IA) que han publicado trabajos en seis importantes conferencias sobre IA, se reveló que casi el 58% de losdentcree que hay un 5% de posibilidades de que la IA cause la extinción humana u otros resultados catastróficos. .
La encuesta también exploró los plazos de los hitos tecnológicos de la IA y sus posibles consecuencias sociales. A pesar de la incertidumbre y el desacuerdo entre los investigadores, estos hallazgos arrojan luz sobre las preocupaciones dentro de la comunidad de IA con respecto a los riesgos potenciales asociados con el desarrollo de IA sobrehumana.
Los investigadores expresan cautela sobre el riesgo de extinción de la IA
Katja Grace, autora de la encuesta e investigadora del Machine Intelligence Research Institute de California, enfatizó la importancia de la creencia en un riesgo no minúsculo que plantea la IA avanzada. Grace afirmó: "Es una señal importante de que a la mayoría de los investigadores de IA no les parecetroninverosímil que la IA avanzada destruya a la humanidad". Sin embargo, no hay ningún motivo inmediato de alarma, según Émile Torres, académico de la Universidad Case Western Reserve en Ohio.
Torres advirtió contra una reacción exagerada a las encuestas de expertos, señalando que no tienen un tractantronen predecir con precisión los desarrollos de la IA. Un estudio anterior de 2012 encontró que las predicciones de los expertos en IA no eran más confiables que la opinión pública. Los autores de la encuesta actual también señalaron que es posible que los investigadores de IA no tengan experiencia en pronosticar la trayectoria futura de la IA.
Hitos acelerados y predicciones anteriores
En comparación con una versión de 2022 de la misma encuesta, muchos investigadores de IA en la última encuesta anticiparon que la IA alcanzaría ciertos hitos antes de lo proyectado anteriormente. Estas predicciones coincidieron con el lanzamiento en noviembre de 2022 de servicios avanzados de chatbot de IA como ChatGPT y el rápido despliegue de modelos de IA similares en Silicon Valley.
Los investigadores previeron una probabilidad del 50% o más de que los sistemas de IA realicen con éxito diversas tareas en la próxima década. Estas tareas incluían la creación de canciones indistinguibles de las de artistas populares como Taylor Swift y la codificación de sitios web completos de procesamiento de pagos desde cero. Sin embargo, se esperaba que otras tareas complejas, como instalar físicamente el cableado eléctrico en los hogares o resolver misteriosmaticde larga data, llevaran más tiempo.
La perspectiva de que la IA supere el desempeño humano en todas las tareas tenía un 50% de probabilidad de ocurrir para 2047, mientras que la posibilidad de que todos los trabajos humanos se volvieran completamente automatizables recibió un 50% de probabilidad de ocurrir para 2116. Estas estimaciones marcaron un período de 13 y 48 años. aceleración, respectivamente, en comparación con la encuesta del año anterior.
Avances impredecibles en IA y preocupaciones inmediatas
A pesar de las elevadas expectativas que rodean el desarrollo de la IA, Émile Torres expresó cautela respecto de la imprevisibilidad de los avances tecnológicos. Torres señaló que el campo de la IA había experimentado previamente períodos de financiación e interés corporativo reducidos, conocidos como “inviernos de la IA”, durante las décadas de 1970 y 1980.
Además, los investigadores de IA destacaron preocupaciones inmediatas como el uso indebido de la IA, incluidos los deepfakes, la manipulación de la opinión pública, el desarrollo de armas diseñadas, el control autoritario sobre las poblaciones y el empeoramiento de la desigualdad económica. Torres también destacó los peligros potenciales de que la IA contribuya a la desinformación sobre temas críticos como el cambio climático y la gobernanza democrática.
La encuesta realizada a investigadores de IA revela un nivel significativo de preocupación dentro de la comunidad de IA con respecto a los riesgos potenciales asociados con el desarrollo avanzado de IA. Si bien el porcentaje exacto de riesgo de que la IA cause la extinción humana sigue siendo incierto, la creencia en un riesgo no minúsculo resalta la necesidad de consideraciones éticas y de seguridad continuas en el desarrollo de la IA.
A pesar de las predicciones aceleradas sobre los hitos de la IA, los investigadores reconocen la imprevisibilidad de los avances tecnológicos y enfatizan preocupaciones inmediatas como el mal uso de la IA y los impactos sociales. A medida que la IA continúa evolucionando, los investigadores, los formuladores de políticas y la sociedad en su conjunto deben abordar estos desafíos de manera proactiva y responsable.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar
