Investigadores de IA sugieren un 5% de probabilidad de extinción humana debido a una IA avanzada
- Los investigadores de IA reconocen un riesgo del 5% de extinción humana debido a una IA avanzada, enfatizando la necesidad de desarrollar una IA ética.
- Una encuesta muestra que los expertos en IA predicen hitos acelerados, pero el futuro del campo sigue siendo impredecible.
- Las preocupaciones inmediatas incluyen el mal uso de la IA, los deepfakes y su impacto en la democracia, destacando la urgencia de un desarrollo responsable de la IA.
En una encuesta reciente realizada a 2.700 investigadores de inteligencia artificial (IA) que han publicado trabajos en seis de las principales conferencias de IA, se reveló que casi el 58% de los encuestados cree que existe un 5% de probabilidad de que la IA cause la extinción humana u otros resultados catastróficos.
La encuesta también exploró los plazos para hitos tecnológicos de la IA y sus posibles consecuencias sociales. A pesar de la incertidumbre y el desacuerdo entre los investigadores, estos hallazgos arrojan luz sobre las preocupaciones dentro de la comunidad de IA respecto a los posibles riesgos asociados con el desarrollo de una IA superhumana.
Los investigadores expresan cautela sobre el riesgo de extinción por IA
Katja Grace, autora de la encuesta e investigadora en el Instituto de Investigación de Inteligencia Artificial de California, enfatizó la importancia de la creencia en un riesgo no mínimo planteado por la IA avanzada. Grace declaró: "Es una señal importante de que la mayoría de los investigadores de IA no lo consideran fuertemente improbable que la IA avanzada destruya a la humanidad". Sin embargo, según Émile Torres, académico de la Universidad Case Western Reserve en Ohio, no hay motivo inmediato para alarmarse.
Torres advirtió contra la reacción exagerada ante las encuestas de expertos, señalando que no tienen un historial sólido de predicciones precisas sobre el desarrollo de la IA. Un estudio anterior de 2012 encontró que las predicciones de los expertos en IA no eran más confiables que la opinión pública. Los autores de la encuesta actual también señalaron que los investigadores de IA pueden no poseer experiencia en la predicción de la trayectoria futura de la IA.
Hitos acelerados y predicciones más tempranas
En comparación con una versión de 2022 de la misma encuesta, muchos investigadores de IA en la última encuesta anticiparon que la IA alcanzaría ciertos hitos antes de lo proyectado anteriormente. Estas predicciones coincidieron con el lanzamiento en noviembre de 2022 de servicios avanzados de chatbots de IA como ChatGPT y el rápido despliegue de modelos de IA similares en Silicon Valley.
Los investigadores previeron una probabilidad del 50% o superior de que los sistemas de IA lograran con éxito diversas tareas en la próxima década. Estas tareas incluían crear canciones indistinguibles de las de artistas populares como Taylor Swift y codificar desde cero sitios web completos de procesamiento de pagos. Sin embargo, se esperaba que otras tareas más complejas, como instalar físicamente cableado eléctrico en hogares o resolver misterios matemáticos de larga data, tomaran más tiempo.
La perspectiva de que la IA supere el rendimiento humano en todas las tareas recibió un 50% de probabilidad de ocurrir para 2047, mientras que la posibilidad de que todos los trabajos humanos sean completamente automatizables recibió un 50% de probabilidad para 2116. Estas estimaciones marcaron una aceleración de 13 años y 48 años, respectivamente, en comparación con la encuesta del año anterior.
Avances impredecibles de la IA y preocupaciones inmediatas
A pesar de las expectativas elevadas en torno al desarrollo de la IA, Émile Torres expresó cautela respecto a la imprevisibilidad de los avances tecnológicos. Torres señaló que el campo de la IA había experimentado anteriormente períodos de reducción de financiación y interés corporativo, conocidos como "inviernos de la IA", durante las décadas de 1970 y 1980.
Además, los investigadores de la IA destacaron preocupaciones inmediatas, como el mal uso de la IA, incluidos los deepfakes, la manipulación de la opinión pública, el desarrollo de armas diseñadas, el control autoritario sobre las poblaciones y el empeoramiento de la desigualdad económica. Torres también enfatizó los posibles peligros de que la IA contribuya a la desinformación en temas críticos como el cambio climático y la gobernanza democrática.
La encuesta entre investigadores de IA revela un nivel significativo de preocupación dentro de la comunidad de IA respecto a los posibles riesgos asociados con el desarrollo de IA avanzada. Aunque el porcentaje exacto de riesgo de que la IA cause la extinción humana sigue siendo incierto, la creencia en un riesgo no mínimo destaca la necesidad de considerar continuamente aspectos éticos y de seguridad en el desarrollo de la IA.
A pesar de las predicciones aceleradas para hitos de la IA, los investigadores reconocen la imprevisibilidad de los avances tecnológicos y enfatizan preocupaciones inmediatas como el mal uso de la IA y sus impactos sociales. A medida que la IA continúa evolucionando, los investigadores, los formuladores de políticas y la sociedad en general deben abordar estos desafíos de manera proactiva y responsable.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Editah Patrick
Editah es una analista fintech versátil con un profundo conocimiento de los dominios blockchain. Tanto si la tecnología la fascina, encuentra fascinante la intersección entre tecnología y finanzas. Su interés particular en las billeteras digitales y blockchain beneficia a su audiencia.
