Ganadores del Premio Nobel se unen a políticos y científicos en una llamada urgente para limitar los usos peligrosos de la IA
- Más de 200 líderes, incluidos 10 ganadores del Premio Nobel y destacados investigadores de IA, instan a establecer límites internacionales vinculantes sobre los usos peligrosos de la IA para 2026.
- Las prohibiciones propuestas incluyen armas autónomas letales, IA autorreplicante e IA en la guerra nuclear.
- El llamamiento global, presentado en la Asamblea General de las Naciones Unidas, subraya que los compromisos voluntarios de las empresas de IA son insuficientes.
La campaña para impulsar a los gobiernos a acordar límites internacionales vinculantes para limitar el abuso de la tecnología de IA se ha escalado al nivel de la ONU, ya que más de 200 destacados políticos, científicos y líderes de opinión, incluidos 10 ganadores del Premio Nobel, han emitido una advertencia sobre los riesgos de la tecnología.
La declaración, publicada el lunes en la apertura de la Semana de Alto Nivel de la Asamblea General de las Naciones Unidas, es llamada la Llamada Global por Líneas Rojas de IA. Argumenta que la «trayectoria actual de la IA presenta peligros sin precedentes» y exige que los países trabajen hacia un acuerdo internacional sobre restricciones claras y verificables para finales de 2026.
Ganadores del Premio Nobel lideran la súplica en la ONU
La súplica fue revelada por la laureada con el Premio Nobel de la Paz y periodista Maria Ressa, quien utilizó su discurso de apertura para instar a los gobiernos a «prevenir riesgos universalmente inaceptables» y definir lo que la IA nunca debería tener permitido hacer.
Los firmantes de la declaración incluyen a receptores del Premio Nobel en química, economía, paz y física, junto con autores célebres como Stephen Fry y Yuval Noah Harari. La ex presidenta irlandesa Mary Robinson y el ex presidente colombiano Juan Manuel Santos, quien también es ganador del Premio Nobel de la Paz, también prestaron sus nombres.
Geoffrey Hinton y Yoshua Bengio, popularmente conocidos como los «padres fundadores de la IA» y ganadores del Premio Turing, ampliamente considerado como el Premio Nobel de informática, también añadieron sus firmas a la declaración.
«Este es un punto de inflexión», dijo Harari. «Los humanos deben acordar líneas rojas claras para la IA antes de que la tecnología transforme la sociedad más allá de nuestra comprensión y destruya los cimientos de nuestra humanidad».
Los esfuerzos anteriores para alertar sobre la IA a menudo se han centrado en compromisos voluntarios de empresas y gobiernos. En marzo de 2023, más de 1.000 líderes tecnológicos, incluido Elon Musk, pidieron una pausa en el desarrollo de sistemas potentes de IA. Unos meses después, ejecutivos de IA como Sam Altman de OpenAI y Demis Hassabis de Google DeepMind firmaron una breve declaración equiparando los riesgos existenciales de la IA con los de la guerra nuclear y las pandemias.
La IA aviva los temores de riesgos existenciales y sociales
Solo la semana pasada, la IA estuvo implicada en casos que van desde el suicidio de un adolescente hasta informes de su uso para manipular el debate público.
Los firmantes de la llamada argumentan que estos riesgos inmediatos pronto podrían ser eclipsados por amenazas mayores. Los comentaristas han advertido que los sistemas avanzados de IA podrían conducir al desempleo masivo, pandemias diseñadas o violaciones sistemáticas de los derechos humanos si no se controlan.
Algunos de los elementos en la lista de embargo incluyen prohibir armas autónomas letales, prohibir sistemas de IA autorreplicantes y asegurar que la IA nunca se despliegue en la guerra nuclear.
«Es de nuestro interés común vital prevenir que la IA inflija daños graves y potencialmente irreversibles a la humanidad, y debemos actuar en consecuencia», dijo Ahmet Üzümcü, el ex director general de la Organización para la Prohibición de las Armas Químicas, que ganó el Premio Nobel de la Paz en 2013 bajo su liderazgo.
Más de 60 organizaciones de la sociedad civil han firmado la carta, incluido el think tank británico Demos y el Instituto de Seguridad y Gobernanza de IA de Beijing. El esfuerzo está siendo coordinado por tres organizaciones sin fines de lucro: el Centro para la IA Compatible con los Humanos de la Universidad de California, Berkeley; The Future Society; y el Centro Francés para la Seguridad de la IA.
A pesar de las recientes promesas de seguridad de empresas como OpenAI y Anthropic, que han aceptado pruebas gubernamentales de modelos antes de su lanzamiento, la investigación sugiere que las empresas están cumpliendo solo alrededor de la mitad de sus compromisos.
«No podemos permitirnos esperar», dijo Ressa. «Debemos actuar antes de que la IA avance más allá de nuestra capacidad para controlarla».
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
