La jefa de derechos humanos de la ONU, Türk, advierte que la IA avanzada podría amenazar a la humanidad y presiona por “líneas rojas”
Foto de Comercio y Desarrollo de la ONU (UNCTAD) en Flickr.
- Volker Türk, alto comisionado de derechos humanos de la ONU, advirtió que la IA cada vez más potente podría convertirse en un riesgo existencial.
- Türk pidió a los gobiernos que acuerden 'líneas rojas' vinculantes antes de que la tecnología supere el control humano.
- La ONU busca convertir la alerta voluntaria en normas internacionales obligatorias.
La Alta Comisionada de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, advirtió públicamente sobre las capacidades de la inteligencia artificial que crecen hasta el punto de convertirse en una amenaza existencial para la humanidad en el Consejo de Derechos Humanos en Ginebra, hoy por la mañana, el 7 de septiembre.
Türk instó a los gobiernos a moverse rápidamente para construir coberturas y regular los laboratorios de IA en la vanguardia de la carrera por liderar la tecnología de sistemas autónomos, evitando que se salgan de control ante brechas y incidentes de seguridad cada vez más frecuentes.
El mayor problema para la ejecutiva de la ONU es que los sistemas con los que la tecnología de IA crece más rápido que los sistemas que actualmente la gobernan pueden rastrear. Ese crecimiento sin control ha escalado ahora las amenazas más allá de la desinformación y la pérdida de empleos hacia áreas existenciales como la seguridad, la responsabilidad y la supervisión sin control de sistemas altamente autónomos.
La jefa de derechos humanos de la ONU pide acción internacional urgente
Türk citó una ventana de cierre cuando las capacidades de la IA aún pueden ser verificadas como la base para la urgencia que attachó a su llamado a una acción internacional coordinada. También señalaron cómo el ritmo y la dirección del avance del campo están desproporcionadamente en manos de un pequeño círculo de ejecutivos tecnológicos y empresas.
Türk propuso una solución a las banderas rojas que señaló. Su alternativa es que los países donde se basan estas principales empresas de IA y aquellos que controlan cadenas de suministro críticas se esfuercen y trazuen “líneas rojas” sobre hasta dónde están dispuestos a permitir que vaya la tecnología.
La Alta Comisionada de la ONU para los Derechos Humanos está revisando un tema que el organismo internacional abordó en el primer Diálogo Global sobre Gobernanza de la IA en la misma ciudad suiza en julio.
Hablando en la cumbre de la UIT “IA para el Bien”, donde comenzó la conversación, Türk dijo: “No consideramos que los estándares de seguridad para medicamentos, automóviles o aviones sean obstáculos para el progreso”, según el material de la ONU. “Son la razón por la que las personas confían en esas tecnologías en primer lugar”. La supervisión humana, añadió, “no puede ser solo un sello de goma.”
Parte de la evidencia que impulsó la conversación en esa cumbre fue presentada por Sonia Livingstone del Panel Científico Global de la ONU sobre IA. Para entonces, al menos un niño por aula dijo haber sido sujeto de deepfakes sexualmente explícitos de IA en un estudio que cubrió 11 países del Sur Global.
La jefa de ONU Mujeres, Sima Bahous, también señaló el sesgo de género de todo ello. Según ella, aproximadamente el 88% de los principales investigadores de IA. También informó que al menos una de cada cuatro de las activistas y periodistas que su agencia encuestó había enfrentado abuso en línea asistido por IA.
Los laboratorios de IA y los legisladores han despertado a los problemas
La ONU no es la única en sonar la alarma este verano. El senador estadounidense Bernie Sanders ha pedido una pausa inmediata en el trabajo de IA avanzada y una prohibición permanente de la superinteligencia, mientras que un grupo transpartidista de parlamentarios del Reino Unido presionó por interruptores de apagado (“kill switches”) de IA legalmente requeridos después de lo que describieron como una serie de incidentes de IA fuera de control.
Esas ansiedades siguieron a la afirmación de OpenAI, vinculada a su modelo GPT-6 Astra, de que su tecnología había alcanzado la inteligencia general artificial, y la admisión de Anthropic de que sus propios modelos no estaban “perfectamente alineados” con los valores humanos.
Parte de esa presión proviene del interior de la industria. En un ensayo de junio cubierto por Axios, el CEO de Anthropic, Dario Amodei, argumentó que los gobiernos deberían tener el poder legal para bloquear o revertir despliegues peligrosos de IA, y que los modelos de frontera deberían someterse a pruebas obligatorias, al igual que los automóviles, aviones o nuevos medicamentos.
En su propia actualización del Consejo, Türk extendió el tema al campo de batalla, respaldando los llamados para prohibir armas que puedan matar sin un humano en el bucle.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Qué advirtió exactamente Volker Türk?
Türk, Alto Comisionado de Derechos Humanos de la ONU, advirtió que la inteligencia artificial cada vez más potente podría eventualmente representar una amenaza existencial para la humanidad e instó a implementar salvaguardas urgentes antes de que sus capacidades superen el control humano efectivo.
¿Cuáles son las 'líneas rojas' propuestas por Türk?
Argumentó que los países que albergan grandes empresas de IA y aquellos que controlan cadenas de suministro críticas deben acordar límites claros, o 'líneas rojas', para el desarrollo de la IA, con el objetivo de frenar la concentración del poder de la IA en manos de un pequeño número de ejecutivos y empresas.
¿Cómo se conecta esto con el impulso más amplio de la ONU sobre la IA?
Esto da seguimiento al primer Diálogo Mundial sobre Gobernanza de la IA, celebrado en Ginebra en julio, donde los expertos reportaron pruebas crecientes de daños vinculados a la IA, y la ONU ahora presiona por reglas internacionales armonizadas, con un segundo diálogo programado para Nueva York el próximo mayo.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
