OpenAI insta a establecer un marco global de seguridad para la IA mientras aumentan las tensiones entre Estados Unidos y China

OpenAI afirma que la IA necesita la misma regulación que la energía nuclear y quiere que Estados Unidos inicie la creación de un organismo regulador global para gestionarla. 

Según informa Cryptopolitan, esto se produce cuando el presidentedent viajó a Pekín para la primera visita de Estado entre Estados Unidos y China en nueve años, durante la cual se esperaba que la política de IA estuviera en la agenda.

Según Chris Lehane,dent de asuntos globales de OpenAI, la presencia de Trump y Xi en la misma sala representa una oportunidad única para que ambas naciones construyan algo duradero para la IA.

“La IA, en cierto modo, trasciende muchos de los problemas comerciales tradicionales o predominantes. Existe la oportunidad de empezar a construir algo a nivel global y lograr que países de todo el mundo, incluida China, participen”, declaró Chris Lehane durante una rueda de prensa.

¿Qué es OpenAI y por qué su opinión sobre la política global es tan importante?

OpenAI es la empresa estadounidense que desarrolló ChatGPT, un popular asistente de IA/chatbot utilizado por cientos de millones de personas cada día.

La compañía siempre ha participado en todos los debates importantes sobre sistemas de IA potentes. Su director ejecutivo, Sam Altman, suele reunirse con jefes de Estado para hablar de IA e incluso comparece ante el Congreso, lo que le otorga a la compañía una influencia significativa en la política global de IA.

OpenAI también se encuentra inmersa en una batalla legal aparte, después de que el CEO de Tesla, Elon Musk, demandara a la compañía en 2024. Musk es uno de los fundadores originales de OpenAI y afirma que Sam Altman y otros ejecutivos actuaron en contra de la misión sin ánimo de lucro de la empresa y la convirtieron en una organización con fines de lucro. 

El juicio aún continúa, pero la noticia más importante de esta semana está ocurriendo en Pekín.

¿Qué propuso OpenAI y cuál es la comparación con el OIEA?

Chris Lehane,dent de Asuntos Globales de OpenA, propuso vincular dos cosas para crear algo nuevo.

Desea que el Centro de Estándares e Innovación en IA y los institutos de seguridad de la IA se unan para crear una red global. Puso como ejemplo al Organismo Internacional de Energía Atómica (OIEA) de cómo los países conectaron sus organismos reguladores nucleares en una sola entidad. 

El Centro de Estándares e Innovación de IA del Departamento de Comercio de EE. UU. es una oficina gubernamental que crea estándares técnicos para sistemas de inteligencia artificial. 

Al mismo tiempo, varios países están creando institutos de IA en todo el mundo. Por ejemplo, el Reino Unido cuenta con uno, la UE está desarrollando marcos de trabajo y varios gobiernos asiáticos también están trabajando en organismos similares. 

Lehane afirmó que un organismo unificado para la IA contribuirá a crear sistemas más seguros y resilientes, menos vulnerables a los ataques. Asimismo, solicitó al gobierno estadounidense que exija a los investigadores del país probar los modelos de IA más potentes antes de su implementación. 

¿Qué es el modelo Mythos y por qué inquieta tanto a Washington como a Pekín?

Mythos es un nuevo y potente modelo de IA que ha detectado miles de vulnerabilidades importantes en sistemas operativos y otros programas informáticos. Anthropic (la empresa de seguridad de IA respaldada por Google y Amazon) fue la desarrolladora de Mythos.

La magnitud de las capacidades de Mythos conmocionó al mundo, y bancos y gobiernos se apresuraron a reforzar sus sistemas de seguridad tras el anuncio. Incluso funcionarios de la Casa Blanca reconocieron que modelos como Mythos hacían que la comunicación con China fuera más importante que nunca. 

China quedó excluida del acceso anticipado a una versión preliminar de Mythos, lo que generó preocupación sobre la capacidad de los desarrolladores y el gobierno del país para defenderse de los ataques que utilizan el modelo de IA. 

La firma de inteligencia de mercado IDC China incluso advirtió que dejar a China fuera de Mythos podría crear una "brecha generacional" en las capacidades de defensa de IA entre China y Occidente. 

Según los investigadores, los atacantes podrían usar IA avanzada para diseñar armas biológicas, provocar crisis financieras o actuar de forma autónoma sin control humano. Lo más aterrador es que la IA solo necesita ser potente, rápida y estar mal dirigida para lograr todo esto. 

¿Qué ocurrió en la reunión entre Trump y Xi, y qué temas trataron?

La delegación estadounidense en China incluyó al director ejecutivo de Nvidia, Jensen Huang, y al principal asesor de política tecnológica de la Casa Blanca, Michael Kratsios. Su presencia en el viaje convirtió la reunión en una prioridad y un asunto urgente, ya que ambas partes llegaron preparadas para abordar directamente temas de inteligencia artificial. 

China propuso un diálogo formal sobre cuestiones de IA, liderado por el secretario del Tesoro, Scott Bessent , y el viceministro de Finanzas chino, Liao Min. Sin embargo, las expectativas sobre este canal son bajas, ya que ninguna de las dos agencias se especializa en IA.

Estados Unidos también tenía previsto expresar su preocupación por el hecho de que los desarrolladores chinos estuvieran utilizando los resultados de modelos avanzados de IA para construir sistemas a una fracción del coste, pero con menos medidas de seguridad.

Ambas partes también discutieron la posibilidad de establecer una línea directa, sin buscar culpables, para denunciar presuntosdentrelacionados con la IA, similar a las líneas directas militares.

Los analistas incluso sugirieron que ambos gobiernos podrían comprometerse a establecer salvaguardias para los modelos de IA de vanguardia, similares al Acuerdo de Ciberseguridad.

Por último, las conversaciones también podrían abordar la Ley MATCH, un proyecto de ley estadounidense que pretende limitar el acceso de China a las cadenas de suministro de semiconductores. 

Sun Chenghao, de la Universidad de Tsinghua, participó en las conversaciones sobre IA entre Estados Unidos y China y afirmó que Estados Unidos debería establecer una clara distinción entre gestionar los riesgos de seguridad de la IA y simplemente intentar bloquear el desarrollo tecnológico de China. 

“Es probable que China espere que Estados Unidos distinga adecuadamente entre la gobernanza de la IA y la contención tecnológica”, dijo Sun Chenghao.