La rivalidad tecnológica entre China y EE. UU. y la urgencia de la seguridad global de la IA

A medida que el mundo lidia con el rápido avance de la inteligencia artificial (IA), los responsables políticos enfrentan un dilema apremiante: el potencial de la IA para introducir riesgos catastróficos que podrían trascender las fronteras nacionales. Si bien la naturaleza exacta y la probabilidad de estos riesgos siguen siendo inciertas, los expertos enfatizan la necesidad de medidas proactivas para prevenir desastres de IA. 

El desafío de las catástrofes de IA

La IA podría potencialmente provocar eventos catastróficos con consecuencias de gran alcance. Estas incluyen el uso malicioso de la IA para crear patógenos letales, la ingeniería de crisis financieras impulsada por la IA y la aparición de sistemas de IA rebeldes fuera del control humano. La imprevisibilidad de las catástrofes de IA ha llevado a muchos a descartarlas como posibilidades remotas. Sin embargo, esperar a tener pruebas concretas antes de actuar podría resultar demasiado tarde, como lo demostró la pandemia de COVID-19.

Aprendiendo del pasado, debemos reconocer la dificultad de las personas para comprender la importancia de los riesgos remotos. La advertencia de Bill Gates sobre la vulnerabilidad a un virus de rápida propagación pasó desapercibida hasta que el impacto devastador de la pandemia de coronavirus se convirtió en realidad. No debemos repetir este error al abordar las incertidumbres en torno a la IA.

Adopción gradual de las tecnologías de IA

Los profesores del MIT Daron Acemoglu y Todd Lensman proponen un enfoque cauteloso para la adopción de tecnologías transformadoras. La sociedad debería adoptar gradualmente las nuevas tecnologías para permitir tiempo para la evaluación de riesgos. Una vez que sea más cierto que los desastres son improbables, la sociedad puede acelerar la adopción. Sin embargo, las prácticas actuales de las naciones líderes contradicen este enfoque.

EE. UU. y China están actualmente en una intensa rivalidad para afirmar su dominio en la IA. Ambas naciones están ansiosas por avanzar en sus capacidades de IA, pero esta competencia está ocurriendo sin un enfoque proporcional en la seguridad de la IA.

En Estados Unidos, las empresas de IA de vanguardia están desarrollando modelos fundamentales poderosos con riesgos potenciales para la seguridad pública. A pesar de las importantes inversiones en desarrollo de IA, estas empresas han asignado recursos limitados para garantizar la seguridad de la IA. La reciente orden ejecutiva del presidente Joe Biden tiene como objetivo abordar esto, requiriendo que los desarrolladores de modelos de IA de frontera compartan los resultados de las pruebas de seguridad y la información vital con el gobierno. Además, EE. UU. ha tomado medidas para frenar el progreso de la IA de China, incluidas las restricciones a la exportación y las prohibiciones de inversión estadounidense en el sector de IA de China. Estas acciones, aunque ralentizan el avance de China, alientan a las empresas chinas a esforzarse por la autosuficiencia tecnológica, lo que podría complicar aún más la evaluación de riesgos de IA.

Impacto de la rivalidad tecnológica entre China y EE. UU. en la seguridad de la IA

La rivalidad tecnológica en curso también ha influido en el enfoque de Pekín para regular la IA. Si bien China introdujo regulaciones integrales para los servicios de IA generativa, estas se aplican principalmente a los servicios públicos y se centran en el control de contenido e información. Los servicios con fines empresariales siguen estando menos regulados, lo que refleja la estrategia de China de fomentar el crecimiento en este sector tecnológico crítico para competir con EE. UU. Esta competencia corre el riesgo de desencadenar una «carrera hacia el fondo» en la gobernanza de la IA entre las principales potencias de IA del mundo.

La importancia de la colaboración internacional

Para abordar los riesgos inminentes de la IA, la comunidad internacional debe reconocer las posibles consecuencias catastróficas y exhortar a las empresas globales de IA a establecer protocolos de seguridad sólidos. La próxima cumbre de seguridad de la IA del Reino Unido es un punto de partida crítico para iniciar un diálogo sobre estas cuestiones vitales.

La rivalidad tecnológica entre China y EE. UU. en inteligencia artificial ha suscitado preocupaciones sobre la negligencia de la seguridad de la IA. Si bien la competencia puede impulsar la innovación, no debe eclipsar la necesidad urgente de colaborar para mitigar los riesgos de la IA. El mundo debe atender las lecciones de crisis pasadas y trabajar proactivamente juntos para garantizar el desarrollo y la regulación responsables de la IA. Solo a través de la colaboración internacional podemos esperar contener las posibles consecuencias catastróficas de las tecnologías de IA.