La rivalidad tecnológica entre China y Estados Unidos y la urgencia de la seguridad global de la IA

Mientras el mundo lidia con el rápido avance de la inteligencia artificial (IA), los responsables políticos se enfrentan a un dilema acuciante: la posibilidad de que la IA presente riesgos catastróficos que podrían trascender las fronteras nacionales. Si bien la naturaleza exacta y la probabilidad de estos riesgos siguen siendo inciertas, los expertos enfatizan la necesidad de medidas proactivas para prevenir los desastres provocados por la IA. 

El desafío de las catástrofes de la IA

La IA puede provocar eventos catastróficos con consecuencias de gran alcance. Entre ellos se incluyen el uso malicioso de la IA para crear patógenos letales, la ingeniería de crisis financieras impulsada por la IA y la aparición de sistemas de IA deshonestos que escapan al control humano. La imprevisibilidad de las catástrofes causadas por la IA ha llevado a muchos a descartarlas como posibilidades remotas. Sin embargo, esperar a tener pruebas concretas antes de actuar puede resultar demasiado tarde, como lo demuestra la pandemia de COVID-19.

Aprendiendo del pasado, debemos reconocer la dificultad de las personas para comprender la importancia de los riesgos remotos. La advertencia de Bill Gates sobre la vulnerabilidad a un virus de rápida propagación fue ignorada hasta que el devastador impacto de la pandemia de coronavirus se hizo realidad. No debemos repetir este error al abordar las incertidumbres en torno a la IA.

Adopción gradual de tecnologías de IA

Los profesores del MIT Daron Acemoglu y Todd Lensman proponen un enfoque cauteloso para la adopción de tecnologías transformadoras. La sociedad debería adoptar gradualmente las nuevas tecnologías para dar tiempo a la evaluación de riesgos. Una vez que se tenga mayor certeza de que los desastres son improbables, la sociedad puede acelerar la adopción. Sin embargo, las prácticas actuales de las naciones líderes contradicen este enfoque.

Estados Unidos y China se encuentran actualmente en una intensa rivalidad por consolidar su dominio en IA. Ambas naciones están ansiosas por mejorar sus capacidades de IA, pero esta competencia se desarrolla sin un enfoque proporcional en la seguridad de la IA.

En Estados Unidos, empresas de IA de vanguardia están desarrollando potentes modelos de base con riesgos potenciales para la seguridad pública. A pesar de las sustanciales inversiones en el desarrollo de IA, estas empresas han asignado recursos limitados para garantizar su seguridad. La reciente orden ejecutiva deldent Joe Biden busca abordar este problema al exigir a los desarrolladores de modelos de IA de vanguardia que compartan los resultados de las pruebas de seguridad e información vital con el gobierno. Además, Estados Unidos ha tomado medidas para frenar el progreso de la IA en China, incluyendo restricciones a la exportación y prohibiciones a la inversión estadounidense en el sector chino de IA. Estas acciones, si bien ralentizan el avance de China, incentivan a las empresas chinas a esforzarse por alcanzar la autosuficiencia tecnológica, lo que puede complicar aún más la evaluación de riesgos de la IA.

El impacto de la rivalidad tecnológica entre China y Estados Unidos en la seguridad de la IA

La continua rivalidad tecnológica también ha influido en el enfoque de Pekín para regular la IA. Si bien China introdujo regulaciones integrales para los servicios de IA generativa, estas se aplican principalmente a los servicios públicos y se centran en el control de contenido e información. Los servicios con fines comerciales siguen estando menos regulados, lo que refleja la estrategia de China de impulsar el crecimiento en este sector tecnológico crucial para competir con EE. UU. Esta competencia corre el riesgo de desencadenar una competencia a la baja en la gobernanza de la IA entre las principales potencias mundiales en este campo.

La importancia de la colaboración internacional

Para abordar los inminentes riesgos de la IA, la comunidad internacional debe reconocer las consecuencias potencialmente catastróficas e instar a las empresas globales de IA a establecer protocolos de seguridad sólidos. La próxima cumbre sobre seguridad de la IA en el Reino Unido es un punto de partida crucial para iniciar un diálogo sobre estos temas vitales.

La rivalidad tecnológica entre China y Estados Unidos en materia de inteligencia artificial ha suscitado preocupación por la desatención a la seguridad de la IA. Si bien la competencia puede impulsar la innovación, no debe eclipsar la urgente necesidad de colaborar para mitigar los riesgos de la IA. El mundo debe aprender de las lecciones de crisis pasadas y colaborar proactivamente para garantizar el desarrollo y la regulación responsables de la IA. Solo mediante la colaboración internacional podemos aspirar a contener las consecuencias potencialmente catastróficas de las tecnologías de IA.