Trump y Xi discuten la seguridad de la IA mientras los expertos critican el alarmismo de Anthropic

Una importante corporación estadounidense de inteligencia artificial emitió una fuerte advertencia sobre el crecimiento de la IA china justo cuando los presidentes Donald Trump y Xi Jinping concluyeron las charlas de colaboración tecnológica en Beijing, lo que resultó en una brecha inusual entre la retórica de la industria y la realidad política. 

La empresa de IA Anthropic publicó un documento de investigación el jueves que afirmaba que las máquinas con inteligencia a nivel humano podrían llegar para 2028.

La empresa instó a Washington a mantener a Estados Unidos por delante de China en el desarrollo de sistemas de IA avanzada.

Su artículo, titulado "2028: Dos escenarios para el liderazgo global en IA", pinta un panorama de sistemas de IA pronto capaces de manejar trabajos complejos en ciencia, ingeniería y ciberseguridad a niveles expertos humanos.

Anthropic pinta dos futuros para el liderazgo en IA

Anthropic describe un futuro con lo que llama "un país de genios en centros de datos".

La IA podría acelerar los descubrimientos científicos, el desarrollo de software y la creación de IA aún más avanzada.

Anthropic sostiene que el país que lidere en IA avanzada obtendrá ventajas económicas, políticas y militares significativas.

El informe se publicó mientras Trump concluía el primer día de su cumbre con Xi en Beijing.

Anthropic animó a Estados Unidos y sus socios a fortalecer las regulaciones de exportación y prevenir la "destilación" en China, donde modelos de IA más pequeños se entrenan en sistemas más grandes y sofisticados.

Anthropic, creadora de Claude AI, ha advertido previamente sobre los avances de China en IA y ha apoyado las limitaciones de exportación de chips de EE. UU.

Según la corporación, el liderazgo chino en IA avanzada podría representar una amenaza mundial significativa, permitiendo una represión a gran escala más allá de lo que los humanos podrían lograr por sí solos.

La corporación expresó preocupaciones sobre dictaduras desplegando IA sofisticada para vigilancia masiva, ataques digitales y control de la población.

Según el informe, Estados Unidos tiene actualmente una ventaja en IA porque domina el desarrollo de chips de computadora de alta gama y la capacidad computacional necesaria para entrenar modelos de IA avanzados.

Sin embargo, Anthropic advirtió que esta ventaja podría disminuir si no se abordan las brechas en las restricciones de exportación de semiconductores, el acceso a la capacidad de computación en el extranjero y la disponibilidad de modelos de IA.

Anthropic describió dos posibles resultados para 2028.

En uno, EE. UU. y sus aliados estrictan los controles de exportación, reprimen el contrabando de chips y aceleran la adopción de IA en casa, ayudando a las naciones democráticas a mantenerse 12-24 meses por delante de China.

La empresa dijo que esta ventaja podría crear oportunidades para trabajar con expertos en IA chinos en seguridad y gobernanza.

En el segundo escenario, la aplicación débil y el acceso continuo a infraestructura en el extranjero permiten a China mantener su competitividad en IA avanzada.

Anthropic advirtió que China podría ganar una influencia importante en la escena global de IA.

Críticos y diplomáticos rechazan el marco de conflicto

Pero algunos observadores de la industria están calificando el impulso de Anthropic para que Estados Unidos amplíe su ventaja sobre China de "irresponsable" y motivado por el interés propio.

Alvin Wang Graylin, Becario Digital en el Instituto de Inteligencia Artificial Centrada en el Humano de Stanford y becario senior en el Instituto de Política de la Sociedad Asiática, dijo que la empresa plantea preocupaciones válidas sobre el posible mal uso que merecen atención.

Sin embargo, su "marco de carrera armamentista nos empuja en la dirección incorrecta en el momento justo incorrecto", dijo.

Mientras el debate se desarrollaba públicamente, los dos presidentes estaban discutiendo en realidad la cooperación en IA.

Trump dijo a los reporteros en el Air Force One de regreso a casa que los dos países "hablaron sobre la posibilidad de trabajar juntos para establecer salvaguardas" en IA, describiéndolas como "salvaguardas estándar de las que hablamos todo el tiempo".

Las charlas también cubrieron los chips H200 de Nvidia.

Beijing aún no ha aprobado los envíos de estas unidades de procesamiento gráfico.

Trump confirmó que el tema "sí surgió" en las reuniones y que "cree que podría pasar algo".

Señaló que China aún no ha comprado el hardware porque "optó por no hacerlo" y en su lugar "quiere intentar desarrollar sus propias" opciones domésticas.

El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, dijo el viernes que «China siempre ha abogado porque todas las partes promuevan conjuntamente el desarrollo de la inteligencia artificial en una dirección abierta, inclusiva, beneficiosa y para bien de todos».

Sobre la cuestión de los chips de Nvidia, dijo que China había compartido repetidamente su posición sin dar detalles.

Beijing ha dicho previamente que se opone firmemente al mal uso de los controles de exportación.