El exdirector ejecutivo de Google, Eric Schmidt, advierte contra un "Proyecto estilo Manhattan" para el desarrollo de IA

En un documento de políticas publicado el miércoles, el ex director ejecutivo de Google, Eric Schmidt, advirtió que Estados Unidos no debería impulsar un proyecto al estilo Manhattan para el desarrollo de sistemas de inteligencia artificial. 

El documento «Estrategia de Superinteligencia» mencionaba que la puja agresiva por el control de sistemas de IA superinteligentes podría provocar represalias por parte de países como China. Dichas represalias podrían consistir en ciberataques, con un impacto directo en las relaciones internacionales. 

El documento de políticas fue coescrito por el director ejecutivo de Scale AI, Alexandr Wang, y el director del Centro para la Seguridad de la IA, Dan Hendricks. Los coautores escribieron: «Un Proyecto Manhattan [para la IAG] asume que los rivales aceptarán un desequilibrio persistente o un omnicidio en lugar de actuar para prevenirlo» 

Los autores agregaron además: “Lo que comienza como un impulso a una superarma y a un control global corre el riesgo de provocar contramedidas hostiles y una escalada de tensiones, socavando así la estabilidad misma que la estrategia pretende garantizar”

Este artículo se publicó apenas unos meses después de que la Comisión del Congreso de Estados Unidos propusiera un plan de financiación similar al del "Proyecto Manhattan" para desarrollar la inteligencia artificial general. El proyecto se inspira en los esfuerzos estadounidenses por desarrollar la bomba atómica en la década de 1940. 

El secretario de Energía de Estados Unidos, Christopher Wright, mencionó que el país está a punto de iniciar un "nuevo Proyecto Manhattan" en el campo de la inteligencia artificial. Declaró: "Con el liderazgo del presidentedent , Estados Unidos ganará la carrera global de la IA, pero primero debemos consolidar nuestro dominio energético y recuperar la competitividad estadounidense".

Varios líderes de la industria y legisladores estadounidenses han sugerido que implementar un programa respaldado por el gobierno para el desarrollo de IA es la mejor manera de competir con países como China. Sin embargo, el documento de la Estrategia de Superinteligencia cuestiona esta idea. 

Eric Schmidt se refiere a ello como una destrucción mutua asegurada 

El autor argumentó que, así como las potencias globales evitan los monopolios sobre armas nucleares (porque pueden desencadenar represalias en forma de sabotaje preventivo), Estados Unidos debería tener cuidado al intentar dominar con poderosos sistemas de inteligencia artificial.

Eric Schmidt habló sobre un concepto llamado MAIM (mal funcionamiento mutuo asegurado de la IA). Se refiere a los gobiernos de otros países que intentan activamente desactivar las amenazas basadas en IA en lugar de esperar a que la IAG se utilice como arma contra ellas. 

Los autores argumentaron que, en lugar de centrarse en "ganar la carrera hacia la superinteligencia", Estados Unidos debería desarrollar métodos para disuadir a otros de crear tales sistemas. También añadieron que Estados Unidos debería "ampliar su arsenal de ciberataques para desactivar proyectos de IA amenazantes"

Sin embargo, la administración Trump parece inflexible en impulsar a Estados Unidos en la carrera de la IA. Schmidt, sin embargo, argumenta que es prudente considerar una estrategia defensiva mientras el mundo observa cómo Estados Unidos lleva la IA al límite.