En un artículo de política publicado el miércoles, el ex CEO de Google, Eric Schmidt, advirtió que Estados Unidos no debería presionar por un proyecto de estilo Manhattan para el desarrollo de sistemas de IA.
El documento " Estrategia de superinteligencia " mencionó que la oferta agresiva para obtener el control de los sistemas de IA superinteligentes podría resultar en represalias de países como China. Tal represalia podría ser en forma de ataques cibernéticos, impactando directamente las relaciones internacionales.
El documento de política fue en coautoría del CEO de Scale AI Alexandr Wang, y director del Centro de Seguridad de AI, Dan Hendricks. Los coautores escribieron: "[Un] proyecto de Manhattan [para Agi] supone que los rivales aceptarán un desequilibrio u omnicida duradero en lugar de moverse para evitarlo".
Los autores agregaron además: "Lo que comienza como un impulso para una superpena y el control global corre el riesgo de provocar contramedidas hostiles y tensiones crecientes, socavando así la estabilidad que la estrategia pretende asegurar".
Este documento llegó solo unos meses después de que la Comisión del Congreso de los Estados Unidos propuso un esquema de financiación de "estilo del proyecto Manhattan" para desarrollar inteligencia general artificial. El proyecto se modela después de los esfuerzos de los Estados Unidos para desarrollar la bomba atómica en la década de 1940.
Cristo Wright, el Secretario de Energía de los Estados Unidos, mencionó que Estados Unidos está a punto de comenzar un "proyecto de New Manhattan" sobre inteligencia artificial. Él dijo: "Con el liderazgo de Presi dent Trump, Estados Unidos ganará la carrera global de IA, pero primero, debemos desatar nuestro dominio energético y restaurar la competitividad estadounidense".
Varios líderes y responsables políticos de la industria estadounidense han sugerido que buscar un programa respaldado por el gobierno para el desarrollo de la IA es la mejor manera de competir con países como China. Sin embargo, el documento de estrategia de superinteligencia desafía esta idea.
Eric Schmidt se refiere a la destrucción de la seguridad mutuamente.
El autor argumentó que, al igual que los poderes globales evitan los monopolios sobre las armas nucleares (porque pueden desencadenar represalias en forma de sabotaje preventivo), los Estados Unidos deben tener cuidado al tratar de dominar con sistemas de IA poderosos.
Eric Schmidt habló sobre un concepto llamado MAIM (mal funcionamiento de AI asegurada por mutuo). Se refiere a los gobiernos de otros países que intentan activamente deshabilitar las amenazas basadas en la IA en lugar de esperar a que AGI se armara contra ellos.
Los autores argumentaron que en lugar de centrarse en "ganar la carrera a la superinteligencia", Estados Unidos debería desarrollar métodos para disuadir a otros de la creación de tales sistemas. También agregaron que Estados Unidos debería "expandir [su] arsenal de ataques cibernéticos para deshabilitar los proyectos de IA amenazadores".
Sin embargo, la administración Trump parece inflexible sobre empujar a los Estados Unidos hacia adelante en la carrera de IA. Schmidt, sin embargo, argumenta que es aconsejable considerar un enfoque defensivo mientras el mundo observa a los Estados Unidos empujando a la IA a sus límites.
Key Difference Wire ayuda a las marcas criptográficas a romper y dominar los titulares rápidamente
