Más de 600 empleados de Google (GOOGL, GOOG) le dijeron a Sundar Pichai el lunes que mantuviera al Pentágono alejado de la IA de Google para trabajos clasificados.
La carta procedía de trabajadores de DeepMind y Google Cloud, quienes hicieron referencia a un informe de The Information que indicaba que Google y el Departamento de Defensa de Estados Unidos estaban en conversaciones sobre el uso de Gemini en sistemas clasificados.
Empleados de Google exponen numerosas razones para impedir que Gemini realice trabajos secretos en el Pentágono
La carta comenzaba con una advertencia directa a Sundar, a quien los trabajadores le decían: «Somos empleados de Google profundamente preocupados por las negociaciones en curso entre Google y el Departamento de Defensa de Estados Unidos. Como personas que trabajamos en inteligencia artificial, sabemos que estos sistemas pueden centralizar el poder y que cometen errores»
Los empleados afirmaron que creen que su cercanía con la tecnología les confiere "la responsabilidad de destacar y prevenir sus usos más poco éticos y peligrosos"
«Les pedimos que se nieguen a poner nuestros sistemas de IA a disposición para cargas de trabajo clasificadas. De lo contrario, tales usos podrían ocurrir sin nuestro conocimiento ni capacidad para impedirlo», declararon empleados de Google. La carta explicaba que su objetivo es que la IA ayude a las personas, no que fomente el daño. Mencionaron las armas autónomas letales y la vigilancia masiva como sus principales preocupaciones. También señalaron que los riesgos van más allá de estos dos ámbitos, ya que el trabajo clasificado puede ocultar lo que realmente está sucediendo.
Su argumento era que si Google acepta cargas de trabajo militares secretas, los trabajadores podrían no tener forma de comprobar su uso, cuestionarlo o detenerlo, y la única garantía real sería rechazar el trabajo clasificado antes de que se cierre el trato.
También advirtieron que una decisión equivocada podría dañar la reputación, el negocio y la posición de Google en el mundo. Los empleados afirmaron que su propia seguridad y la infraestructura crítica se enfrentan a amenazas activas, mientras que vidas y derechos civiles ya están en riesgo debido al mal uso de la tecnología creada por personas como ellos.
El Pentágono de Trump está forzando un acceso masivo a la IA para las fuerzas armadas estadounidenses
Los líderes del Pentágono han declarado que las fuerzas armadas deben tener libertad para utilizar la IA comercial para "todos los usos lícitos". Los funcionarios afirman que esta frase le da al gobierno margen de maniobra para utilizar la tecnología en diferentes casos, respetando siempre la legislación estadounidense y las normas militares.
Los trabajadores del sector de la IA no consideran que esto sea suficiente protección. Su preocupación ha aumentado debido al lenguaje y las acciones del propio Trump. A principios de este mes, eldent Donald Trump amenazó con bombardear "todos" los puentes y centrales eléctricas de Irán. Expertos declararon al Washington Post que tal ataque violaría el derecho internacional. Los ataques de su administración contra embarcaciones que, según afirma, transportaban drogas, también han sido cuestionados por expertos en derecho internacional.
La carta de Google llegó mientras otras empresas de IA ya están involucradas en conflictos con el Pentágono. Anthropic, la empresa privada detrás de Claude, integró su tecnología en sistemas militares estadounidenses el año pasado. Estas herramientas ayudaron a clasificar datos edentposibles objetivos.
el Pentágono suspendió para Anthropic . La empresa había intentado añadir cláusulas contractualestracestipulaban que su IA no podía utilizarse para vigilancia masiva ni para armas autónomas letales.
Anthropic y el gobierno se encuentran ahora en litigio para determinar si dicha restricción fue legal. Este caso ha atraído mayor atención hacia Google y OpenAI, dado que ambas empresas colaboran con el ejército estadounidense.
OpenAI es una empresa privada, por lo que no cotiza en bolsa. En febrero firmó un acuerdo para proporcionar IA para cargas de trabajo clasificadas, poco después de que Anthropic fuera retirada. Sam Altman, director ejecutivo de OpenAI, ha declarado estardent que eltraccon el gobierno impide su uso para la vigilancia masiva y el desarrollo de armas autónomas letales en Estados Unidos.
Google ya ha vivido una situación similar. En 2018, los trabajadores protestaron contra un del Pentágono proyectodentobjetos en grabaciones de drones. Cientos de personas firmaron una petición en contra de dicho proyecto, y Google posteriormente decidió no renovar el acuerdo.
Tras esa disputa, Google se comprometió a no utilizar su tecnología de IA para armamento ni vigilancia. Sin embargo, en los últimos años la compañía ha buscado mástracmilitares. El año pasado, Google eliminó esas restricciones. En diciembre, firmó un acuerdo que permite al Departamento de Defensa utilizar Gemini.
