Google recibe petición de cientos de empleados exigiendo que rechace la asociación de IA con el Pentágono de Trump

Más de 600 empleados de Google (GOOGL, GOOG) le dijeron a Sundar Pichai el lunes que mantuviera al Pentágono alejado de la IA de Google para trabajos clasificados.

La carta provenía de trabajadores dentro de DeepMind y Google Cloud, quienes señalaron un informe de The Information que indicaba que Google y el Departamento de Defensa de EE. UU. estaban en conversaciones sobre el uso de Gemini dentro de sistemas clasificados.

Los empleados de Google detallan numerosas razones para bloquear el uso de Gemini en trabajos secretos del Pentágono

La carta comenzaba con una advertencia directa a Sundar, a quien los trabajadores le dicen: “Somos empleados de Google profundamente preocupados por las negociaciones en curso entre Google y el Departamento de Defensa de EE. UU. Como personas que trabajan en IA, sabemos que estos sistemas pueden centralizar el poder y que cometen errores.”

Los empleados dijeron que creen que su cercanía a la tecnología les da “una responsabilidad de destacar y prevenir sus usos más poco éticos y peligrosos.”

“Le pedimos que se niegue a poner nuestros sistemas de IA a disposición para cargas de trabajo clasificadas. De lo contrario, dichos usos podrían ocurrir sin nuestro conocimiento o sin el poder de detenerlos”, dijeron los empleados de Google. La carta luego explicó que quieren que la IA ayude a las personas, no que apoye el daño. Nombraron las armas autónomas letales y la vigilancia masiva como miedos centrales. También dijeron que los riesgos van más allá de esas dos áreas, porque el trabajo clasificado puede ocultar lo que realmente está sucediendo.

Su argumento era que si Google acepta cargas de trabajo militares secretas, los trabajadores podrían no tener forma de verificar el uso, cuestionarlo o detenerlo, y la única garantía real es rechazar el trabajo clasificado antes de que se cierre el acuerdo.

También advirtieron que la elección incorrecta podría dañar la imagen, los negocios y el lugar de Google en el mundo. Los empleados dijeron que su propia seguridad y la infraestructura crítica enfrentan amenazas activas, mientras que las vidas y los derechos civiles ya están en riesgo debido al mal uso de la tecnología construida por personas como ellos.

El Pentágono de Trump se abre paso para obtener un acceso masivo a la IA para las fuerzas armadas de EE. UU.

Los líderes del Pentágono han dicho que las fuerzas armadas deben ser libres de utilizar la IA comercial para “todos los usos lícitos”. Los funcionarios dicen que esta frase da al gobierno margen para utilizar la tecnología en diferentes casos mientras se mantiene dentro de la ley estadounidense y las normas militares.

Los trabajadores de IA no ven eso como una protección suficiente. Su preocupación ha crecido debido al propio lenguaje y acciones de Trump. A principios de este mes, el presidente Donald Trump amenazó con bombardear “cada” puente y planta de energía en Irán. Los expertos dijeron a The Post que tal ataque violaría el derecho internacional. Los ataques de su administración contra barcos que afirma transportaban drogas también han sido cuestionados por expertos en derecho internacional.

La carta de Google llegó mientras otras empresas de IA ya están involucradas en luchas con el Pentágono. Anthropic, la empresa privada detrás de Claude, tuvo su tecnología integrada en sistemas militares de EE. UU. el año pasado. Estas herramientas ayudaron a ordenar datos e identificar posibles objetivos.

Luego, el Pentágono cortó Anthropic de todo el trabajo del Departamento de Defensa en febrero. La empresa había intentado añadir cláusulas contractuales que indicaran que su IA no podría utilizarse para vigilancia masiva ni para armas autónomas letales.

Anthropic y el gobierno están ahora en los tribunales sobre si ese corte fue legal. Ese caso ha atraído más atención hacia Google y OpenAI, ya que ambas trabajan con las fuerzas armadas de EE. UU.

OpenAI es privada, por lo que no tiene código de cotización. Firmó un acuerdo en febrero para proporcionar IA para cargas de trabajo clasificadas poco después de que Anthropic fuera eliminada. Sam Altman, director ejecutivo de OpenAI, ha dicho que está seguro de que el contrato gubernamental bloquea el uso para vigilancia masiva en EE. UU. y armas autónomas letales.

Google ya ha pasado por esto antes. En 2018, los trabajadores protestaron contra un proyecto del Pentágono que utilizaba la IA de Google para identificar objetos en imágenes de drones. Cientos firmaron una petición contra ese trabajo, y Google decidió más tarde no renovar el acuerdo.

Después de esa disputa, Google creó un compromiso de que su tecnología de IA no se utilizaría para armas o vigilancia. Pero la empresa ha pasado los últimos años buscando más contratos militares. El año pasado, Google eliminó esos límites. En diciembre, firmó un acuerdo que permite al Departamento de Defensa utilizar Gemini.