Google elimina el compromiso de no utilizar la IA para armas y vigilancia

Google ha eliminado un compromiso de sus principios de inteligencia artificial (IA), que anteriormente se comprometía a evitar el desarrollo de IA para armas y vigilancia. El cambio, reportado por primera vez por The Washington Post el 4 de febrero, señala el enfoque de la empresa en las asociaciones de seguridad nacional a medida que la IA se integra más en las operaciones militares e de inteligencia.

En un artículo de blog publicado el martes, los ejecutivos de Google declararon que la actualización era necesaria debido a la creciente prevalencia de la IA y la necesidad de que las empresas tecnológicas basadas en naciones democráticas apoyen a los clientes gubernamentales y de defensa. 

Creemos que las democracias deben liderar el desarrollo de la IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto por los derechos humanos. Y creemos que las empresas, gobiernos y organizaciones que comparten estos valores deben trabajar juntos para crear una IA que proteja a las personas, promueva el crecimiento global y apoye la seguridad nacional.

Google

El anterior ethos de IA de la empresa, establecido en 2018, rechazaba explícitamente las “armas u otras tecnologías cuyo propósito principal o implementación sea causar o causar directamente ‘lesiones a las personas’” y las “tecnologías que recopilan o utilizan información para vigilancia violando las normas internacionalmente aceptadas”, han sido eliminadas de su sitio web de Principios de IA.

Google actualiza los principios de IA para la “seguridad nacional”

Los principios revisados de Google ahora establecen que la empresa procederá con el desarrollo de IA donde los “beneficios probables generales excedan sustancialmente los riesgos y desventajas previsibles”. La actualización marca una notable desviación de su postura anterior, que enfatizaba consideraciones éticas amplias y la evitación de aplicaciones de IA que pudieran causar daño.

Además, los líderes de la industria tecnológica de EE. UU. parecen estar trabajando para mejorar las capacidades de IA del país, con el fin de avanzar en la “guerra fría” tecnológica entre Estados Unidos y China. 

El lunes, el Director de Tecnología de Palantir, Shyam Sankar, describió la carrera de la IA como un esfuerzo “de toda la nación” que debe ir más allá de los muros del Departamento de Defensa, para que “Estados Unidos gane”.

Durante años, las restricciones de Google sobre las aplicaciones de IA de seguridad nacional la convirtieron en una excepción entre las principales empresas de IA. Otros gigantes tecnológicos, como Microsoft y Amazon, han mantenido asociaciones de larga data con el Pentágono, pero las nuevas empresas de IA se están mostrando más receptivas a los vínculos militares. 

A finales del año pasado, OpenAI, la creadora de ChatGPT, anunció una colaboración con el contratista de defensa Anduril para desarrollar tecnología de IA para las fuerzas armadas de EE. UU. De manera similar, Anthropic, la empresa detrás del chatbot Claude, se asoció con Palantir para proporcionar servicios de IA a las agencias de inteligencia de EE. UU. a través de Amazon Web Services.

Michael Horowitz, profesor de ciencias políticas en la Universidad de Pensilvania y ex funcionario del Pentágono bien versado en tecnologías emergentes, dijo al WP que el cambio de política de Google es parte de una tendencia más amplia. 

“El anuncio de Google es más evidencia de que la relación entre el sector tecnológico de EE. UU. y el Departamento de Defensa continúa estrechándose, incluidas las principales empresas de IA,” dijo. “Tiene sentido que Google haya actualizado su política para reflejar la nueva realidad.”

Controversia sobre los contratos militares y de vigilancia de Google

En 2023, como informó por CNN, Google despidió a más de 50 empleados después de una serie de protestas contra Project Nimbus, un contrato conjunto de computación en la nube e IA por valor de 1.200 millones de dólares con Amazon para proporcionar servicios al gobierno y las fuerzas armadas de Israel. Los ejecutivos defendieron repetidamente el acuerdo, asegurando que no violaba los principios de IA de Google.

Sin embargo, los documentos reveló por The New York Times en diciembre sugirieron que el acuerdo de Google con Israel incluía capacidades de IA como categorización de imágenes y seguimiento de objetos, así como posibles disposiciones para fabricantes de armas propiedad del estado. 

De acuerdo con el que la UE está "plenamente, cuatro meses antes de firmar Project Nimbus, los ejecutivos de Google habían expresado en privado su preocupación de que el acuerdo podría dañar la reputación de la empresa y que sus servicios en la nube podrían estar vinculados a violaciones de los derechos humanos.

Al mismo tiempo, Google ha enfrentado críticas por restringir las discusiones internas sobre conflictos geopolíticos, incluida la guerra en Gaza. Algunos empleados acusaron a la empresa de suprimir el debate mientras profundizaba simultáneamente su participación en contratos de IA relacionados con la defensa y la vigilancia.

En las redes sociales, tras la actualización de los principios de IA de Google, los internautas debaten si el plan de la startup tecnológica es proteger los intereses de los estadounidenses, o si es simplemente un ardid para llevarse la mayor parte del pastel en los contratos de defensa gubernamental.

“Entonces… ¿se usará la IA para armas y vigilancia de EE. UU. o se venderá al mejor postor?” Un usuario de X se les preguntó.