Google retira su compromiso de no usar IA para armas y vigilancia

Google ha retirado un compromiso de sus principios de inteligencia artificial (IA), que anteriormente se comprometía a evitar el desarrollo de IA para armas y vigilancia. El cambio, del que The Washington Post informó por primera vez el 4 de febrero, refleja el enfoque de la compañía hacia las alianzas de seguridad nacional a medida que la IA se integra cada vez más en las operaciones militares y de inteligencia.

En una publicación de blog difundida el martes, los ejecutivos de Google afirmaron que la actualización era necesaria debido a la creciente prevalencia de la IA y a la necesidad de que las empresas tecnológicas con sede en naciones democráticas presten apoyo a clientes gubernamentales y de defensa. 

Creemos que las democracias deben liderar el desarrollo de la IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto a los derechos humanos. Y creemos que las empresas, los gobiernos y las organizaciones que comparten estos valores deben colaborar para crear una IA que proteja a las personas, promueva el crecimiento global y apoye la seguridad nacional.

Google

Los principios de IA anteriores de la empresa, promulgados en 2018, rechazaban explícitamente “las armas u otras tecnologías cuyo propósito principal o implementación sea causar o directamente “lesionar a las personas” y “las tecnologías que recopilan o usan información para vigilancia violando normas internacionalmente aceptadas”, ahora han sido eliminados de su sitio web de Principios de IA.

Google actualiza los principios de IA para la “seguridad nacional”

Los principios revisados ​​de Google establecen que la compañía continuará con el desarrollo de IA cuando los beneficios probables generales superen con creces los riesgos y desventajas previsibles. Esta actualización supone un cambio notable respecto a su postura anterior, que priorizaba consideraciones éticas generales y la prevención de aplicaciones de IA que pudieran causar daños.

Es más, los líderes de la industria tecnológica estadounidense aparentemente están trabajando para mejorar las capacidades de inteligencia artificial del país, con el fin de avanzar en la “guerra fría” tecnológica entre Estados Unidos y China. 

El lunes, el director de tecnología de Palantir, Shyam Sankar, describió la carrera de la IA como un esfuerzo de “toda la nación” que debe ir más allá de los muros del Departamento de Defensa, para que “Estados Unidos gane”

Durante años, las restricciones de Google a las aplicaciones de IA para la seguridad nacional la convirtieron en una excepción entre las principales empresas de IA. Otros gigantes tecnológicos, como Microsoft y Amazon, han mantenido colaboraciones de larga data con el Pentágono, pero las empresas de IA más nuevas están comenzando a colaborar con el ejército. 

A finales del año pasado, OpenAI, creador de ChatGPT, anunció una colaboración con la empresa contratista de defensatracpara desarrollar tecnología de IA para el ejército estadounidense. De igual forma, Anthropic, la empresa creadora del chatbot Claude, se asoció con Palantir para brindar servicios de IA a las agencias de inteligencia estadounidenses a través de Amazon Web Services.

Michael Horowitz, profesor de ciencias políticas de la Universidad de Pensilvania y ex funcionario del Pentágono con gran conocimiento en tecnologías emergentes, dijo al WP que el cambio de política de Google es parte de una tendencia más amplia. 

“El anuncio de Google es una prueba más de que la relación entre el sector tecnológico estadounidense y el Departamento de Defensa se estrecha cada vez más, incluyendo a las principales empresas de IA”, afirmó. “Tiene sentido que Google haya actualizado su política para reflejar la nueva realidad”.

Polémica portracmilitares y de vigilancia de Google

En 2023, según informó CNN, Google despidió a más de 50 empleados tras una serie de protestas contra el Proyecto Nimbus, untraccon Amazon para prestar servicios al gobierno y al ejército israelíes. Los ejecutivos defendieron repetidamente el acuerdo, afirmando que no infringía los principios de inteligencia artificial de Google.

Sin embargo, documentos revelados por The New York Times en diciembre sugerían que el acuerdo de Google con Israel incluía capacidades de IA como la categorización de imágenes y trac, así como posibles disposiciones para fabricantes de armas estatales. 

Según el Times, cuatro meses antes de firmar el Proyecto Nimbus, los ejecutivos de Google habían expresado en privado su preocupación de que el acuerdo pudiera dañar la reputación de la empresa y de que sus servicios en la nube pudieran estar vinculados a violaciones de los derechos humanos.

Al mismo tiempo, Google ha enfrentado críticas por restringir las discusiones internas sobre conflictos geopolíticos, incluida la guerra en Gaza. Algunos empleados acusaron a la compañía de suprimir el debate al tiempo que profundizaba su participación entracde inteligencia artificial relacionados con la defensa y la vigilancia.

En las redes sociales, siguiendo los principios de inteligencia artificial actualizados de Google, los internautas están debatiendo si el plan de la empresa tecnológica es proteger los intereses de los estadounidenses o es solo una estratagema para quedarse con la mayor parte de los cake de defensa deltrac.

“Entonces… ¿la IA se utilizará para armas y vigilancia en EE. UU. o se venderá al mejor postor?” preguntó,