Google supprime son engagement à ne pas utiliser l'IA pour les armes et la surveillance

Google a supprimé un engagement de ses principes d'intelligence artificielle (IA), qui s'engageait précédemment à éviter le développement de l'IA pour les armes et la surveillance. Le changement, signalé pour la première fois par The Washington Post le 4 février, indique l'approche de l'entreprise en matière de partenariats de sécurité nationale alors que l'IA devient de plus en plus intégrée dans les opérations militaires et de renseignement.

Dans un article de blog publié le mardi, les dirigeants de Google ont déclaré que cette mise à jour était nécessaire en raison de la prévalence croissante de l'IA et du besoin pour les entreprises technologiques basées dans des nations démocratiques de soutenir les clients gouvernementaux et de défense. 

Nous croyons que les démocraties devraient diriver le développement de l'IA, guidées par des valeurs fondamentales telles que la liberté, l'égalité et le respect des droits humains. Et nous pensons que les entreprises, les gouvernements et les organisations partageant ces valeurs devraient travailler ensemble pour créer une IA qui protège les personnes, favorise la croissance mondiale et soutienne la sécurité nationale.

Google

L'éthique antérieure de l'IA de l'entreprise, mise en œuvre en 2018, rejetait explicitement les « armes ou autres technologies dont l'objectif principal ou la mise en œuvre est de causer ou de causer directement des « blessures aux personnes » et les « technologies qui recueillent ou utilisent des informations pour une surveillance violant les normes internationalement acceptées », ont désormais été supprimées de son site web des Principes de l'IA.

Google met à jour ses principes de l'IA pour la « sécurité nationale »

Les principes révisés de Google indiquent désormais que l'entreprise poursuivra le développement de l'IA lorsque les « avantages probables globaux dépasseront substantiellement les risques et inconvénients prévisibles ». Cette mise à jour marque un écart notable par rapport à sa position antérieure, qui mettait l'accent sur des considérations éthiques larges et l'évitement des applications de l'IA susceptibles de causer des dommages.

De plus, les dirigeants de l'industrie technologique américaine semblent travailler à l'amélioration des capacités de l'IA du pays, afin de prendre de l'avance dans la « guerre froide » technologique entre les États-Unis et la Chine. 

Lundi, le directeur technologique de Palantir, Shyam Sankar, a décrit la course à l'IA comme un effort « à l'échelle de la nation » qui doit dépasser les murs du Département de la Défense, pour que « l'Amérique gagne ».

Pendant des années, les restrictions de Google sur les applications de l'IA liées à la sécurité nationale en ont fait une exception parmi les principales entreprises d'IA. D'autres géants de la technologie, y compris Microsoft et Amazon, ont maintenu des partenariats de longue date avec le Pentagone, mais les nouvelles entreprises d'IA se montrent de plus en plus favorables aux liens militaires. 

Fin l'année dernière, OpenAI, le créateur de ChatGPT, a annoncé une collaboration avec le contractant de défense Anduril pour développer une technologie d'IA pour l'armée américaine. De même, Anthropic, l'entreprise derrière le chatbot Claude, partenariats avec Palantir pour fournir des services d'IA aux agences de renseignement américaines via Amazon Web Services.

Michael Horowitz, professeur de science politique à l'Université de Pennsylvanie et ancien responsable du Pentagone bien versé dans les technologies émergentes, a déclaré au WP que le changement de politique de Google faisait partie d'une tendance plus large. 

“L'annonce de Google est une nouvelle preuve que la relation entre le secteur technologique américain et le Département de la Défense continue de se resserrer, y compris avec les principales entreprises d'IA,” a-t-il déclaré. «Il est logique que Google ait mis à jour sa politique pour refléter la nouvelle réalité.”

Controverse autour des contrats militaires et de surveillance de Google

En 2023, comme a rapporté par CNN, Google a licencié plus de 50 employés à la suite d'une série de manifestations contre le projet Nimbus, un contrat conjoint de cloud computing et d'IA de 1,2 milliard de dollars avec Amazon pour fournir des services au gouvernement et à l'armée israéliens. Les dirigeants ont défendu à plusieurs reprises l'accord, affirmant qu'il ne violait pas les principes d'IA de Google.

Cependant, des documents a révélé par le New York Times en décembre ont suggéré que l'accord de Google avec Israël comprenait des capacités d'IA telles que la catégorisation d'images et le suivi d'objets, ainsi que des dispositions potentielles pour les fabricants d'armes appartenant à l'État. 

Selon le Times, quatre mois avant de signer le projet Nimbus, les dirigeants de Google avaient soulevé en privé des préoccupations selon lesquelles l'accord pourrait nuire à la réputation de l'entreprise et que ses services cloud pourraient être liés à des violations des droits humains.

En même temps, Google a fait face à des critiques pour avoir restreint les discussions internes sur les conflits géopolitiques, y compris la guerre à Gaza. Certains employés ont accusé l'entreprise de supprimer le débat tout en approfondissant simultanément son implication dans les contrats d'IA liés à la défense et à la surveillance.

Sur les réseaux sociaux, suite à la mise à jour des principes d'IA de Google, les internautes débattent de savoir si le plan de la startup technologique vise à protéger les intérêts des Américains, ou s'il s'agit simplement d'un stratagème pour prendre la plus grande part du gâteau dans les contrats de défense gouvernementaux.

« Donc… l'IA va-t-elle être utilisée pour les armes et la surveillance des États-Unis ou vendue au plus offrant ? » Un utilisateur de X a demandé.