Google retire son engagement à ne pas utiliser l'IA à des fins d'armement et de surveillance

Google a retiré de ses principes relatifs à l'intelligence artificielle (IA) un engagement qui l'empêchait de développer des IA à des fins d'armement et de surveillance. Ce changement, révélé par le Washington Post le 4 février, illustre la nouvelle approche de l'entreprise vis-à-vis des partenariats en matière de sécurité nationale, à mesure que l'IA s'intègre davantage aux opérations militaires et de renseignement.

Dans un article de blog publié mardi, les dirigeants de Google ont déclaré que cette mise à jour était nécessaire en raison de la prévalence croissante de l'IA et de la nécessité pour les entreprises technologiques basées dans les pays démocratiques de soutenir leurs clients gouvernementaux et de défense. 

Nous pensons que les démocraties doivent être à la pointe du développement de l'IA, guidées par des valeurs fondamentales telles que la liberté, l'égalité et le respect des droits humains. Nous sommes également convaincus que les entreprises, les gouvernements et les organisations qui partagent ces valeurs doivent collaborer pour créer une IA qui protège les populations, favorise la croissance mondiale et soutient la sécurité nationale.

Google

La précédente charte d'IA de l'entreprise, adoptée en 2018, qui rejetait explicitement « les armes ou autres technologies dont le but principal ou la mise en œuvre est de causer ou de « blesser directement des personnes » et « les technologies qui collectent ou utilisent des informations à des fins de surveillance en violation des normes internationalement acceptées », a maintenant été retirée de son site web consacré aux principes de l'IA.

Google met à jour ses principes d'IA pour la « sécurité nationale »

Les principes révisés de Google stipulent désormais que l'entreprise poursuivra le développement de l'IA lorsque « les avantages globaux probables dépassent largement les risques et inconvénients prévisibles ». Cette mise à jour marque une rupture notable avec sa position antérieure, qui privilégiait de larges considérations éthiques et le refus des applications d'IA susceptibles de causer du tort.

De plus, les dirigeants de l'industrie technologique américaine semblent œuvrer à l'amélioration des capacités d'IA du pays, afin de prendre l'avantage dans la « guerre froide » technologique entre les États-Unis et la Chine. 

Lundi, le directeur technique de Palantir, Shyam Sankar, a décrit la course à l'IA comme un effort « national » qui doit dépasser les frontières du ministère de la Défense pour que « l'Amérique puisse gagner »

Pendant des années, les restrictions imposées par Google aux applications de l'IA en matière de sécurité nationale l'ont isolée parmi les entreprises leaders du secteur. D'autres géants de la tech, comme Microsoft et Amazon, ont entretenu des partenariats de longue date avec le Pentagone, mais les jeunes entreprises spécialisées en IA s'ouvrent de plus en plus aux liens avec le monde militaire. 

Fin 2018, OpenAI, créateur de ChatGPT, a annoncé une collaboration avec le groupe de défensetracpour développer des technologies d'IA destinées à l'armée américaine. De même, Anthropic, la société à l'origine du chatbot Claude, s'est associée à Palantir pour fournir des services d'IA aux agences de renseignement américaines via Amazon Web Services.

Michael Horowitz, professeur de sciences politiques à l'Université de Pennsylvanie et ancien responsable du Pentagone fin connaisseur des technologies émergentes, a déclaré au Washington Post que le changement de politique de Google s'inscrit dans une tendance plus large. 

«L’annonce de Google confirme que les liens entre le secteur technologique américain et le département de la Défense se resserrent, y compris avec les entreprises leaders en intelligence artificielle», a-t-il déclaré. «Il est donc logique que Google ait adapté sa politique à cette nouvelle réalité. »

Polémique autour destracmilitaires et de surveillance de Google

En 2023, comme l'a rapporté CNN, Google a licencié plus de 50 employés suite à une série de manifestations contre le projet Nimbus, un contrat conjoint de 1,2 milliard de dollarstracAmazon portant sur l'informatique en nuage et l'intelligence artificielle, destiné à fournir des services au gouvernement et à l'armée israéliens. Les dirigeants ont défendu à plusieurs reprises cet accord, affirmant qu'il ne violait pas les principes de Google en matière d'IA.

Cependant, des documents révélés par le New York Times en décembre suggéraient que l'accord de Google avec Israël incluait des capacités d'IA telles que la catégorisation d'images et trac, ainsi que des dispositions potentielles pour les fabricants d'armes appartenant à l'État. 

Selon le Times, quatre mois avant de signer le contrat avec Project Nimbus, des dirigeants de Google avaient exprimé en privé leurs inquiétudes quant au fait que cet accord pourrait nuire à la réputation de l'entreprise et que ses services cloud pourraient être liés à des violations des droits de l'homme.

Parallèlement, Google a été critiqué pour avoir restreint les discussions internes sur les conflits géopolitiques, notamment la guerre à Gaza. Certains employés ont accusé l'entreprise de museler le débat tout en renforçant son implication dans destracd'intelligence artificielle liés à la défense et à la surveillance.

Sur les réseaux sociaux, suite à la mise à jour des principes d'IA de Google, les internautes débattent pour savoir si le plan de la start-up technologique vise à protéger les intérêts des Américains, ou s'il s'agit simplement d'une manœuvre pour s'accaparer la plus grosse part du cake destracde défense gouvernementaux.

« Alors… l’IA va-t-elle être utilisée pour l’armement et la surveillance américains ou vendue au plus offrant ? » a demandé un utilisateur X.de