Google rimuove l'impegno a non utilizzare l'AI per armi e sorveglianza

Google ha rimosso un impegno dai suoi principi sull'intelligenza artificiale (AI), che in precedenza si impegnava a evitare lo sviluppo di AI per armi e sorveglianza. Il cambiamento, segnalato per la prima volta dal Washington Post il 4 febbraio, segnala l'approccio dell'azienda alle partnership per la sicurezza nazionale man mano che l'AI diventa sempre più integrata nelle operazioni militari e di intelligence.

In un post sul blog Pubblicato martedì, i dirigenti di Google hanno dichiarato che l'aggiornamento era necessario a causa della crescente prevalenza dell'AI e della necessità per le aziende tecnologiche basate in nazioni democratiche di supportare clienti governativi e della difesa. 

Crediamo che le democrazie dovrebbero guidare lo sviluppo dell'AI, guidate da valori fondamentali come libertà, uguaglianza e rispetto dei diritti umani. E crediamo che aziende, governi e organizzazioni che condividono questi valori dovrebbero lavorare insieme per creare un'AI che protegga le persone, promuova la crescita globale e supporti la sicurezza nazionale.

Google

L'etica precedente dell'AI dell'azienda, entrata in vigore nel 2018, rifiutava esplicitamente "armi o altre tecnologie il cui scopo principale o implementazione è causare o direttamente 'ferire le persone'" e "tecnologie che raccolgono o utilizzano informazioni per la sorveglianza che viola le norme internazionalmente accettate", sono state ora rimosse dal sito web dei principi AI di Google.

Google aggiorna i principi AI per la "sicurezza nazionale"

I principi rivisti di Google affermano ora che l'azienda procederà con lo sviluppo dell'AI dove i "benefici complessivi probabili superano sostanzialmente i rischi prevedibili e gli aspetti negativi". L'aggiornamento segna una notevole deviazione dalla sua posizione precedente, che enfatizzava ampie considerazioni etiche e l'evitamento di applicazioni AI che potrebbero causare danni.

Inoltre, i leader del settore tecnologico degli Stati Uniti sembrano lavorare per migliorare le capacità AI del paese, per avanzare nella "guerra fredda" tecnologica tra gli Stati Uniti e la Cina. 

Lunedì, Shyam Sankar, Chief Technology Officer di Palantir, ha descritto la corsa all'AI come uno sforzo "di tutta la nazione" che deve andare oltre i muri del Dipartimento della Difesa, affinché "l'America vinca".

Per anni, le restrizioni di Google sulle applicazioni di AI per la sicurezza nazionale lo hanno reso un'eccezione tra le principali aziende AI. Altri giganti tecnologici, tra cui Microsoft e Amazon, hanno mantenuto partnership di lunga data con il Pentagono, ma le nuove aziende AI si stanno avvicinando ai legami militari. 

Alla fine dello scorso anno, OpenAI, il creatore di ChatGPT, ha annunciato una collaborazione con l'azienda di difesa Anduril per sviluppare tecnologia AI per le forze armate statunitensi. Allo stesso modo, Anthropic, l'azienda dietro il chatbot Claude, si è associata con Palantir per fornire servizi AI alle agenzie di intelligence degli Stati Uniti attraverso Amazon Web Services.

Michael Horowitz, professore di scienze politiche all'Università della Pennsylvania e ex funzionario del Pentagono esperto in tecnologie emergenti, ha detto al WP che il cambiamento di politica di Google fa parte di una tendenza più ampia. 

“L'annuncio di Google è un'ulteriore prova che la relazione tra il settore tecnologico degli Stati Uniti e il Dipartimento della Difesa continua a stringersi, incluse le principali aziende AI,” ha detto. “Ha senso che Google abbia aggiornato la sua politica per riflettere la nuova realtà.”

Controversia sui contratti militari e di sorveglianza di Google

In 2023, come ha riportato riportato da CNN, Google ha licenziato oltre 50 dipendenti dopo una serie di proteste contro Project Nimbus, un contratto di cloud computing e AI da 1,2 miliardi di dollari con Amazon per fornire servizi al governo e all'esercito israeliani. I dirigenti hanno difeso ripetutamente l'accordo, affermando che non violava i principi AI di Google.

Tuttavia, i documenti ha rivelato pubblicati dal New York Times a dicembre suggerivano che l'accordo di Google con Israele includeva capacità AI come la categorizzazione delle immagini e il tracciamento degli oggetti, nonché potenziali disposizioni per produttori di armi di proprietà statale. 

Secondo il Times, quattro mesi prima di firmare Project Nimbus, i dirigenti di Google avevano espresso privatamente preoccupazioni che l'accordo potesse danneggiare la reputazione dell'azienda e che i suoi servizi cloud potessero essere collegati a violazioni dei diritti umani.

Allo stesso tempo, Google ha affrontato critiche per aver limitato le discussioni interne sui conflitti geopolitici, inclusa la guerra a Gaza. Alcuni dipendenti hanno accusato l'azienda di sopprimere il dibattito mentre approfondiva contemporaneamente il suo coinvolgimento in contratti AI legati alla difesa e alla sorveglianza.

Sui social media, dopo l'aggiornamento dei principi AI di Google, gli utenti stanno dibattendo se il piano della startup tecnologica sia proteggere gli interessi degli americani o se sia solo un trucco per prendere la fetta più grande della torta nei contratti di difesa governativa.

"Quindi... l'AI verrà utilizzata per armi e sorveglianza degli USA o venduta al miglior offerente?" Un utente di X chiesto.