Google ritira l'impegno a non utilizzare l'intelligenza artificiale per armi e sorveglianza

Google ha rimosso un impegno dai suoi principi sull'intelligenza artificiale (IA), che in precedenza si impegnava a evitare lo sviluppo di IA per armi e sorveglianza. La modifica, riportata per la prima volta dal Washington Post il 4 febbraio, segnala l'approccio dell'azienda alle partnership per la sicurezza nazionale, man mano che l'IA diventa sempre più integrata nelle operazioni militari e di intelligence.

In un post pubblicato martedì sul blog aziendale, i dirigenti di Google hanno affermato che l'aggiornamento era necessario a causa della crescente diffusione dell'intelligenza artificiale e della necessità per le aziende tecnologiche con sede in paesi democratici di supportare i clienti governativi e della difesa. 

Crediamo che le democrazie debbano guidare lo sviluppo dell'intelligenza artificiale, guidate da valori fondamentali come libertà, uguaglianza e rispetto dei diritti umani. E crediamo che aziende, governi e organizzazioni che condividono questi valori debbano collaborare per creare un'intelligenza artificiale che protegga le persone, promuova la crescita globale e supporti la sicurezza nazionale.

Google

La precedente etica dell'azienda in materia di intelligenza artificiale, emanata nel 2018, che rifiutava esplicitamente "armi o altre tecnologie il cui scopo principale o implementazione è quello di causare o "ferire direttamente le persone" e "tecnologie che raccolgono o utilizzano informazioni per la sorveglianza violando le norme accettate a livello internazionale", è stata ora rimossa dal suo sito web AI Principles.

Google aggiorna i principi dell'intelligenza artificiale per la "sicurezza nazionale"

I principi rivisti di Google stabiliscono ora che l'azienda procederà con lo sviluppo dell'intelligenza artificiale laddove "i benefici complessivi probabili superino sostanzialmente i rischi e gli svantaggi prevedibili". L'aggiornamento segna un netto distacco dalla posizione precedente, che enfatizzava ampie considerazioni etiche e l'evitamento di applicazioni di intelligenza artificiale che potessero causare danni.

Inoltre, i leader del settore tecnologico statunitense sembrano lavorare per migliorare le capacità di intelligenza artificiale del Paese, per poter avanzare nella "guerra fredda" tecnologica tra Stati Uniti e Cina. 

Lunedì, il direttore tecnico di Palantir, Shyam Sankar, ha descritto la corsa all'intelligenza artificiale come uno sforzo che coinvolge "l'intera nazione" e che deve superare i confini del Dipartimento della Difesa, affinché "l'America possa vincere"

Per anni, le restrizioni imposte da Google alle applicazioni dell'intelligenza artificiale per la sicurezza nazionale l'hanno resa un'eccezione tra le principali aziende di intelligenza artificiale. Altri giganti della tecnologia, tra cui Microsoft e Amazon, hanno mantenuto partnership di lunga data con il Pentagono, ma le nuove aziende di intelligenza artificiale si stanno aprendo ai legami militari. 

Alla fine dell'anno scorso, OpenAI, il creatore di ChatGPT, ha annunciato una collaborazione con l'appaltatore della difesatracper sviluppare tecnologie di intelligenza artificiale per l'esercito statunitense. Analogamente, Anthropic, l'azienda dietro al chatbot Claude, ha stretto una partnership con Palantir per fornire servizi di intelligenza artificiale alle agenzie di intelligence statunitensi tramite Amazon Web Services.

Michael Horowitz, professore di scienze politiche all'Università della Pennsylvania ed ex funzionario del Pentagono esperto di tecnologie emergenti, ha dichiarato al WP che il cambiamento di politica di Google rientra in una tendenza più ampia. 

"L'annuncio di Google è un'ulteriore prova del fatto che il rapporto tra il settore tecnologico statunitense e il Dipartimento della Difesa si sta intensificando, coinvolgendo anche aziende leader nel campo dell'intelligenza artificiale", ha affermato. "È logico che Google abbia aggiornato la sua politica per riflettere la nuova realtà".

Polemica suitracmilitari e di sorveglianza di Google

Nel 2023, come riportato dalla CNN, Google ha licenziato oltre 50 dipendenti in seguito a una serie di proteste contro il Progetto Nimbus, un contratto congiunto da 1,2 miliardi di dollari con Amazon per la fornitura di servizi di cloud computing e intelligenza artificialetracgoverno e all'esercito israeliani. I dirigenti hanno ripetutamente difeso l'accordo, affermando che non violava i principi di Google in materia di intelligenza artificiale.

Tuttavia, documenti rivelati dal New York Times a dicembre suggerivano che l'accordo di Google con Israele includesse funzionalità di intelligenza artificiale come la categorizzazione delle immagini e trac, nonché potenziali disposizioni per i produttori di armi statali. 

Secondo il Times, quattro mesi prima di aderire al Progetto Nimbus, i dirigenti di Google avevano espresso privatamente preoccupazioni sul fatto che l'accordo potesse danneggiare la reputazione dell'azienda e che i suoi servizi cloud potessero essere collegati a violazioni dei diritti umani.

Allo stesso tempo, Google è stata criticata per aver limitato le discussioni interne sui conflitti geopolitici, tra cui la guerra a Gaza. Alcuni dipendenti hanno accusato l'azienda di aver soffocato il dibattito e, contemporaneamente, di aver approfondito il suo coinvolgimento intracdi intelligenza artificiale legati alla difesa e alla sorveglianza.

Sui social media, seguendo i principi aggiornati di Google sull'intelligenza artificiale, gli utenti stanno discutendo se il piano della startup tecnologica sia quello di proteggere gli interessi degli americani o se sia solo uno stratagemma per accaparrarsi la cake più grande deitracdi difesa governativi.

"Allora... l'intelligenza artificiale verrà utilizzata per le armi e la sorveglianza statunitensi o venduta al miglior offerente?" ha chiestoX.