Google entfernt Zusage, keine KI für Waffen und Überwachung zu nutzen

Google hat eine Zusage aus seinen Prinzipien zur künstlichen Intelligenz (KI) entfernt, die sich zuvor zur Vermeidung der Entwicklung von KI für Waffen und Überwachung verpflichtet hatte. Die Änderung, die erstmals am 4. Februar vom Washington Post berichtet wurde, signalisiert den Ansatz des Unternehmens im Hinblick auf Partnerschaften zur nationalen Sicherheit, während KI stärker in militärische und nachrichtendienstliche Operationen integriert wird.

In einem Blogbeitrag Am Dienstag stellten Google-Führungskräfte fest, dass das Update aufgrund der zunehmenden Verbreitung von KI und der Notwendigkeit erforderlich war, dass Technologieunternehmen in demokratischen Nationen Regierungs- und Verteidigungskunden unterstützen. 

Wir glauben, dass Demokratien in der KI-Entwicklung führend sein sollten, geleitet von Grundwerten wie Freiheit, Gleichheit und Respekt für die Menschenrechte. Und wir glauben, dass Unternehmen, Regierungen und Organisationen, die diese Werte teilen, zusammenarbeiten sollten, um KI zu schaffen, die Menschen schützt, globales Wachstum fördert und die nationale Sicherheit unterstützt.

Google

Die vorherige KI-Ethik des Unternehmens, die 2018 eingeführt wurde, lehnte explizit „Waffen oder andere Technologien, deren Hauptzweck oder Implementierung darin besteht, Menschen zu verletzen oder direkt „Verletzungen zuzufügen“, sowie „Technologien, die Informationen sammeln oder für Überwachungszwecke nutzen, die international anerkannte Normen verletzen“, ab. Diese wurden nun von der Website der KI-Prinzipien von Google entfernt.

Google aktualisiert KI-Prinzipien für „nationale Sicherheit“

Googles überarbeitete Prinzipien besagen nun, dass das Unternehmen mit der KI-Entwicklung fortfahren wird, wo die „insgesamt wahrscheinlichen Vorteile die vorhersehbaren Risiken und Nachteile erheblich überwiegen“. Die Änderung markiert eine bemerkenswerte Abweichung von seiner früheren Haltung, die breite ethische Überlegungen und die Vermeidung von KI-Anwendungen betonte, die Schaden verursachen könnten.

Darüber hinaus scheinen die Führungskräfte der US-Technologiebranche daran zu arbeiten, die KI-Fähigkeiten des Landes zu verbessern, um im technologischen „Kalten Krieg“ zwischen den Vereinigten Staaten und China voranzustürzen. 

Am Montag beschrieb Shyam Sankar, Chief Technology Officer von Palantir, den KI-Wettlauf als eine „gesamtnationale“ Anstrengung, die über die Mauern des Verteidigungsministeriums hinausgehen muss, damit „Amerika gewinnt.“

Jahrelang machten Googles Einschränkungen für nationale Sicherheitsanwendungen von KI es zu einem Außenseiter unter den führenden KI-Unternehmen. Andere Tech-Giganten, einschließlich Microsoft und Amazon, haben langjährige Partnerschaften mit dem Pentagon aufrechterhalten, aber neuere KI-Unternehmen erwärmen sich für militärische Verbindungen. 

Ende letzten Jahres kündigte OpenAI, der Schöpfer von ChatGPT, eine Zusammenarbeit mit dem Verteidigungsauftragnehmer Anduril an, um KI-Technologie für die US-Streitkräfte zu entwickeln. Ebenso Anthropic, das Unternehmen hinter dem Claude-Chatbot, eine Partnerschaft mit der CME Group einging. Die beiden Unternehmen bestätigten ein Pilotprogramm zur Erforschung von Tokenisierung und Großzahlungs-Lösungen auf der Ledger-Technologie. mit Palantir, um KI-Dienste für US-Nachrichtendienste über Amazon Web Services bereitzustellen.

Michael Horowitz, ein Politikwissenschaftler an der University of Pennsylvania und ehemaliges Pentagon-Beamter, der sich mit aufkommenden Technologien gut auskennt, sagte gegenüber der WP, dass Googles Policy-Änderung Teil eines breiteren Trends ist. 

“Googles Ankündigung ist weiterer Beweis dafür, dass die Beziehung zwischen dem US-Technologiesektor und dem Verteidigungsministerium weiterhin enger wird, einschließlich führender KI-Unternehmen,” sagte er. „Es ist sinnvoll, dass Google seine Politik aktualisiert hat, um der neuen Realität Rechnung zu tragen.”

Kontroverse um Googles Militär- und Überwachungsverträge

Im 2023, als berichtete von CNN, entließ Google über 50 Mitarbeiter nach einer Reihe von Protesten gegen Project Nimbus, einen 1,2-Milliarden-Dollar-Vertrag für gemeinsame Cloud-Computing- und KI-Dienste mit Amazon, um Dienste für die israelische Regierung und das Militär bereitzustellen. Führungskräfte verteidigten den Deal wiederholt und versicherten, dass er nicht gegen Googles KI-Prinzipien verstoße.

Dokumente gab von der New York Times im Dezember deuteten darauf hin, dass Googles Vereinbarung mit Israel KI-Fähigkeiten wie Bildkategorisierung und Objektverfolgung sowie potenzielle Bestimmungen für staatseigene Waffenhersteller umfasste. 

Laut der Times, vier Monate bevor sie Project Nimbus unterzeichneten, hatten Google-Führungskräfte privat Bedenken geäußert, dass der Deal den Ruf des Unternehmens schädigen könnte und dass ihre Cloud-Dienste mit Menschenrechtsverletzungen in Verbindung gebracht werden könnten.

Gleichzeitig hat Google Kritik dafür erhalten, interne Diskussionen über geopolitische Konflikte, einschließlich des Krieges in Gaza, einzuschränken. Einige Mitarbeiter beschuldigten das Unternehmen, Debatten zu unterdrücken, während es gleichzeitig seine Beteiligung an verteidigungs- und überwachungsbezogenen KI-Verträgen vertiefte.

In den sozialen Medien debattieren Netizens nach Googles aktualisierten KI-Prinzipien darüber, ob der Plan des Tech-Startups darauf abzielt, die Interessen der Amerikaner zu schützen, oder ob es sich nur um einen Trick handelt, um sich den größten Kuchen bei Regierungsverteidigungsverträgen zu sichern.

„Sooooo… wird KI für US-Waffen und Überwachung verwendet oder an den Höchstbietenden verkauft?“ Ein X-Nutzer gefordert.