Google erhält Petition von Hunderten Mitarbeitern, die fordern, die KI-Partnerschaft mit dem Pentagon unter Trump abzulehnen

Mehr als 600 Google-Mitarbeiter (GOOGL, GOOG) wendeten sich am Montag an Sundar Pichai und baten ihn, das Pentagon von Googles KI für die Arbeit mit Geheimdienstinformationen fernzuhalten.

Der Brief stammt von Mitarbeitern aus DeepMind und Google Cloud, die auf einen Bericht von The Information verwiesen, demzufolge Google und das US-Verteidigungsministerium Gespräche über die Nutzung von Gemini in geheimen Systemen geführt haben.

Google-Mitarbeiter führen zahlreiche Gründe an, um Gemini von geheimen Pentagon-Aufgaben auszuschließen

Der Brief begann mit einer direkten Warnung an Sundar, an die die Mitarbeiter sich wandten: „Wir sind Google-Mitarbeiter, die zutiefst besorgt sind über die laufenden Verhandlungen zwischen Google und dem US-Verteidigungsministerium. Als Personen, die an KI arbeiten, wissen wir, dass diese Systeme Macht zentralisieren können und dass sie Fehler machen.“

Die Mitarbeiter sind der Ansicht, dass ihre Nähe zur Technologie sie „in die Pflicht nimmt, die unethischsten und gefährlichsten Anwendungen hervorzuheben und zu verhindern.“

„Wir bitten Sie, die Verfügbarkeit unserer KI-Systeme für geheime Arbeitslasten zu verweigern. Andernfalls könnten solche Anwendungen ohne unser Wissen oder die Möglichkeit, sie zu stoppen, erfolgen“, so die Google-Mitarbeiter. Der Brief erläuterte anschließend, dass KI den Menschen helfen, nicht aber Schaden anrichten soll. Als zentrale Befürchtungen nannten sie tödliche autonome Waffen und Massenüberwachung. Sie wiesen auch darauf hin, dass die Risiken über diese beiden Bereiche hinausgehen, da geheime Arbeiten verschleiern können, was wirklich geschieht.

Ihr Argument war, dass Google geheime militärische Workloads akzeptiert, Arbeiter möglicherweise keine Möglichkeit haben, die Nutzung zu überprüfen, zu hinterfragen oder zu stoppen, und die einzige echte Garantie darin besteht, klassifizierte Arbeit abzulehnen, bevor der Deal abgeschlossen ist.

Sie warnten zudem, dass die falsche Entscheidung Googles Ruf, Geschäft und Stellung in der Welt schädigen könnte. Die Mitarbeiter betonten, dass ihre eigene Sicherheit und kritische Infrastruktur aktiven Bedrohungen ausgesetzt sind, während Leben und Bürgerrechte bereits durch den missbräuchlichen Einsatz von Technologie gefährdet sind, die von Menschen wie ihnen entwickelt wurde.

Trumps Pentagon drängt auf massiven KI-Zugang für die US-Streitkräfte

Führungskräfte des Pentagons haben erklärt, das Militär müsse frei sein, kommerzielle KI für „alle rechtmäßigen Anwendungen“ zu nutzen. Beamte sagen, dieser Ausdruck gebe der Regierung Spielraum, die Technologie in verschiedenen Fällen einzusetzen, während sie sich innerhalb der US-Gesetze und militärischen Vorschriften bewegt.

KI-Arbeiter sehen darin nicht genügend Schutz. Ihre Besorgnis ist aufgrund der Sprache und Handlungen von Trump gewachsen. Anfang dieses Monats drohte Präsident Donald Trump damit, „jede“ Brücke und jedes Kraftwerk im Iran zu bombardieren. Experten sagten der Post, ein solcher Angriff würde das Völkerrecht brechen. Auch die Angriffe seiner Regierung auf Boote, von denen behauptet wird, sie transportierten Drogen, wurden von Völkerrechtsexperten angefochten.

Der Google-Brief fiel in eine Zeit, in der andere KI-Unternehmen bereits in Konflikte mit dem Pentagon verwickelt sind. Anthropic, das private Unternehmen hinter Claude, hatte seine Technologie im vergangenen Jahr in US-Militärsysteme integriert. Diese Tools halfen bei der Datenanalyse und der Identifizierung möglicher Ziele.

Dann schnitt das Pentagon Anthropic im Februar von allen Arbeiten des Verteidigungsministeriums ab. Das Unternehmen hatte versucht, Vertragsklauseln hinzuzufügen, die besagen, dass seine KI nicht für Massenüberwachung oder tödliche autonome Waffen verwendet werden darf.

Anthropic und die Regierung streiten nun vor Gericht darüber, ob diese Sperrung legal war. Dieser Fall hat mehr Aufmerksamkeit auf Google und OpenAI gelenkt, da beide mit dem US-Militär zusammenarbeiten.

OpenAI ist ein privates Unternehmen, daher gibt es keine Börsenkürzel. Im Februar schloss das Unternehmen einen Deal ab, um bald nach der Entfernung von Anthropic KI für geheime Arbeitslasten bereitzustellen. Sam Altman, Chief Executive von OpenAI, hat erklärt, er sei zuversichtlich, dass der Regierungsvertrag die Nutzung für Massenüberwachung in den USA und tödliche autonome Waffen ausschließt.

Google war schon einmal hier. Im Jahr 2018 protestierten Mitarbeiter gegen ein Pentagon-Projekt, das Google-KI zur Identifizierung von Objekten in Drohnenaufnahmen nutzte. Hunderte unterzeichneten eine Petition gegen diese Arbeit, und Google entschied sich später, den Deal nicht zu verlängern.

Nach diesem Streit erstellte Google eine Verpflichtungserklärung, dass seine KI-Technologie nicht für Waffen oder Überwachung genutzt werden würde. Doch das Unternehmen hat in den letzten Jahren nach mehr Militäraufträgen gesucht. Letztes Jahr hob Google diese Beschränkungen auf. Im Dezember unterzeichnete es einen Deal, der dem Verteidigungsministerium die Nutzung von Gemini ermöglicht.