Mehr als 600 Google-Mitarbeiter (GOOGL, GOOG) forderten Sundar Pichai am Montag auf, das Pentagon von der Nutzung der Google-KI für geheime Aufgaben fernzuhalten.
Der Brief stammte von Mitarbeitern von DeepMind und Google Cloud, die auf einen Bericht von The Information verwiesen, demzufolge Google und das US-Verteidigungsministerium Gespräche über den Einsatz von Gemini in klassifizierten Systemen führten.
Google-Mitarbeiter nennen zahlreiche Gründe, warum Gemini von geheimen Pentagon-Arbeiten ausgeschlossen werden sollte
Der Brief begann mit einer direkten Warnung an Sundar, dem die Arbeiter mitteilten: „Wir sind Google-Mitarbeiter und zutiefst besorgt über die laufenden Verhandlungen zwischen Google und dem US-Verteidigungsministerium. Als Menschen, die im Bereich der KI arbeiten, wissen wir, dass diese Systeme Macht zentralisieren können und dass sie Fehler machen.“
Die Mitarbeiter gaben an, dass sie aufgrund ihrer Nähe zu der Technologie die Verantwortung trügen, „deren unethischste und gefährlichste Anwendungen aufzuzeigen und zu verhindern“
„Wir bitten Sie, die Nutzung unserer KI-Systeme für vertrauliche Aufgaben zu unterbinden. Andernfalls könnten solche Anwendungen ohne unser Wissen und ohne unsere Möglichkeit, sie zu verhindern, erfolgen“, so die Google-Mitarbeiter. In dem Schreiben erklärten sie weiter, dass sie KI zum Wohle der Menschen einsetzen und nicht als schädlich betrachten wollen. Sie nannten letale autonome Waffensysteme und Massenüberwachung als zentrale Befürchtungen. Zudem wiesen sie darauf hin, dass die Risiken über diese beiden Bereiche hinausgehen, da vertrauliche Arbeit die wahren Vorgänge verschleiern kann.
Ihr Argument lautete, dass, wenn Google geheime militärische Aufträge annimmt, die Arbeiter möglicherweise keine Möglichkeit haben, die Verwendung zu überprüfen, zu hinterfragen oder zu stoppen, und die einzige wirkliche Garantie darin besteht, geheime Arbeiten abzulehnen, bevor der Vertrag abgeschlossen ist.
Sie warnten außerdem davor, dass eine falsche Entscheidung Googles Ruf, sein Geschäft und seine Stellung in der Welt schädigen könnte. Die Mitarbeiter erklärten, ihre Sicherheit und die kritische Infrastruktur seien akut bedroht, während Leben und Bürgerrechte bereits durch den Missbrauch von Technologien, die von Menschen wie ihnen entwickelt wurden, gefährdet seien.
Trumps Pentagon erzwingt massiven KI-Zugriff für das US-Militär
Die Führung des Pentagons hat erklärt, das Militär müsse die Freiheit haben, kommerzielle KI für „alle rechtmäßigen Zwecke“ einzusetzen. Offizielle Stellen sagen, diese Formulierung gebe der Regierung Spielraum, die Technologie in verschiedenen Fällen zu nutzen, solange sie sich an US-amerikanisches Recht und militärische Vorschriften halte.
KI-Fachkräfte sehen darin keinen ausreichenden Schutz. Ihre Besorgnis hat sich aufgrund von Trumps Äußerungen und Handlungen verstärkt. Anfang des Monats drohtedent Donald Trump, „jede“ Brücke und jedes Kraftwerk im Iran zu bombardieren. Experten erklärten gegenüber der Washington Post, ein solcher Angriff verstoße gegen internationales Recht. Auch die Angriffe seiner Regierung auf Boote, die angeblich Drogen transportierten, wurden von Völkerrechtsexperten infrage gestellt.
Der Brief von Google erreichte die Öffentlichkeit zu einem Zeitpunkt, als andere KI-Firmen bereits in Auseinandersetzungen des Pentagons verwickelt sind. Anthropic, das private Unternehmen hinter Claude, hatte seine Technologie letztes Jahr in US-Militärsysteme integriert. Diese Tools halfen dabei, Daten zu sortieren und potenzielle Ziele zudent.
entzog das Pentagon Anthropic jegliche Aufträge des Verteidigungsministeriums. Das Unternehmen hatte versucht, Vertragsbedingungen hinzuzufügentracdie den Einsatz seiner KI für Massenüberwachung oder tödliche autonome Waffensysteme untersagten.
Anthropic und die Regierung streiten nun vor Gericht darüber, ob diese Abschaltung rechtmäßig war. Der Fall hat Google und OpenAI stärker in den Fokus gerückt, da beide mit dem US-Militär zusammenarbeiten.
OpenAI ist ein privates Unternehmen und daher nicht an der Börse notiert. Kurz nach dem Ausscheiden von Anthropic unterzeichnete es im Februar einen Vertrag zur Bereitstellung von KI für vertrauliche Aufgaben. Sam Altman, CEO von OpenAI, zeigte sichdent der Regierungsvertrag den Einsatz der Technologie für US-amerikanische Massenüberwachung und tödliche autonome Waffensystemetrac.
Google hat das schon einmal erlebt. 2018 protestierten Mitarbeiter gegen ein Pentagon -Projekt, bei dem Google-KI zur Objekterkennung in Drohnenaufnahmen eingesetzt wurdedentHunderte unterzeichneten eine Petition gegen das Projekt, woraufhin Google den Vertrag nicht verlängerte.
Nach diesem Streit gab Google eine Erklärung ab, in der es versicherte, seine KI-Technologie nicht für Waffen oder Überwachung einzusetzen. Doch das Unternehmen hat in den letzten Jahren verstärkt nachtracgesucht. Letztes Jahr hob Google diese Beschränkungen auf. Im Dezember unterzeichnete es einen Vertrag, der dem US-Verteidigungsministerium die Nutzung von Gemini erlaubt.
