Google streicht Zusage, KI nicht für Waffen und Überwachung einzusetzen

Google hat eine Verpflichtung aus seinen Grundsätzen zur künstlichen Intelligenz (KI) gestrichen. Zuvor hatte sich das Unternehmen verpflichtet, die Entwicklung von KI für Waffen- und Überwachungszwecke zu vermeiden. Die Änderung, über die die Washington Post am 4. Februar zuerst berichtete, verdeutlicht den Kurs des Unternehmens in Bezug auf Partnerschaften im Bereich der nationalen Sicherheit, da KI zunehmend in Militär- und Geheimdienstoperationen integriert wird.

In einem Blogbeitrag erklärten Google-Manager, dass das Update aufgrund der zunehmenden Verbreitung von KI und der Notwendigkeit für Technologieunternehmen mit Sitz in demokratischen Nationen, Kunden aus dem Regierungs- und Verteidigungsbereich zu unterstützen, erforderlich sei. 

Wir sind überzeugt, dass Demokratien bei der Entwicklung von KI eine führende Rolle einnehmen sollten, geleitet von Kernwerten wie Freiheit, Gleichheit und Achtung der Menschenrechte. Und wir glauben, dass Unternehmen, Regierungen und Organisationen, die diese Werte teilen, zusammenarbeiten sollten, um KI zu entwickeln, die Menschen schützt, globales Wachstum fördert und die nationale Sicherheit unterstützt.

Google

Die bisherige KI-Philosophie des Unternehmens, die 2018 in Kraft trat und in der ausdrücklich „Waffen oder andere Technologien, deren Hauptzweck oder Anwendung darin besteht, Menschen zu verletzen oder direkt zu schädigen“, sowie „Technologien, die Informationen zur Überwachung sammeln oder verwenden und dabei gegen international anerkannte Normen verstoßen“, abgelehnt wurden, wurde nun von der Website mit den KI-Prinzipien entfernt.

Google aktualisiert KI-Prinzipien für „nationale Sicherheit“

Googles überarbeitete Grundsätze besagen nun, dass das Unternehmen die KI-Entwicklung dort fortsetzen wird, wo der „voraussichtliche Nutzen die absehbaren Risiken und Nachteile deutlich übersteigt“. Diese Aktualisierung stellt eine bemerkenswerte Abkehr von der früheren Position dar, die umfassende ethische Überlegungen und die Vermeidung potenziell schädlicher KI-Anwendungen betonte.

Darüber hinaus arbeiten führende Köpfe der US-amerikanischen Technologiebranche offenbar daran, die KI-Fähigkeiten des Landes zu verbessern, um im technologischen „Kalten Krieg“ zwischen den Vereinigten Staaten und China die Nase vorn zu haben. 

Am Montag bezeichnete Shyam Sankar, Chief Technology Officer von Palantir, den Wettlauf um die beste KI als eine „gesamtstaatliche“ Anstrengung, die über die Grenzen des Verteidigungsministeriums hinausgehen müsse, damit „Amerika gewinnen kann“

Googles Beschränkungen für die Anwendung von KI im Bereich der nationalen Sicherheit machten das Unternehmen jahrelang zu einem Sonderfall unter den führenden KI-Firmen. Andere Technologiekonzerne wie Microsoft und Amazon pflegen langjährige Partnerschaften mit dem Pentagon, doch neuere KI-Unternehmen öffnen sich zunehmend militärischen Kooperationen. 

Ende letzten Jahres kündigte OpenAI, der Entwickler von ChatGPT, eine Zusammenarbeit mit dem Rüstungsunternehmentraczur Entwicklung von KI-Technologie für das US-Militär an. Auch Anthropic, das Unternehmen hinter dem Chatbot Claude, ging eine Partnerschaft mit Palantir ein, um US-Geheimdiensten KI-Dienstleistungen über Amazon Web Services anzubieten.

Michael Horowitz, Politikwissenschaftsprofessor an der Universität von Pennsylvania und ehemaliger Pentagon-Beamter mit umfassenden Kenntnissen über neue Technologien, sagte gegenüber der WP, dass Googles Richtlinienänderung Teil eines breiteren Trends sei. 

„Googles Ankündigung ist ein weiterer Beleg dafür, dass die Beziehungen zwischen dem US-Technologiesektor und dem Verteidigungsministerium, einschließlich führender KI-Unternehmen, immer enger werden“, sagte er. „Es ist nachvollziehbar, dass Google seine Richtlinien an die neue Realität angepasst hat.“

tracum Googles Militär- und Überwachungsverträge

2023 berichtete , entließ Googletracmit Amazon über Cloud Computing und KI zur Bereitstellung von Dienstleistungen für die israelische Regierung und das Militär. Führungskräfte verteidigten den Vertrag wiederholt und beteuerten, er verstoße nicht gegen Googles KI-Prinzipien.

Allerdings veröffentlichte darauf hin, dass Googles Vereinbarung mit Israel KI-Fähigkeiten wie Bildkategorisierung und Objektverfolgung tracmögliche Bestimmungen für staatliche Waffenhersteller umfasste. 

Laut der Timeshatten Google-Manager vier Monate vor der Unterzeichnung des Projekts Nimbus intern Bedenken geäußert, dass der Deal dem Ruf des Unternehmens schaden und seine Cloud-Dienste mit Menschenrechtsverletzungen in Verbindung gebracht werden könnten.

Gleichzeitig wurde Google dafür kritisiert, interne Diskussionen über geopolitische Konflikte, darunter den Gaza-Krieg, einzuschränken. Einige Mitarbeiter warfen dem Unternehmen vor, Debatten zu unterdrücken und gleichzeitig sein Engagement in KI-tracim Verteidigungs- und Überwachungsbereich zu intensivieren.

In den sozialen Medien wird im Anschluss an Googles aktualisierte KI-Prinzipien darüber diskutiert, ob der Plan des Tech-Startups darin besteht, die Interessen der Amerikaner zu schützen, oder ob es sich nur um einen Trick handelt, um sich das größte Stück vom cake bei staatlichen Verteidigungsaufträgen zutrac.

„Also … wird KI für US-Waffen und Überwachung eingesetzt oder an den Höchstbietenden verkauft?“, fragte.