Mitarbeiter werfen OpenAI und Google DeepMind vor, KI-Risiken zu verschleiern 

Mehrere aktuelle und ehemalige Mitarbeiter von OpenAI und Google DeepMind beschuldigten ihre Unternehmen, KI-Risiken zu vertuschen, die potenziell zum Aussterben der Menschheit führen könnten. In einem offenen Brief behaupteten die Arbeitnehmer, dass KI-Unternehmen den Gewinn an die erste Stelle setzen und „effektive [staatliche] Aufsicht“ vermeiden.

Auch lesen: OpenAI plant Nachfolger für GPT-4 angesichts von Bedenken hinsichtlich der Sicherheit

Der offene Brief wurde von 11 ehemaligen Mitarbeitern von OpenAI, zwei von Google DeepMind, unterzeichnet und vom „Vater der KI“ Geoffrey Hinton, formerly von Google, unterstützt. Er besagt, dass Gewinninteressen und regulatorische Schlupflöcher es Unternehmen ermöglichen, die durch fortschrittliche künstliche Intelligenz verursachten Bedrohungen zu vertuschen.

KI könnte zum „Aussterben der Menschheit“ führen

Laut dem Brief haben KI-Unternehmen wie OpenAI und Google DeepMind, der Schöpfer von Gemini, keine Informationen über unzureichende Sicherheitsvorkehrungen und Risikoniveaus ihrer Systeme öffentlich geteilt, da sie dazu nicht verpflichtet sind.

Ohne regulatorische Aufsicht könnten die KI-Programme schwere Schäden für den Menschen verursachen. Die Mitarbeiter warnten:

„Diese Risiken reichen von der weiteren Verfestigung bestehender Ungleichheiten… bis zum Verlust der Kontrolle über autonome KI-Systeme, die potenziell zum Aussterben der Menschheit führen könnten.“

Wie von den Unterzeichnern des Briefes angemerkt, haben KI-Unternehmen diese Risiken selbst anerkannt. Im Mai 2023 unterzeichneten die CEOs von OpenAI, Anthropic und Google DeepMind einen offenen Brief des Center for AI Safety. Der Brief lautete lediglich: „Die Minderung des Risikos eines Aussterbens durch KI sollte eine globale Priorität neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg sein.“

KI-Unternehmen geraten zunehmend in die Kritik, da sie neuartige Produkte und Gewinne über Sicherheit und Schutz stellen. ChatGPT-Hersteller OpenAI nahm die in dem Brief geäußerten Bedenken zur Kenntnis und erklärte, es arbeite daran, künstliche Intelligenz zu entwickeln, die sicher ist.

„Wir sind stolz auf unsere Erfolgsbilanz bei der Bereitstellung der fähigsten und sichersten KI-Systeme und glauben an unseren wissenschaftlichen Ansatz zur Risikobewältigung“, sagte OpenAI-Sprecherin Lindsey Held der New York Times.

„Wir sind der Ansicht, dass eine rigorose Debatte angesichts der Bedeutung dieser Technologie entscheidend ist, und wir werden weiterhin mit Regierungen, der Zivilgesellschaft und anderen Gemeinschaften auf der ganzen Welt zusammenarbeiten.“

Whistleblower fürchten Repressalien

Die ehemaligen OpenAI- und Google-Mitarbeiter sagten, sie möchten die Aufsichtsfunktion übernehmen, während die Regulierungsbehörden Gesetze ausarbeiten, die KI-Entwickler verpflichten, mehr Informationen über ihre Programme öffentlich offenzulegen.

Allerdings schrecken Vertraulichkeitsvereinbarungen und die Wahrscheinlichkeit von Repressalien durch Arbeitgeber die Arbeitnehmer davon ab, ihre Bedenken öffentlich zu äußern. Laut dem Brief:

„Einige von uns fürchten aus gutem Grund verschiedene Formen von Repressalien, angesichts der Geschichte solcher Fälle in der Branche. Wir sind nicht die ersten, die auf diese Probleme stoßen oder darüber sprechen.“

Whistleblower sind in den USA gesetzlich geschützt, aber diejenigen, die auf die Gefahren der künstlichen Intelligenz hinweisen, sind nicht abgedeckt, da die Technologie noch nicht reguliert ist.

Auch lesen: ChatGPT verbreitet weiterhin Falschinformationen, so die EU-Datenschutzbehörde

Der Brief forderte KI-Unternehmen auf, verifizierbar anonyme Rückmeldungen zu erleichtern, eine Kultur der offenen Kritik zu unterstützen und nicht gegen Whistleblower vorzugehen.

KI-Forscher Lance B. Eliot sagte, dass Firmen einen Ansatz mit „Karotte und Peitsche“ gegenüber Kritikern verfolgen. Mitarbeiter, die nicht gegen Risiken protestieren, werden mit Beförderungen und Gehaltserhöhungen belohnt.

Andererseits verlieren Whistleblower und Kritiker ihre Aktienoptionen und können gezwungen werden, das Unternehmen zu verlassen, und werden von der KI-Führungsebene stillschweigend auf eine schwarze Liste gesetzt.

Bericht von Cryptopolitan von Jeffrey Gogo