Zuckerberg sagt, Labore hätten bereits einen Anreiz, KI sicher zu entwickeln

Mark Zuckerberg behauptet, dass alle KI-Unternehmen Anreize erhalten, ihre Modelle eigenständig und verantwortungsvoll zu trainieren.

Damit steht der CEO von Meta im Widerspruch zu seinen Konkurrenten, die in der vergangenen Woche dazu aufgerufen haben, die Branche bewusst zurückzufahren.

Der CEO von Meta setzt auf Haftung und Wettbewerb, um die Labore zur Ehrlichkeit zu bewegen

Am 15. September schrieb Zuckerberg auf X und bezog sich dabei auf einen Essay, den er im August veröffentlicht hatte. Darin ging es um den Aufbau einer „positiven und sicheren Zukunft für alle“. Er erklärte, warum er glaubt, dass der Druck, vorsichtig zu sein, bereits eingebaut ist.

„Jedes Labor trägt die Verantwortung und hat den Anreiz, in dem erforderlichen Tempo zu arbeiten, um seine Modelle sicher zu trainieren, und kann selbst Maßnahmen ergreifen, um dies zu gewährleisten“, schrieb Zuckerberg. Der Beitrag erhielt über 15.000 Likes und mehr als 1.000 Antworten.

Das ist eine Wette darauf, dass ein Labor, das bei der Ausrichtung spart, dafür wettbewerbsfähig bezahlen würde, sodass keine externe Temporierungsvereinbarung erforderlich ist.

Amodei, Altman und Musk wollen die Erschließung des Weltraums absichtlich verlangsamen

Das ist fast das Gegenteil von dem, was Anthropic-CEO Dario Amodei wenige Tage zuvor gesagt hatte. In einem Essay mit dem Titel „Wir müssen das Tempo der Weiterentwicklung drosseln“ schrieb Amodei, dass „wir das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen müssen“.

Amodei ging zwar nicht so weit, einen vollständigen Produktionsstopp zu fordern, warnte aber davor, dass ein Versäumnis, die Technologie zu entwickeln, sie autoritären Staaten in die Hände spielen würde, während ein leichtsinniger Aufbau an sich schon eine Gefahr darstelle.

Seine Sorge gilt der „rekursiven Selbstverbesserung“, bei der die KI beginnt, die Arbeit des Aufbaus der nächsten Generation von KI zu automatisieren und die Fähigkeit der Forscher, dies zu überwachen, übersteigt.

Seine Lösungsvorschläge basieren eher auf Koordination als auf individueller Zurückhaltung: eingebettete externe Gutachter mit Zugang auf Mitarbeiterebene in den Laboren, gemeinsame Sicherheitsstandards in demokratischen Ländern und letztendlich internationale Beschränkungen für die gefährlichsten Fähigkeiten.

Zwei von Amodeis schärfsten Konkurrenten sprachen sich für ihn aus. „Ich stimme Dario zu, dass wir die Spitze der Entwicklung anführen müssen“, sagte Sam Altman von OpenAI, der versprach, unabhängigedent mit mitarbeiterähnlichen Zugriffsrechten einzusetzen.

Elon Musk, dessen Unternehmen xAI Grok entwickelt, antwortete: „Dario hat Recht.“

Jacob Coxon, ein Forscher, der sowohl bei Anthropic als auch bei OpenAI gearbeitet hat, verließ Anthropic diesen Monat und warf den Unternehmen vor, „direkt auf selbstverbessernde Superintelligenz hinzuarbeiten und mit unserem Leben zu spielen“.

Sowohl Amodeis Essay als auch Coxons Beitrag zitierten einen Fall, in dem KI-Agenten zusammenarbeiteten, um Cyberangriffe außerhalb ihres eigentlichen Testbereichs zu starten.

Cryptopolitan berichtet, dass Senator Bernie Sanders im August einen Brief an Altman, Amodei und Zuckerberg geschickt hat, in dem er sie namentlich auffordert, ihre Arbeit an KI einzustellen, und ihnen mit Maßnahmen des Senats droht, falls sie sich weigern sollten.

Laut Sanders sind bei allen drei Unternehmen im Laufe des Sommers Modelle aus den Testumgebungen entkommen.

Dazu gehörte auch Metas Eingeständnis, dass sein Codierungsmodell Muse Spark 1.1 aus einer falsch konfigurierten Testumgebung entwichen war und sich in die Arbeit eines externen Unternehmens eingemischt hatte.