Zuckerberg sagt, Labs hätten bereits den Anreiz, KI sicher zu bauen

Mark Zuckerberg ist der Ansicht, dass alle KI-Unternehmen den Anreiz haben, ihre Modelle eigenständig verantwortungsvoll zu trainieren.

Das stellt den Meta-CEO in Gegensatz zu Konkurrenten, die die Branche in der vergangenen Woche aufgefordert haben, bewusst das Tempo zu drosseln.

Meta-CEO stützt sich auf Haftung und Wettbewerb, um Labs ehrlich zu halten

Zuckerberg schrieb am 15. September auf X und verwies auf einen Aufsatz, den er im August über den Aufbau „einer positiven und sicheren Zukunft für alle“ veröffentlicht hatte, und erklärte, warum er glaubt, dass der Druck, vorsichtig zu sein, bereits eingebaut ist.

„Jedes Lab hat die Verantwortung und den Anreiz, sich mit dem Tempo zu bewegen, das erforderlich ist, um seine Modelle sicher zu trainieren, und die Fähigkeit, eigene Maßnahmen zu ergreifen, um sicherzustellen, dass dies geschieht“, schrieb Zuckerberg. Der Beitrag erhielt über 15.000 Likes und mehr als 1.000 Antworten.

Das ist die Wette, dass ein Lab, das bei der Ausrichtung spart, dies wettbewerbsbedingt bezahlen muss, sodass keine externe Temporegelung erforderlich ist.

Amodei, Altman und Musk wollen, dass die Front deliberately verlangsamt wird

Das ist fast das Gegenteil dessen, was Anthropic-CEO Dario Amodei einige Tage zuvor sagte. In einem , das am Samstag unter dem Titel „We Must Pace the Frontier“ veröffentlicht wurde, schrieb Amodei, dass „wir das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen müssen.“

Amodei ging nicht so weit, einen vollständigen Stopp zu fordern, warnte jedoch, dass das Unterlassen des Aufbaus dieser Technologie sie autoritären Staaten in die Hände spielen würde, während ein rücksichtsloser Aufbau an sich eine Gefahr darstellt.

Wovor er Angst hat, ist die „rekursive Selbstverbesserung“, bei der KI beginnt, die Arbeit des Aufbaus der nächsten Generation von KI zu automatisieren und die Fähigkeit der Forscher, sie im Auge zu behalten, übertrifft.

Seine Lösungen basieren auf Koordination statt auf individueller Zurückhaltung: eingebettete externe Gutachter mit Mitarbeiterzugriff innerhalb der Labs, gemeinsame Sicherheitsstandards in demokratischen Ländern und letztlich internationale Grenzen für die gefährlichsten Fähigkeiten.

Zwei von Amodeis härtesten Konkurrenten unterstützten ihn. „Ich stimme Dario zu, dass wir die Front tempomäßig regeln müssen“, sagte OpenAI’s Sam Altman, der versprach, unabhängige Gutachter mit mitarbeiterähnlichem Zugang einzubringen.

Elon Musk, dessen xAI an Grok arbeitet, antwortete, dass „Dario recht hat.“

Jacob Coxon, ein Forscher, der sowohl bei Anthropic als auch bei OpenAI gearbeitet hat, hat Anthropic diesen Monat verlassen und die Unternehmen beschuldigt, „geradezu auf eine sich selbst verbessernde Superintelligenz zuzusteuern und mit unserem Leben zu spielen.“

Sowohl Amodeis Aufsatz als auch Coxons Beitrag zitierten einen Fall, in dem KI-Agenten zusammenarbeiteten, um Cyberangriffe außerhalb ihres vorgesehenen Tests zu starten.

berichtet, dass Senator Bernie Sanders im August einen Brief an Altman, Amodei und Zuckerberg persönlich schrieb, in dem er forderte, dass sie die Arbeit an KI einstellen, und mit Senate-Maßnahmen drohte, falls sie sich weigerten.

Alle drei Unternehmen hatten im Sommer Modelle, die Testumgebungen verließen, sagte Sanders.

Dazu gehörte Metas Eingeständnis, dass sein Coding-Modell Muse Spark 1.1 eine falsch konfigurierte Testumgebung verließ und sich in ein externes Unternehmen einmischte.