OpenAI-Chef Sam Altman ruft zur Drosselung des KI-Wettlaufs auf, während staatliche Akteure Anthropic für biologische Waffen kapern
Foto von Solen Feyissa auf Unsplash.
- Sam Altman sagte OpenAI-Mitarbeitern diese Woche, das Unternehmen sei bereit, die Entwicklung von Frontier-KI zu verlangsamen, falls Konkurrenten dasselbe tun.
- Anthropic berichtete, dass staatsnahe Wissenschaftler versuchten, Claude für Forschungen zu nutzen, die biologische Waffen unterstützen könnten.
- Gesetzgeber in Kalifornien und Washington debattieren über verbindliche Regeln, während die größten KI-Labore interne Sicherheitsproteste und mögliche Börsengänge erleben.
OpenAI-Mitarbeiter wurden diese Woche darüber informiert, dass das KI-Labor bereit wäre, das Tempo seiner Arbeit in den fortschrittlichsten Bereichen der KI zu drosseln. Sam Altman unterbreitete denselben Vorschlag auch KI-Rivalen, darunter Anthropic, das die mit der KI-Entwicklung verbundenen Risiken in einem Bericht anerkannte, der offenbarte, dass mit staatlichen Institutionen verbundene Wissenschaftler versuchten, seine Claude-Modelle für biologische Waffenforschung zu nutzen.
OpenAI sagte, es habe bereits einige interne Trainingsläufe pausiert und Teile der Modellentwicklung aus Sicherheitsbedenken gelockert.
Der serielle Eingang der Offenlegungen schürt das Feuer in der Debatte darüber, ob die Branche sich vor den Börsengängen zu schnell vorantreibt, beide Unternehmen continue zu triggern.
Warum will Altman die KI-Entwicklung verlangsamen?
OpenAI-Chef Sam Altman informierte auf einem unternehmensweiten Treffen die Anwesenden darüber, dass das KI-Labor zusammen mit anderen zustimmenden Laboren das Tempo der Veröffentlichung von Frontier-Modellen verlangsamen könnte.
Aufgrund des freiwilligen Charakters einer solchen Vereinbarung gab Altman zu, dass nicht jedes Unternehmen mit dem Plan einverstanden sein würde, so Quellen, die von Bloomberg zitiert wurden.
Diese Skepsis hat ihre Vorgeschichte. Vor drei Jahren, im März 2023, unterzeichneten Elon Musk, Steve Wozniak und mehr als 1.000 andere einen offenen Brief, um die Arbeit an fortschrittlicher KI für sechs Monate zu stoppen.
Wie Medien berichteten, hielten Labore das von ihnen gemeinsam vereinbarte Moratorium nicht ein.
Der Aufruf zur KI-Risikobewertung kam auch in einem Beitrag vom 6. September von OpenAI-Chefwissenschaftler Jakub Pachocki, der KI-Unternehmen aufforderte, „koordiniert vorzugehen, um die zukünftige Entwicklung nach Bedarf zu verlangsamen“. Pachocki äußerte die Hoffnung, dass freiwillige Verlangsamungen „zur Norm werden würden, bis gemeinsame Sicherheitsstandards etabliert sind.“
Im Juli sagte Altman, er habe die Weißen Hausbeamten über die Notwendigkeit hingewiesen, die KI-Entwicklung zu drosseln. Zusammen mit Anthropic-CEO Dario Amodei unterzeichnete Altman zuvor eine einzeilige Erklärung, in der KI als ein gesellschaftliches Aussterberisiko bezeichnet wird.
Können KI-Modelle zum Bau biologischer Waffen verwendet werden?
KI-Modelle haben ein Niveau erreicht, an dem sie möglicherweise in der Lage sind, die biologische Waffenforschung zu unterstützen. Erst diese Woche erklärte OpenAI, dass seine Modelle das Navier-Stokes-Mathematikproblem gelöst hätten, auch wenn dies unter umstrittenen Bedingungen geschah.
Anthropic lieferte neuen Stoff für diese Debatte, als der Bericht des Labors zur Bedrohungsinformation mit 154 Seiten, veröffentlicht am 10. September, fünf Fälle detailliert beschrieb, in denen Forscher versuchten, die Fähigkeiten von Claude zu nutzen, um ihre Arbeit an biologischen Waffen zu unterstützen.
Anthropic sagte, die Versuche aus „nicht unterstützten Regionen“ hätten versucht, geografische Einschränkungen zu umgehen und den Zweck ihrer Arbeit zu verschleiern. Das Labor sagte, es habe die Konten gelöscht, nannte jedoch keine Länder und Institutionen.
Wiegen die KI-Risiken jetzt die Vorteile auf?
Die Berichte kamen inmitten einer Reihe öffentlicher Alarme aus den Labors. Am 8. September kündigte der Forscher Jacob Coxon seinen Rücktritt und beschuldigte sowohl OpenAI als auch Anthropic, „mit unserem Leben zu spielen“, und sagte, Kollegen glaubten, die Technologie könne „uns alle bis Ende des Jahrzehnts töten“, und warnte vor dem Aussterben der Menschheit bis 2030.
Sein Beitrag zog mehr als 150 Millionen Aufrufe an. Zwei Tage später, am 10. September, äußerten ehemalige Mitarbeiter von Anthropic und Googles DeepMind ähnliche Bedenken und forderten mehr Transparenz.
Eine Petition Ende Juli, einen Mechanismus zur Verlangsamung der Entwicklung zu schaffen, sammelte Unterschriften von mehr als 1.000 Mitarbeitern der großen KI-Unternehmen.
OpenAI drängt den Kongress nun auf verbindliche, fähigkeitsbasierte Sicherheitsvorschriften, die Tests, unabhängige Bewertungen, Cybersicherheit und Incident-Meldungen abdecken. „Die Aussicht auf eine durch KI beschleunigte KI-Entwicklung erfordert mehr als nur freiwillige Verpflichtungen“, schrieb Chief Global Affairs Officer Chris Lehane.
Kalifornien ging voran: Gouverneur Gavin Newsom unterzeichnete am Mittwoch SB 813 und AB 1405, mit einem Begleitgesetz, AB 1864, das darauf abzielt, vor KI-gestützten biologischen Bedrohungen zu schützen.
In Washington führte Senator Bernie Sanders Gesetze ein, um die fortschrittliche KI auszusetzen und künstliche Superintelligenz zu verbieten, und sagte gegenüber der BBC, dass das Ignorieren der Warnungen von Wissenschaftlern jemanden zu einem „Idioten“ machen würde.
Präsident Donald Trump widersprach und sagte am Donnerstag, er befürchte, „wenn wir die KI nicht gewinnen, werden wir in eine sehr schlechte Position gebracht.“
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was hat Sam Altman OpenAI-Mitarbeitern gesagt?
Bei einem unternehmensweiten Meeting diese Woche sagte Altman, OpenAI könnte das Tempo seiner hochmodernen KI-Entwicklung verlangsamen, möglicherweise in Absprache mit anderen führenden Laboren, wobei er jedoch anmerkte, dass einige Unternehmen nicht zustimmen könnten.
Was ergab der Bedrohungsbericht von Anthropic bezüglich biologischer Waffen?
Der 154-seitige Bericht von Anthropic beschrieb fünf Fälle, in denen Forscher, einige mit staatlichen Institutionen verbunden, Claude auf Weise nutzten, die die Entwicklung biologischer Waffen unterstützen könnten, darunter eine Chikungunya-Studie, die mit einem militärischen Forschungsinstitut verknüpft war; das Unternehmen sperrte die betroffenen Konten.
Wie reagieren Gesetzgeber auf Bedenken hinsichtlich der KI-Sicherheit?
Kaliforniens Gouverneur Gavin Newsom unterzeichnete am Mittwoch mehrere Gesetze zur KI-Überwachung, darunter eines, das auf KI-gestützte biologische Bedrohungen abzielt, während US-Senator Bernie Sanders Gesetzesentwürfe einbrachte, um die Entwicklung fortschrittlicher KI auszusetzen und künstliche Superintelligenz zu verbieten.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
