Sam Altman von OpenAI fordert, das KI-Wettrennen einzudämmen, da staatliche Akteure die Anthropokine für Biowaffen instrumentalisieren
Foto von Solen Feyissa auf Unsplash.
- Sam Altman teilte den Mitarbeitern von OpenAI diese Woche mit, dass das Unternehmen bereit sei, die Entwicklung von Spitzen-KI zu verlangsamen, falls die Konkurrenz das Gleiche tue.
- Anthropic berichtete, dass staatsnahe Wissenschaftler versucht hätten, Claude für Forschungszwecke einzusetzen, die die Entwicklung biologischer Waffen unterstützen könnten.
- In Kalifornien und Washington debattieren die Gesetzgeber über verpflichtende Regelungen, während die größten KI-Labore mit internen Sicherheitsrevolten und möglichen Börsengängen konfrontiert sind.
Die Mitarbeiter von OpenAI wurden diese Woche darüber informiert, dass das KI-Labor bereit wäre, das Arbeitstempo in den fortschrittlichsten Bereichen der KI zu drosseln. Sam Altman unterbreitete denselben Vorschlag auch KI-Konkurrenten, darunter Anthropic, das in einem Bericht, der enthüllte, dass Wissenschaftler mit Verbindungen zu staatlichen Institutionen versucht hatten, die Claude-Modelle für die Forschung an biologischen Waffen zu nutzen, ebenfalls die mit der KI-Entwicklung verbundenen Risiken anerkannte.
OpenAI teilte mit, dass aufgrund von Sicherheitsbedenken bereits einige interne Trainingsläufe pausiert und Teile der Modellentwicklung gelockert wurden.
Die sukzessive Veröffentlichung der Informationen heizt die Debatte darüber weiter an, ob die Branche im Vorfeld der Börsengänge zu schnell vorgeht, deuten beide Unternehmen weiterhin an.
Warum will Altman die KI-Entwicklung verlangsamen?
OpenAI-Chef Sam Altman informierte die Anwesenden in einer unternehmensweiten Sitzung darüber, dass das KI-Labor zusammen mit anderen beteiligten Laboren das Tempo der Veröffentlichung neuer Modelle verlangsamen könnte.
Aufgrund des freiwilligen Charakters einer solchen Vereinbarung räumte Altman laut von Bloomberg zitierten Quellen ein, dass nicht jedes Unternehmen dem Plan zustimmen würde.
Diese Skepsis hat einendent. Vor drei Jahren, im März 2023, unterzeichneten Elon Musk, Steve Wozniak und mehr als 1000 andere einen offenen Brief, um die Arbeit an fortgeschrittener KI für sechs Monate auszusetzen.
Wie Medien damals berichteten, hielten sich die Labore nicht an das gemeinsam vereinbarte Moratorium.
Der Appell zum Thema KI-Risiken erfolgte auch in einem Beitrag vom 6. September von Jakub Pachocki, dem leitenden Wissenschaftler von OpenAI. Darin forderte er KI-Unternehmen auf, sich zu koordinieren, „um die zukünftige Entwicklung bei Bedarf zu verlangsamen“. Pachocki äußerte die Hoffnung, dass freiwillige Verlangsamungen „so lange üblich werden, bis gemeinsame Sicherheitsvorkehrungen getroffen sind“
Im Juli erklärte Altman, er habe Vertreter des Weißen Hauses auf die Notwendigkeit hingewiesen, die Entwicklung von KI einzudämmen. Zusammen mit Dario Amodei, dem CEO von Anthropic, hatte Altman zuvor auch eine kurze Erklärung , in der KI als gesellschaftliches Aussterberisiko bezeichnet wurde.
Können KI-Modelle zur Entwicklung von Biowaffen eingesetzt werden?
KI-Modelle haben ein Stadium erreicht, in dem sie möglicherweise die Forschung an biologischen Waffen unterstützen könnten. Erst diese Woche verkündete OpenAI, dass seine Modelle das Navier-Stokes-Problem gelöst hätten, auch wenn die Bedingungen umstritten sind.
Anthropic lieferte neuen Stoff für diese Debatte, als der 154-seitige Bedrohungsanalysebericht des Labors , der am 10. September veröffentlicht wurde, fünf Fälle detailliert beschrieb, in denen Forscher versuchten, die Fähigkeiten von Claude zur Unterstützung ihrer Arbeit an biologischen Waffen zu nutzen.
Anthropic erklärte, die Versuche aus „nicht unterstützten Regionen“ hätten darauf abgezielt, Standortbeschränkungen zu umgehen und den Zweck ihrer Arbeit zu verschleiern. Das Labor gab an, die Konten gelöscht zu haben, nannte aber keine Länder oder Institutionen.
Überwiegen die Risiken der KI inzwischen die Vorteile?
Die Berichte trafen inmitten einer Welle öffentlicher Besorgnis aus den Laboren ein. Am 8. September kündigte der Forscher Jacob Coxon und warf sowohl OpenAI als auch Anthropic vor , „mit unserem Leben zu spielen“. Er sagte, Kollegen glaubten, die Technologie könne „uns alle bis zum Ende des Jahrzehnts auslöschen“ und warnte vor dem Aussterben der Menschheit bis 2030.
Sein Beitrag erreichte über 150 Millionen Aufrufe. Zwei Tage später, am 10. September, äußerten ehemalige Mitarbeiter von Anthropic und Googles DeepMind ähnliche Bedenken und forderten mehr Transparenz.
Eine Ende Juli eingereichte Petition zur Schaffung eines Mechanismus zur Verlangsamung der Entwicklung sammelte Unterschriften von mehr als 1.000 Mitarbeitern der großen KI-Unternehmen.
OpenAI drängt den Kongress nun zu verbindlichen, fähigkeitsbasierten Sicherheitsregeln, die Tests,dent Bewertungen, Cybersicherheit und die Meldung vondent umfassen. „Die Aussicht auf eine KI-beschleunigte KI-Entwicklung erfordert mehr als freiwillige Verpflichtungen“, schrieb Chris Lehane, Chief Global Affairs Officer.
Kalifornien machte den Anfang: Gouverneur Gavin Newsom unterzeichnete am Mittwoch die Gesetzesentwürfe SB 813 und AB 1405 sowie einen Begleitgesetzentwurf, AB 1864, der dem Schutz vor KI-gestützten biologischen Bedrohungen dient.
In Washington brachte Senator Bernie Sanders einen Gesetzentwurf ein, der die Entwicklung fortgeschrittener KI stoppen und künstliche Superintelligenz verbieten soll. Gegenüber der BBC erklärte er , dass das Ignorieren der Warnungen von Wissenschaftlern jemanden „zum Idioten“ mache.
dent Donald Trump konterte am Donnerstag und sagte, er befürchte, dass „wir in eine sehr schlechte Lage geraten werden, wenn wir im Kampf gegen die KI nicht gewinnen“
Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.
Häufig gestellte Fragen
Was hat Sam Altman den OpenAI-Mitarbeitern gesagt?
Bei einer unternehmensweiten Besprechung in dieser Woche sagte Altman, OpenAI könne das Tempo seiner hochmodernen KI-Entwicklung verlangsamen, möglicherweise in Abstimmung mit anderen führenden Laboren, merkte aber an, dass einige Unternehmen dem möglicherweise nicht zustimmen würden.
Was ergab der Bedrohungsbericht von Anthropic in Bezug auf biologische Waffen?
Der 154-seitige Bericht von Anthropic beschrieb fünf Fälle, in denen Forscher, einige davon mit Verbindungen zu staatlichen Institutionen, Claude auf eine Weise nutzten, die die Entwicklung biologischer Waffen unterstützen könnte, darunter eine Chikungunya-Studie in Verbindung mit einem militärischen Forschungsinstitut; das Unternehmen sperrte die betroffenen Konten.
Wie reagieren die Gesetzgeber auf die Sicherheitsbedenken im Zusammenhang mit KI?
Der kalifornische Gouverneur Gavin Newsom unterzeichnete am Mittwoch mehrere Gesetze zur Aufsicht über künstliche Intelligenz, darunter eines, das auf KI-gestützte biologische Bedrohungen abzielt, während US-Senator Bernie Sanders einen Gesetzentwurf einbrachte, der die Entwicklung fortgeschrittener KI aussetzen und künstliche Superintelligenz verbieten soll.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
