Bundesbehörden installieren „KI-Doomer“ im AI Safety Institute unter fünf neuen Mitgliedern

Das US-amerikanische Institut für KI-Sicherheit (US AI Safety Institute) des Handelsministeriums hat fünf neue Mitglieder für sein Führungsteam bekanntgegeben. Unter ihnen befindet sich einer, der prognostiziert hat, dass die Entwicklung künstlicher Intelligenz die Menschheit mit einer Wahrscheinlichkeit von 50 % bedrohen könnte. Doch das ist nicht seine einzige Neuerung; er kann auf einige bedeutende Innovationen zurückblicken.

Neue Mitglieder des KI-Sicherheitsteams

Es wird seit geraumer Zeit diskutiert, ob künstliche Intelligenz (KI) eine existenzielle Bedrohung für die Menschheit darstellt. Viele Experten halten diese Befürchtung jedoch für übertrieben und übertrieben, und solche Prognosen könnten den Fortschritt auf diesem Gebiet behindern. Die Aufgabe des neu ernannten Teams besteht darin, die Entwicklung so zu fördern, dass KI den Menschen nützt – entgegen der befürchteten Schädlichkeit, die vom National Institute of Standards and Technology (NIST) befürchtet wird.

Laurie E. Locascio, Direktorin des NIST und Staatssekretärin im Handelsministerium für Normen und Technologie, sagte:

„Ich freue mich sehr, diese talentierten Experten im Führungsteam des US AI Safety Institute begrüßen zu dürfen. Sie werden dazu beitragen, die Messwissenschaft zu etablieren, die die Entwicklung sicherer und vertrauenswürdiger KI unterstützen wird. Jeder von ihnen bringt einzigartige Erfahrungen mit, die dem Institut helfen werden, eine solide Grundlage für die KI-Sicherheit der Zukunft zu schaffen.“

Zu den neuen Mitgliedern gehört Adam Russell, Chief Vision Officer und gleichzeitig Direktor der KI-Abteilung des Information Sciences Institute an der University of California. Prof. Rob Reich, der von der Stanford University kommt und dort als stellvertretender Direktor des Institute for Human-Centered AI tätig ist, wird als Seniorberater fungieren und ist zudem Experte für Politikwissenschaft.

Mara Quintero Campbell wird zur Chief Operating Officer und Stabschefin ernannt. Derzeit ist sie stellvertretende Chief Operating Officer bei der Wirtschaftsförderungsbehörde des US-Handelsministeriums. Mark Latonero wird die Leitung der Abteilung für internationale Beziehungen übernehmen. Er kommt vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses und ist dort stellvertretender Direktor des Nationalen Büros für Künstliche Intelligenz.

KI-Pessimist an Bord – aber es steckt noch mehr dahinter

Das neue Mitglied, das als KI-Pessimist gilt, ist kein Geringerer als Paul Christiano. Er wurde zum Leiter der KI-Sicherheit im Team ernannt. Er ist ehemaliger OpenAI-Forscher und Gründer des Alignment Research Center. Außerdem ist er der Erfinder einer grundlegenden KI-Sicherheitstechnik namens Reinforcement Learning, die menschliches Feedback einbezieht. Seinen Beinamen „KI-Pessimist“ erhielt er, nachdem er in einem Podcast nach der Wahrscheinlichkeit gefragt wurde, dass die KI-Ambitionen der Menschheit im Untergang enden könnten. Er äußerte sich besorgt über die mögliche Gefahr für die Menschheit 

„Ich denke, die Wahrscheinlichkeit einer Machtübernahme durch KI liegt bei etwa 10 bis 20 Prozent, und viele der meisten Menschen würden sterben. Ich nehme das sehr ernst.“

Er sagte außerdem:

„Insgesamt betrachtet, steigt die Wahrscheinlichkeit für ein Scheitern vielleicht auf etwa 50/50, kurz nachdem KI-Systeme auf menschlichem Niveau entwickelt wurden.“

Quelle: Bankless-Podcast.

Christiano äußerte diese Gedanken im Bankless-Podcast mit den Moderatoren David Hoffman und Ryan Sean Adams, aber er besteht darauf, dass seine Ansichten nicht so extrem seien wie die des bekannten KI-Untergangspropheten Eliezer Yudkowsky, der ein regelrechtes Untergangsszenario vorschlägt.

Die US-Handelsministerin Gina Raimondo sagte außerdem, dass wir, um die globale Führungsrolle im Bereich verantwortungsvoller KI zu sichern, die Sicherheit von KI und die damit verbundenen Risiken zu mindern, die besten Talente des Landes benötigen. Deshalb wurden diese Personen ausgewählt, die zu den Besten auf ihren Gebieten gehören und nun dem Führungsteam des US AI Safety Institute.