Bundesbeamte installieren „AI Doomer“ im AI Safety Institute unter fünf neuen Mitgliedern

Das US AI Safety Institute unter dem Handelsministerium hat fünf neue Mitglieder für sein Führungsteam angekündigt. Unter den fünf neuen Mitgliedern ist einer, der vorhergesagt hat, dass es eine 50-prozentige Chance gibt, dass die Entwicklung der künstlichen Intelligenz die Menschheit beenden wird. Aber das ist nicht seine einzige Vorstellung; es gibt einige sehr wichtige Innovationen in seinem Portfolio.

Neue Mitglieder des KI-Sicherheitsteams

Es gibt seit einiger Zeit eine Debatte darüber, dass künstliche Intelligenz eine existenzielle Bedrohung für den Menschen werden könnte, aber viele Experten sagen, dass dies übertrieben und überhyped ist, und diese Art von Vorhersagen könnte Fortschritte in diesem Bereich behindern. Die Aufgabe des neu ernannten Teams besteht darin, die Entwicklung so zu fördern, dass KI für die Menschen nützlich wird, entgegen dieser Wahrnehmung von Schaden unter dem National Institute of Standards and Technology (NIST).

Laurie E. Locascio, Direktorin des NIST und Unterstaatssekretärin für Standards und Technologie im Handelsministerium, sagte:

„Ich freue mich sehr, diese talentierten Experten im Führungsteam des US AI Safety Institute willkommen zu heißen, um die Messtechnik zu etablieren, die die Entwicklung von KI unterstützen wird, die sicher und vertrauenswürdig ist. Jeder von ihnen bringt einzigartige Erfahrungen mit, die dem Institut helfen werden, eine solide Grundlage für die KI-Sicherheit in die Zukunft zu legen.“

Unter den neuen Mitgliedern ist Adam Russell, Chief Vision Officer, der auch Direktor der KI-Abteilung des Information Sciences Institute an der University of California ist. Prof. Rob Reich wird der Senior Advisor sein; er kommt von der Stanford University und arbeitet als stellvertretender Direktor des Institute for Human-Centered AI und ist auch Experte für Politikwissenschaft.

Mara Quintero Campbell wurde als Chief Operating Officer und Chief of Staff ernannt; sie ist derzeit bei der Economic Development Administration des Handelsministeriums als stellvertretende Chief Operating Officer tätig. Mark Latonero wird Leiter der internationalen Beziehungen sein; er kommt vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses und arbeitet als stellvertretender Direktor des National AI Initiative Office.

AI-Doomer an Bord – aber es steckt mehr dahinter

Das neue Mitglied, das als AI-Doomer bezeichnet wird, ist niemand anderes als Paul Christiano. Er wurde als Leiter der KI-Sicherheit des Teams ernannt. Er ist ein ehemaliger OpenAI-Forscher und Gründer des Alignment Research Center. Er ist auch der Erfinder einer grundlegenden KI-Sicherheitstechnik namens Reinforcement Learning, die menschliches Feedback integriert. Er erhielt die Bezeichnung als AI-Doomer, nachdem er in einem Podcast gefragt wurde, wie hoch die Chance ist, dass die KI-Ambitionen der Menschheit in ein Unheil enden, woraufhin er große Besorgnis über das Aussterben der Menschheit zeigte, sagte er 

„Ich denke, es gibt vielleicht eine 10-20-prozentige Chance auf eine KI-Übernahme, bei der die meisten Menschen sterben. Ich nehme das sehr ernst.“

Er fügte hinzu:

„Insgesamt gibt es vielleicht eine 50/50-Chance auf ein Unheil kurz nachdem wir KI-Systeme haben, die menschlich sind.“

Quelle: Bankless Podcast.

Christiano äußerte diese Gedanken im Bankless-Podcast mit den Moderatoren David Hoffman und Ryan Sean Adams, besteht aber darauf, dass seine Ansichten nicht so extrem sind wie die des berühmten KI-Doomers Eliezer Yudkowsky, der ein vollständiges Unhilsszenario vorschlägt.

Der US-Handelsminister Gina Raimondo sagte auch, dass wir, um die globale Führungsrolle bei verantwortungsvoller KI zu wahren und KI-Sicherheit zu gewährleisten und die damit verbundenen Risiken zu mindern, Spitzentalente aus dem Land benötigen. Deshalb wurden diese Personen ausgewählt, die in ihren Feldern am besten sind, um nun dem Führungsteam des US AI Safety Institute beizutreten.