Das US-amerikanische AI Safety Institute, das dem Handelsministerium untersteht, hat fünf neue Mitglieder für sein Führungsteam bekannt gegeben. Unter den fünf neuen Mitgliedern ist einer, der vorhersagte, dass die Wahrscheinlichkeit, dass die Entwicklung künstlicher Intelligenz letztendlich zur Menschheit führen wird, bei 50 % liegt. Dies ist jedoch nicht seine einzige Einführung; Er hat einige sehr wichtige Innovationen hervorgebracht.
Neue Mitglieder des KI-Sicherheitsteams
Schon seit längerem wird darüber geredet, dass künstliche Intelligenz zu einer existenziellen Bedrohung für den Menschen werden wird. Viele Experten sind jedoch der Ansicht, dass dies übertrieben und überbewertet sei und dass diese Art der Vorhersage den Fortschritt auf diesem Gebiet behindern könnte. Die Aufgabe des neu ernannten Teams besteht darin, die Entwicklung so zu fördern, dass KI für die Menschen von Nutzen ist, entgegen der Wahrnehmung des Schadens im Rahmen des National Institute of Standards and Technology (NIST).
Laurie E. Locascio, Direktorin des NIST und stellvertretende Handelsministerin für Standards und Technologie, sagte:
„Ich freue mich sehr, diese talentierten Experten im Führungsteam des US AI Safety Institute begrüßen zu dürfen, um dabei zu helfen, die Messwissenschaft zu etablieren, die die Entwicklung einer sicheren und vertrauenswürdigen KI unterstützen wird.“ Sie alle bringen einzigartige Erfahrungen mit, die dem Institut dabei helfen werden, eine solide Grundlage für die KI-Sicherheit der Zukunft zu schaffen.“
Zu den neuen Mitgliedern gehört Adam Russell, Chief Vision Officer, der auch Direktor der KI-Abteilung des Information Sciences Institute der University of California ist. Prof. Rob Reich wird der leitende Berater sein, er kommt aus Stanford, arbeitet als stellvertretender Direktor des Institute for Human-Centered AI und ist außerdem Experte für Politikwissenschaft.
Mara Quintero Campbell wird zur Chief Operating Officer und Stabschefin ernannt, derzeit ist sie stellvertretende Chief Operating Officer bei der Economic Development Administration von Commerce. Mark Latonero wird Leiter des internationalen Engagements sein, er kommt vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses und arbeitet als stellvertretender Direktor des National AI Initiative Office.
KI-Doomer an Bord – aber es steckt noch mehr dahinter
Das neue Mitglied, das als KI-Doomer bezeichnet wird, ist kein anderer als Paul Christiano. Er wird zum Leiter der KI-Sicherheit des Teams ernannt. Er ist ein ehemaliger OpenAI-Forscher und Gründer des Alignment Research Center. Er ist außerdem der Erfinder einer grundlegenden KI-Sicherheitstechnik namens Reinforcement Learning, die menschliches Feedback einbezieht. Sein Etikett als KI-Doomer erhielt er, nachdem er in einem Podcast nach der Möglichkeit gefragt wurde, dass die KI-Ambitionen der Menschen zum Scheitern führen könnten, und er zeigte sich ziemlich besorgt darüber, dass die Menschheit dem Untergang geweiht sein könnte, sagte er
„Ich denke, dass die Wahrscheinlichkeit einer KI-Übernahme bei etwa 10 bis 20 % liegt und die meisten Menschen tot sind. Ich nehme das ziemlich ernst.“
Er sagte auch:
„Insgesamt steigt die Wahrscheinlichkeit des Untergangs vielleicht eher auf 50/50 an, kurz nachdem man KI-Systeme auf menschlichem Niveau hat.“
Quelle: Bankless-Podcast.
Christiano äußerte diese Gedanken beim Bankless-Podcast mit den Moderatoren David Hoffman und Ryan Sean Adams, betont jedoch, dass seine Ansichten nicht so extrem sind wie die des berühmten KI-Doomer Eliezer Yudkowsky, der ein völliges Untergangsszenario vorschlägt.
US-Handelsministerin Gina Raimondo sagte außerdem, dass wir Top-Talente aus dem Land brauchen, um die weltweite Führungsrolle bei verantwortungsvoller KI zu sichern, die KI-Sicherheit und die damit verbundenen Risiken zu mindern, weshalb diese Personen ausgewählt werden, die am besten sind in ihren Fachgebieten, um nun dem Führungsteam des US AI Safety Institute beizutreten.
Die Pressemitteilung des US-Handelsministeriums finden Sie hier .
