US AI Safety Institute, under Department of Commerce, tillkännagav fem nya medlemmar till sitt ledarteam. Bland de fem nya medlemmarna finns en som förutspådde att det finns 50 % chans att utvecklingen av artificiell intelligens kommer att hamna i mänskligheten. Men detta är inte hans enda inledning; det finns några mycket viktiga innovationer under hans bälte.
Nya medlemmar i AI-säkerhetsteamet
Det har pågått ett argument under ganska lång tid att artificiell intelligens kommer att bli ett existentiellt hot för människor, men många experter säger att det är överdrivet och överhypat, och den här typen av förutsägelser kan hindra framsteg på området. Uppgiften för det nyutnämnda teamet är att uppmuntra utveckling på ett sätt så att AI blir till nytta för människor, mot denna uppfattning om skada enligt National Institute of Standards and Technology (NIST).
NIST:s direktör och undersekreterare för handel för standarder och teknik, Laurie E. Locascio, sa:
"Jag är mycket glad över att välkomna dessa begåvade experter till det amerikanska AI Safety Institutes ledningsgrupp för att hjälpa till att etablera den mätvetenskap som kommer att stödja utvecklingen av AI som är säker och pålitlig. De ger var och en unika erfarenheter som kommer att hjälpa institutet att bygga en solid grund för AI-säkerhet i framtiden."
Bland de nya medlemmarna finns Adam Russell, chief vision officer, som också är chef för AI-avdelningen vid Information Sciences Institute vid University of California. Prof. Rob Reich kommer att vara senior rådgivare, han kommer från Stanford, och arbetar som biträdande direktör för Institute for Human-Centered AI, och är även expert på statsvetenskap.
Mara Quintero Campbell är utsedd till operativ chef och stabschef, hon är för närvarande på Commerce's Economic Development Administration som biträdande operativ chef. Mark Latonero kommer att vara chef för internationellt engagemang, han kommer från Vita husets kontor för vetenskap och teknologipolitik och arbetar som biträdande chef för National AI Initiative Office.
AI doomer ombord – men det finns mer i det
Den nya medlemmen som kallas en AI doomer är ingen mindre än Paul Christiano. Han är utsedd till teamets chef för AI-säkerhet. Han är en före detta OpenAI-forskare och grundare av Alignment Research Center. Han är också uppfinnaren av en grundläggande AI-säkerhetsteknik känd som förstärkningsinlärning, som inkluderar mänsklig feedback. Han fick sitt märke som en AI-domare efter att han blev tillfrågad i en podcast om chansen att människans AI-ambitioner slutar i undergång, som han visade ganska mycket oro över att mänskligheten skulle bli dömd, sa han
"Jag tror att det kanske finns en 10-20% chans att AI tar över, många människor dör, jag tar det på största allvar."
Han sa också,
"Sammantaget kanske du får mer upp till en 50/50 chans till undergång strax efter att du har AI-system som är på mänsklig nivå."
Källa: Bankless podcast.
Christiano uttryckte dessa tankar på Bankless-podden med programledarna David Hoffman och Ryan Sean Adams, men han insisterar på att hans åsikter inte är lika extrema som den berömda AI-domaren Eliezer Yudkowsky, som föreslår ett fullständigt undergångsscenario.
USA:s handelsminister Gina Raimondo sa också att för att säkra globalt ledarskap inom ansvarsfull AI och för att säkerställa AI-säkerhet och minska riskerna förknippade med det, behöver vi topptalanger från nationen, vilket är anledningen till att dessa individer väljs ut, som är bäst inom sina områden för att nu gå med i det verkställande ledarteamet vid US AI Safety Institute.
US Department of Commerce pressmeddelande finns här .
