Институт безопасности искусственного интеллекта США при Министерстве торговли объявил о пяти новых членах своей руководящей команды. Среди пяти новых членов есть один, который предсказал, что существует 50% вероятность того, что развитие искусственного интеллекта приведет к человечеству. Но это не единственное его представление; за его плечами есть несколько очень важных инноваций.
Новые члены команды безопасности ИИ
Уже довольно давно ведутся споры о том, что искусственный интеллект станет экзистенциальной угрозой для человечества, но многие эксперты говорят, что это преувеличено и преувеличено, и такого рода прогнозы могут помешать прогрессу в этой области. Задача вновь назначенной команды — стимулировать развитие таким образом, чтобы ИИ стал полезным для людей, вопреки этому восприятию вреда в Национальном институте стандартов и технологий (NIST).
Директор NIST и заместитель министра торговли по стандартам и технологиям Лори Э. Локаскио сказала:
«Я очень рад приветствовать этих талантливых экспертов в составе руководящей команды Института безопасности ИИ США, которые помогут создать науку об измерениях, которая будет способствовать разработке безопасного и заслуживающего доверия ИИ. Каждый из них приносит уникальный опыт, который поможет институту заложить прочную основу для безопасности ИИ в будущем».
Среди новых членов — Адам Рассел, директор по видению, который также является директором отдела искусственного интеллекта Института информационных наук Калифорнийского университета. Старшим советником будет профессор Роб Райх, он из Стэнфорда, работает заместителем директора Института человеко-ориентированного искусственного интеллекта, а также является экспертом в области политологии.
Мара Кинтеро Кэмпбелл назначена главным операционным директором и руководителем аппарата. В настоящее время она работает в Управлении экономического развития торговли в качестве заместителя главного операционного директора. Марк Латонеро будет руководить международным взаимодействием, он из Управления по науке и технологической политике Белого дома и работает заместителем директора Национального офиса инициатив по искусственному интеллекту.
ИИ-думер на борту, но это еще не все
Новый участник, которого называют ИИ-думером, — это не кто иной, как Пол Кристиано. Он назначен главой команды по безопасности ИИ. Он бывший исследователь OpenAI и основатель Исследовательского центра выравнивания. Он также является изобретателем основополагающего метода безопасности искусственного интеллекта, известного как обучение с подкреплением, которое включает обратную связь с человеком. Он получил свой ярлык «разрушителя ИИ» после того, как в подкасте его спросили о вероятности того, что амбиции человека в области ИИ закончатся гибелью, на что он выразил серьезную обеспокоенность по поводу того, что человечество обречено, сказал он.
«Я думаю, что вероятность захвата власти ИИ составляет около 10–20%, поскольку большинство людей погибло, я отношусь к этому совершенно серьезно».
Он также сказал:
«В целом, возможно, вы получите больше шансов на гибель (до 50/50) вскоре после того, как у вас появятся системы искусственного интеллекта человеческого уровня».
Источник: подкаст Bankless.
Кристиано выразил эти мысли в подкасте Bankless с ведущими Дэвидом Хоффманом и Райаном Шоном Адамсом, но он настаивает на том, что его взгляды не столь радикальны, как взгляды известного ИИ-думщика Элиэзера Юдковски, который предлагает сценарий полной гибели.
Министр торговли США Джина Раймондо также заявила, что для того, чтобы сохранить глобальное лидерство в области ответственного ИИ, а также обеспечить безопасность ИИ и снизить связанные с ним риски, нам нужны самые талантливые люди в стране, поэтому отбираются именно такие люди, которые являются лучшими. в своих областях, чтобы теперь присоединиться к команде руководителей Института безопасности искусственного интеллекта США.
Пресс-релиз Министерства торговли США можно найти здесь .
