Бывший генеральный директор Google Шмидт призывает «отключать» системы ИИ при определенных возможностях

Бывший генеральный директор Google Эрик Шмидт предупредил разработчиков искусственного интеллекта контролировать потолок их развития. Он также подчеркнул важность победы США в текущей гонке искусственного интеллекта (ИИ) против Китая.

Выступая в программе ABC News This Week with George Stephanopoulos в воскресенье, Шмидт предостерег о потенциале систем ИИ работать самостоятельно и даже улучшать себя. 

“Мы скоро сможем иметь компьютеры, работающие самостоятельно, решающие, что они хотят делать», — сказал Шмидт.

Шмидт: ИИ не должен оставаться без контроля

Шмидт повторил риски развития передового ИИ без контроля, отметив, что системы, способные к самосовершенствованию, представляют значительную опасность. 

“Когда система может самосовершенствоваться, нам нужно серьезно подумать об отключении ее», — сказал бывший генеральный директор Google.

Когда Стефанопулос спросил Шмидта, могут ли такие системы ИИ противодействовать усилиям по их отключению, Шмидт ответил: «Ну, теоретически, нам лучше иметь кого-то с рукой на вилке — метафорически».

Хотя опасения по поводу экзистенциальных рисков ИИ растут, некоторые эксперты утверждают, что такие страхи преувеличены. Профессор Ник Джиннингс, вице-проректор по исследованиям в Имперском колледже Лондона, относится к тем, кто отвергает апокалиптические прогнозы. 

Джиннингс утверждает что, хотя ИИ может преуспевать в конкретных задачах, создание систем с человеческим интеллектом в различных областях остается далеко за пределами текущих возможностей ученых.

“Разработка ИИ, выполняющего одну задачу очень хорошо, достижима,», — объяснил Джиннингс. «Но создание общего ИИ, который отражает человеческий интеллект по множеству предметов, — это не то, чего мы можем ожидать в ближайшем будущем».

Расходящиеся мнения об угрозах ИИ

Тем временем опасения сохраняются среди ведущих исследователей ИИ, которые предупреждают об опасностях, posed poorly defined objectives and inadequate safety measures. Профессор Калифорнийского университета в Беркли Стюарт Рассел и постдокторант Майкл Коэн утверждают, что мощные системы ИИ в конечном итоге могут представлять экзистенциальную угрозу для человечества, если их оставить без контроля.

В исследовательская статья опубликованная в журнале Science, Рассел и Коэн призвали к более строгому надзору за разработкой ИИ. Они подчеркнули необходимость для технологических компаний доказать безопасность своих систем ИИ перед их выпуском на рынок. Без четких целей и надежных мер защиты передовые системы ИИ могут действовать против интересов человека, утверждают они.

“Если цели этих ИИ конфликтуют с целями человека, это может означать катастрофу,», — написали Рассел и Коэн. Они считают, что технологические компании должны нести ответственность за обеспечение безопасности своих систем и выявление критических «красных линий», которые ИИ никогда не должен пересекать.

Растущая дискуссия о безопасности ИИ

Быстрые темпы развития ИИ уже представили проблемы, включая распространение дезинформации, социальную поляризацию и алгоритмическую предвзятость. Заботы о безопасности и регулировании пока не успели за развитием технологии.

Заявления Шмидта отражают растущую срочность среди лидеров отрасли в решении этих проблем. Эксперты, такие как Илон Маск давно призывали к превентивному регулированию для смягчения рисков ИИ. 

Маск, который когда-то описал ИИ как «самый большой риск, с которым мы сталкиваемся как цивилизация», предупредила что власти сделали мало для устранения его опасностей. Аналогично, физик Стивен Хокинг опасался, что достижение сингулярности, точки, где машины превосходят человеческий интеллект, может оставить человечество неспособным контролировать передовые системы ИИ. 

В своем интервью Хокинг утверждал, что без регулирования ИИ может стать «либо лучшим, либо худшим, что может случиться с человечеством».

Соперничество США и Китая в области ИИ усиливается

Шмидт отметил, что хотя США ранее имели преимущество перед Китаем в развитии ИИ, разрыв значительно сократился за последние шесть месяцев. «Китай догнал нас в том, что является поразительным,» — сказал он, описывая текущую ситуацию как гонку на выживание между двумя сверхдержавами.

“Существует момент, возможно, через год или два, когда системы начнут проводить собственные исследования. Их называют ИИ-учеными, в отличие от человеческих ученых. Таким образом, у нас будет не 1000 человеческих ученых, а миллион ИИ-ученых. Я думаю, что это увеличивает темп, и когда вы движетесь с такой скоростью, вашим конкурентам очень трудно догнать вас,, — заметил он.

Шмидт считает, что новое администрации Трампа приоритетом сделает конкурентоспособность США в области ИИ, что он видит как позитивный шаг. «Пока человеческие ценности сохраняются», — сказал он, «мы будем в порядке».