Бывший генеральный директор Google Шмидт призывает к «отключению» систем искусственного интеллекта на определенных уровнях их возможностей

Бывший генеральный директор Google Эрик Шмидт предостерег разработчиков искусственного интеллекта о необходимости контролировать свои возможности в этой области. Он также подчеркнул важность победы Соединенных Штатов в продолжающейся гонке за лидерство в области искусственного интеллекта (ИИ) против Китая.

на канале ABC News This Week with George Stephanopoulos» Шмидт предостерег о потенциальной возможности автономной работы систем искусственного интеллектаdentдаже их самосовершенствования. 

«Вскоре у нас появится возможность запускать компьютеры самостоятельно, чтобы они сами решали, что им делать», — сказал Шмидт.

Шмидт: Искусственный интеллект не следует оставлять без контроля

Шмидт вновь подчеркнул риски бесконтрольного развития передового искусственного интеллекта, отметив, что системы, способные к самосовершенствованию, представляют собой значительную опасность. 

«Если система способна к самосовершенствованию, нам следует всерьез задуматься о том, чтобы отключить ее от сети», — заявил бывший генеральный директор Google.

Когда Стефанопулос спросил Шмидта, могут ли подобные системы искусственного интеллекта противостоять попыткам их отключения, Шмидт ответил: «Ну, в теории, нам лучше иметь кого-то, кто держит руку на вилке — в переносном смысле»

Хотя опасения по поводу экзистенциальных рисков, связанных с ИИ, растут, некоторые эксперты утверждают, что такие опасения преувеличены. Профессор Ник Дженнингс, проректор по исследованиям Имперского колледжа Лондона, входит в число тех, кто отвергает апокалиптические прогнозы. 

Дженнингс утверждает , что, хотя ИИ может преуспевать в решении конкретных задач, создание систем с человекоподобным интеллектом в самых разных областях по-прежнему находится далеко за пределами нынешних возможностей ученых.

«Разработка ИИ, способного очень хорошо выполнять одну единственную задачу, вполне достижима», — объяснил Дженнингс. «Но создание универсального ИИ, который бы отражал человеческий интеллект в различных областях, — это не то, чего мы можем ожидать в ближайшем будущем».

Разные мнения об угрозах со стороны ИИ

Между тем, среди ведущих исследователей в области ИИ сохраняются опасения по поводу опасностей, связанных с плохо defiцелями и неадекватными мерами безопасности. Профессор Калифорнийского университета в Беркли Стюарт Рассел и научный сотрудник Майкл Коэн утверждают, что мощные системы ИИ в конечном итоге могут представлять экзистенциальную угрозу для человечества, если их не контролировать.

В аналитической статье, опубликованной в журнале Science, Рассел и Коэн призвали к более строгому надзору за разработкой ИИ. Они подчеркнули необходимость того, чтобы технологические компании доказывали безопасность своих систем ИИ, прежде чем выпускать их на рынок. Без четких целей и надежных мер защиты, утверждают они, передовые системы ИИ могут действовать против интересов человека.

«Если цели этих ИИ будут противоречить целям людей, это может привести к катастрофе», — написали Рассел и Коэн. Они считают, что технологические компании должны нести ответственность за обеспечение безопасности своих систем иdentкритических «красных линий», которые ИИ никогда не должен пересекать.

Разгорается дискуссия о безопасности ИИ

Стремительные темпы развития ИИ уже создали ряд проблем, включая распространение дезинформации, поляризацию общества и предвзятость алгоритмов. Опасения по поводу безопасности и регулирования пока не успевают за развитием технологий.

Заявления Шмидта отражают растущую обеспокоенность лидеров отрасли по поводу решения этих проблем. Такие эксперты, как Илон Маск, давно призывают к принятию превентивных мер регулирования для снижения рисков, связанных с ИИ. 

Маск, который однажды назвал ИИ «самой большой угрозой, с которой мы сталкиваемся как цивилизация», предупреждал , что власти мало что сделали для противодействия его опасностям. Аналогичным образом, физик Стивен Хокинг опасался, что достижение сингулярности — точки, в которой машины превосходят человеческий интеллект, — может лишить человечество возможности контролировать передовые системы ИИ. 

В своем интервью Хокинг утверждал, что без регулирования искусственный интеллект может стать «либо лучшим, либо худшим, что когда-либо случалось с человечеством»

Конкуренция между США и Китаем в сфере искусственного интеллекта усиливается

Шмидт отметил, что, хотя ранее США опережали Китай в развитии искусственного интеллекта, за последние шесть месяцев разрыв значительно сократился. «Китай догнал Китай поразительным образом», — сказал он, описав нынешнюю ситуацию как гонку с высокими ставками между двумя сверхдержавами.

«Возможно, через год-два системы смогут начать проводить собственные исследования. Их будут называть учеными в области искусственного интеллекта, в отличие от ученых-людей. Таким образом, количество ученых-людей увеличится с 1000 до миллиона. Я думаю, это ускорит процесс, и при такой скорости конкурентам будет очень трудно нас догнать», — отметил он.

Шмидт считает, что приходящая к власти администрация Трампа будет уделять приоритетное внимание конкурентоспособности США в области искусственного интеллекта, что он рассматривает как позитивный шаг. «Пока сохраняются человеческие ценности, — сказал он, — все будет в порядке».