Бывший генеральный директор Google Эрик Шмидт предостерег разработчиков искусственного интеллекта о необходимости контролировать свои возможности в этой области. Он также подчеркнул важность победы Соединенных Штатов в продолжающейся гонке за лидерство в области искусственного интеллекта (ИИ) против Китая.
This Week with George Stephanopoulos» на канале ABC News Шмидт предостерег о потенциальной возможности автономной работы систем искусственного интеллекта dent даже их самосовершенствования.
« Вскоре у нас появится возможность запускать компьютеры самостоятельно, чтобы они сами решали , что им делать», — сказал Шмидт.
Шмидт: Искусственный интеллект не следует оставлять без контроля
Шмидт вновь подчеркнул риски бесконтрольного развития передового искусственного интеллекта, отметив, что системы, способные к самосовершенствованию, представляют собой значительную опасность.
« Если система способна к самосовершенствованию, нам следует всерьез задуматься о том, чтобы отключить ее от сети », — заявил бывший генеральный директор Google.
Когда Стефанопулос спросил Шмидта, могут ли подобные системы искусственного интеллекта противостоять попыткам их отключения, Шмидт ответил: «Ну, в теории, нам лучше иметь кого-то, кто держит руку на вилке — в переносном смысле»
Хотя опасения по поводу экзистенциальных рисков, связанных с ИИ, растут, некоторые эксперты утверждают, что такие опасения преувеличены. Профессор Ник Дженнингс, проректор по исследованиям Имперского колледжа Лондона, входит в число тех, кто отвергает апокалиптические прогнозы.
Дженнингс утверждает , что, хотя ИИ может преуспевать в решении конкретных задач, создание систем с человекоподобным интеллектом в самых разных областях по-прежнему находится далеко за пределами нынешних возможностей ученых.
« Разработка ИИ, способного очень хорошо выполнять одну единственную задачу, вполне достижима », — объяснил Дженнингс. «Но создание универсального ИИ, который бы отражал человеческий интеллект в различных областях, — это не то, чего мы можем ожидать в ближайшем будущем».
Разные мнения об угрозах со стороны ИИ
Между тем, среди ведущих исследователей в области ИИ сохраняются опасения по поводу опасностей, связанных с плохо defiцелями и неадекватными мерами безопасности. Профессор Калифорнийского университета в Беркли Стюарт Рассел и научный сотрудник Майкл Коэн утверждают, что мощные системы ИИ в конечном итоге могут представлять экзистенциальную угрозу для человечества, если их не контролировать.
В аналитической статье, опубликованной в журнале Science, Рассел и Коэн призвали к более строгому надзору за разработкой ИИ. Они подчеркнули необходимость того, чтобы технологические компании доказывали безопасность своих систем ИИ, прежде чем выпускать их на рынок. Без четких целей и надежных мер защиты, утверждают они, передовые системы ИИ могут действовать против интересов человека.
« Если цели этих ИИ будут противоречить целям людей, это может привести к катастрофе », — написали Рассел и Коэн. Они считают, что технологические компании должны нести ответственность за обеспечение безопасности своих систем и dent критических «красных линий», которые ИИ никогда не должен пересекать.
Разгорается дискуссия о безопасности ИИ
Стремительные темпы развития ИИ уже создали ряд проблем, включая распространение дезинформации, поляризацию общества и предвзятость алгоритмов. Опасения по поводу безопасности и регулирования пока не успевают за развитием технологий.
Заявления Шмидта отражают растущую обеспокоенность лидеров отрасли по поводу решения этих проблем. Такие эксперты, как Илон Маск, давно призывают к принятию превентивных мер регулирования для снижения рисков, связанных с ИИ.
Маск, который однажды назвал ИИ «самой большой угрозой, с которой мы сталкиваемся как цивилизация», предупреждал , что власти мало что сделали для противодействия его опасностям. Аналогичным образом, физик Стивен Хокинг опасался, что достижение сингулярности — точки, в которой машины превосходят человеческий интеллект, — может лишить человечество возможности контролировать передовые системы ИИ.
В своем интервью Хокинг утверждал, что без регулирования искусственный интеллект может стать «либо лучшим, либо худшим, что когда-либо случалось с человечеством»
Конкуренция между США и Китаем в сфере искусственного интеллекта усиливается
Шмидт отметил, что, хотя ранее США опережали Китай в развитии искусственного интеллекта , за последние шесть месяцев разрыв значительно сократился. « Китай догнал Китай поразительным образом », — сказал он, описав нынешнюю ситуацию как гонку с высокими ставками между двумя сверхдержавами.
« Возможно, через год-два системы смогут начать проводить собственные исследования. Их будут называть учеными в области искусственного интеллекта, в отличие от ученых-людей. Таким образом, количество ученых-людей увеличится с 1000 до миллиона. Я думаю, это ускорит процесс, и при такой скорости конкурентам будет очень трудно нас догнать », — отметил он.
Шмидт считает, что приходящая к власти администрация Трампа будет уделять приоритетное внимание конкурентоспособности США в области искусственного интеллекта, что он рассматривает как позитивный шаг. «Пока сохраняются человеческие ценности, — сказал он, — все будет в порядке».
