Глава подразделения искусственного интеллекта в Microsoft выступает против попыток создания машин, обладающих, казалось бы, сознанием, заявляя, что только живые существа могут по-настоящему ощущать сознание.
В интервью телеканалу CNBC на конференции AfroTech в Хьюстоне на этой неделе Мустафа Сулейман заявил, что исследователям следует отказаться от работы, направленной на создание систем искусственного интеллекта, которые бы казались сознательными. Он назвал это совершенно неправильным подходом.
«Я не думаю, что это работа, которой люди должны заниматься», — сказал Сулейман на конференции, где он выступил с программной речью. «Если вы зададите неправильный вопрос, вы получите неправильный ответ. Я думаю, это совершенно неправильный вопрос»
Будучи ведущим специалистом Microsoft в области искусственного интеллекта, Сулейман стал видным критиком попыток разработки сервисов ИИ, которые могут заставить людей поверить, что технология способна страдать или испытывать эмоции. В прошлом году он написал книгу «Грядущая волна», в которой рассматривались опасности, исходящие от ИИ и подобных новых технологий. В августе он опубликовал эссе, в котором доказывал необходимость создания ИИ, который будет помогать людям, а не имитировать их.
Растущий рынок ИИ-компаньонов вызывает дискуссию
Этот разговор разворачивается на фоне ожесточенной конкуренции между технологическими компаниями за создание помощников на основе искусственного интеллекта, включая предложения от Meta и xAI Илона Маска. Ситуация становится все более сложной по мере того, как сектор генеративного ИИ, возглавляемый OpenAI Сэма Альтмана, стремится к созданию искусственного общего интеллекта — систем, способных к когнитивным способностям на уровне человека.
В августе Альтман заявил, что термин «искусственный общий интеллект» больше не является особенно полезным. Он сказал, что модели просто быстро совершенствуются, и люди будут зависеть от них во всё большем количестве задач.
Для Сулеймана крайне важно отделить растущие возможности ИИ от любой возможности проявления человеческих чувств.
«Наше физическое переживание боли вызывает у нас сильную грусть и ужасные чувства, но ИИ не испытывает грусти, когда испытывает „боль“», — объяснил. «Это очень, очень важное различие. Он просто создает восприятие, кажущуюся историю переживания, самого себя и своего сознания, но это не то, что он на самом деле испытывает. Технически вы это знаете, потому что мы можем видеть, что делает модель».
Он сослался на биологический натурализм, теорию философа Джона Сёрла, утверждающую, что сознание требует наличия биологических процессов в живом мозге.
«Причина, по которой мы сегодня предоставляем людям права, заключается в том, что мы не хотим причинять им вред, потому что они страдают. У них есть сеть болевых ощущений, и у них есть предпочтения, связанные с избеганием боли, — сказал Сулейман. — В этих моделях этого нет. Это всего лишь симуляция»
Сулейман признал, что изучение сознания остается развивающейся наукой. Он не призывал препятствовать другим в исследованиях по этой теме, признавая, что у разных организаций разные цели. Однако он подчеркнул своюtronоппозицию этой концепции.
«Они не обладают сознанием, — сказал он. — Поэтому было бы абсурдно проводить исследования, изучающие этот вопрос, потому что они не обладают и не могут обладать им»
Microsoft идет другим путем, чем конкуренты
Сулейман отправляется в поездку, чтобы публично рассказать о рисках, связанных с развитием сознания у искусственного интеллекта. До Хьюстона он выступил на саммите Международного совета Пейли в Силиконовой долине на прошлой неделе.
Там он объявил, что Microsoft не будет создавать чат-боты для контента сексуального характера, в отличие от конкурентов. Как сообщал Cryptopolitan, в октябре Альтман рассказал, что ChatGPT теперь позволяет взрослым пользователям вести беседы на сексуальные темы, а xAI предлагает провокационного аниме-компаньона.
«По сути, эти услуги можно приобрести и у других компаний, поэтому мы принимаем решения о том, в какие места мы не будем обращаться», — повторил Сулейман на конференции AfroTech.
Выступая на конференции AfroTech, Сулейман заявил, что выбрал Microsoft отчасти из-за ее истории, стабильности и широкого технологического охвата. Генеральный директор Сатья Надела лично пригласил его на работу.
«Кроме того, Microsoft необходимо было стать самодостаточной в области искусственного интеллекта», — сказал он. Надела начал работу 18 месяцев назад, чтобы обеспечить возможность обучения собственных моделей полностью внутри компании с использованием собственных данных.
