Высокопоставленный чиновник по ИИ называет вопрос о сознании ИИ «неправильным»
- Глава ИИ в Microsoft Мустафа Сулейман заявляет, что только биологические существа могут обладать сознанием, а разработчикам следует прекратить попытки создания ИИ, который кажется сознательным.
- Он предупреждает, что обращение с ИИ как с сознательной сущностью может навредить уязвимым людям и привести к опасному расколу общества по вопросу прав ИИ.
- В Калифорнии принят закон SB 243, обязывающий чат-ботов раскрывать факт того, что они являются ИИ, и напоминать несовершеннолетним делать перерывы каждые три часа.
Глава искусственного интеллекта в Microsoft выступает против усилий по созданию машин, кажущихся сознательными, утверждая, что только живые существа могут по-настоящему испытывать осознанность.
Мустафа Сулейман сказал CNBC во время интервью на конференции AfroTech в Хьюстоне на этой неделе, что исследователи должны отказаться от работ, направленных на создание систем ИИ, которые кажутся сознательными. Он назвал это совершенно неправильным подходом.
"Я не думаю, что людям следует заниматься такой работой", — сказал Сулейман на конференции, где он выступал с ключевым докладом. "Если задать неверный вопрос, в итоге получишь неверный ответ. Я считаю, что это совершенно неверный вопрос."
Как ведущая фигура Microsoft в области искусственного интеллекта, Сулейман стал заметным критиком усилий по разработке ИИ-сервисов, которые могут заставить людей поверить, что технология может страдать или испытывать эмоции. В прошлом году он написал книгу «Грядущая волна», исследующую опасности, представляемые ИИ и подобными новыми технологиями. В августе он опубликовал эссе, в котором выступал за создание ИИ для помощи людям, а не для имитации их.
Растущий рынок ИИ-компаньонов вызывает дебаты
Этот разговор разворачивается на фоне конкурентной гонки среди технологических компаний по созданию ИИ-компаньонов, включая предложения от Meta и xAI Илона Маска. Вопрос становится все более сложным, поскольку сектор генеративного ИИ, возглавляемый OpenAI Сэма Альтмана, стремится к созданию искусственного общего интеллекта, систем, способных к когнитивной производительности на уровне человека.
Альтман сказал в августе, что искусственный общий интеллект больше не является особенно полезным термином. Он сказал, что модели просто быстро улучшаются, и люди будут зависеть от них для выполнения все большего количества задач.
Для Сулеймана крайне важно отделять растущие возможности ИИ от любой возможности человеческих чувств.
«Наш физический опыт боли вызывает у нас глубокую грусть и ощущение ужаса, но ИИ не испытывает печали, когда сталкивается с „болью“,» — объяснил Сулейман . «Это очень и очень важное различие. По сути, он лишь создает восприятие, кажущийся нарратив опыта, собственного „я“ и сознания, но это не то, что он действительно переживает. Технически это очевидно, поскольку мы видим, как работает модель.»
Он указал на биологический натурализм — теорию философа Джона Сёрла, согласно которой сознание требует биологических процессов живого мозга.
«Причина, по которой мы сегодня предоставляем людям права, заключается в том, что мы не хотим причинять им вред, потому что они страдают. У них есть болевая сеть, и у них есть предпочтения, связанные с избеганием боли», — сказал Сулейман. «У этих моделей этого нет. Это просто симуляция».
Сулейман признал, что изучение сознания остается развивающейся наукой. Он не призывал блокировать других от исследований этой темы, понимая, что у разных организаций разные цели. Однако он подчеркнул свое категорическое неприятие этой концепции.
«Они не обладают сознанием», — сказал он. «Поэтому было бы абсурдно проводить исследования, направленные на изучение этого вопроса, потому что их нет, и они не могут быть».
Microsoft выбирает иной путь, чем конкуренты
Сулейман отправился в поездку, чтобы публично рассказать о рисках, связанных с поиском сознания у ИИ. До Хьюстона он выступал на саммите Международного совета Пэли в Силиконовой долине на прошлой неделе.
Там он объявил, что Microsoft не будет создавать чат-боты для сексуального контента, в отличие от конкурентов. Как сообщалось в Cryptopolitan, Олтман раскрыл в октябре, что ChatGPT теперь позволяет взрослым пользователям вести сексуальные разговоры, в то время как xAI предлагает провокационного аниме-компаньона.
«Вы можете практически купить эти услуги у других компаний, поэтому мы принимаем решения о том, куда мы не пойдем», — снова сказал Сулейман на AfroTech.
Выступая на AfroTech, Сулейман сказал, что выбрал Microsoft частично из-за ее истории, стабильности и широкого технологического охвата. Генеральный директор Сатья Наделла лично завербовал его.
«Другое дело, что Microsoft должна была быть самодостаточной в сфере ИИ», — сказал он. Наделла начал миссию 18 месяцев назад, чтобы убедиться, что компания сможет полностью обучать свои модели внутри компании, используя собственные данные.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Нур Базми
Нуор Базми работает в новостной команде Cryptopolitan, имея степень по медиаисследованиям. Нуор освещает новости о блокчейне, криптовалютах, искусственном интеллекте, крупных технологических компаниях, рынке электромобилей, глобальной экономике и изменениях в государственной политике. Она изучает маркетинг, чтобы лучше взаимодействовать с международной аудиторией.
