Сэм Альтман обеспокоен скрытыми опасностями, таящимися за ChatGPT

Генеральный директор OpenAI Сэм Альтман объяснил, как его компания принимает решения по поводу ChatGPT. Он сказал, что его больше беспокоят даже самые незначительные изменения в поведении чат-бота, чем радикальные политические решения.

В интервью Такеру Карлсону Альтман сказал, что он «плохо спит по ночам. Есть много вещей, которые меня очень беспокоят, но, пожалуй, ничто так сильно не влияет на меня, как тот факт, что каждый день сотни миллионов людей общаются с нашей моделью», — сказал Альтман.

Альтман назвал самоубийство самой сложной проблемой, с которой сталкивается команда, указав на судебный иск от семьи, которая обвинила ChatGPT в смерти своего сына-подростка.

«Вероятно, они говорили о самоубийстве, и мы, вероятно, не спасли им жизнь», — сказал он. «Возможно, мы могли бы сказать что-то получше. Возможно, мы могли бы быть более инициативными. Возможно, мы могли бы дать более дельный совет: „Эй, вам нужна помощь“»

В прошлом месяце родители Адама Рейна подали иск против OpenAI по обвинению в причинении смерти по неосторожности после того, как их 16-летний сын покончил жизнь самоубийством. В иске говорилось, что «ChatGPT активно помогал Адаму изучать способы самоубийства». Вскоре после этого OpenAI опубликовала сообщение под названием «Помогаем людям, когда они больше всего в этом нуждаются», в котором излагались шаги по улучшению реагирования в «деликатных ситуациях»

Кто устанавливает этические правила ChatGPT?

Альтман сказал, что базовая модель обучается на основе общечеловеческих знаний, а затем OpenAI корректирует поведение и решает, чего система делать не будет. «Это действительно сложная задача. Сейчас у нас много пользователей, и они придерживаются совершенно разных жизненных взглядов… Но в целом я был приятно удивлен способностью модели к обучению и применению моральных принципов», — сказал он.

Он сказал, что компания консультировалась с «сотнями философов-моралистов и людьми, которые размышляли об этике технологий и систем». Он указал на одно из ограничений, которое компания соблюдает: система не будет давать инструкции по созданию биологического оружия.

«Есть наглядные примеры, когда интересы общества находятся в значительном противоречии со свободой пользователей», — сказал он, добавив, что компания «не сможет всё сделать идеально и нуждается в мнении всего мира»

Что происходит с конфиденциальностью пользователей при использовании ChatGPT?

Когда Карлсон заявил, что генеративный ИИ может быть использован для «тоталитарного контроля», Альтман ответил, что он выступает за «привилегию ИИ», в рамках которой информация, которую человек сообщает чат-боту, будетdent. «Когда вы говорите с врачом о своем здоровье или с юристом о своих юридических проблемах, правительство не может получить эту информацию, верно?… Я думаю, что у нас должна быть такая же концепция для ИИ»

Как упоминалось в Cryptopolitan, Альтман ранее подчеркивал, что по мере того, как ИИ проникает во все более личные сферы, пользовательский ввод остается без правовой защиты.

Он отметил, что в настоящее время власти США могут получить данные пользователей от компании по судебному запросу.

На вопрос о том, будут ли военные использовать ChatGPT для причинения вреда людям, Альтман не дал прямого ответа. «Я не знаю, как сегодня используют ChatGPT в армии… но подозреваю, что многие военные обращаются к ChatGPT за советом», — сказал он, добавив позже, что не уверен, «как именно к этому относиться»

OpenAI — одна из компаний, занимающихся искусственным интеллектом, получивших грант Министерства обороны США в размере 200 миллионов долларов.

Карлсон предсказал, что при нынешнем развитии генеративный ИИ, а следовательно, и Альтман, сможет накопить больше власти, чем любой другой человек, назвав ChatGPT «религией»

«Сейчас огромное количество людей используют ChatGPT и другие чат-боты, и все они стали более функциональными. Все они способны на большее. Все они могут достигать большего, открывать новые предприятия, получать новые знания», — сказал Альтман. Он также отметил, что, по его мнению, искусственный интеллект приведет к сокращению многих существующих сегодня рабочих мест, особенно в краткосрочной перспективе.