Компании OpenAI и Microsoft подали в суд из-за роли ChatGPT в убийстве с последующим самоубийством.

Наследники 83-летней жительницы Коннектикута подали в суд на разработчика ChatGPT, компанию OpenAI, и компанию Microsoft, утверждая, что чат-бот подпитывал её бредовые убеждения, которые привели к убийству и самоубийству. Этот случай стал первым, когда система искусственного интеллекта была напрямую связана с убийством.

В иске, поданном в Верховный суд Калифорнии в Сан-Франциско, компания OpenAI обвиняется в разработке и распространении дефектного продукта под названием ChatGPT-4o. В документе утверждается, что он укрепил параноидальные убеждения Стайна-Эрика Зольберга, который затем направил эти убеждения на свою мать, Сюзанну Адамс, прежде чем убить ее, а затем покончить с собой в их доме в Гринвиче, штат Коннектикут.

Компании OpenAI и Microsoft стали жертвами убийства, связанного с ChatGPT.

Комментируя дело ,Дж. Эли Уэйд-Скотт, управляющий партнер юридической фирмы Edelson PC, представляющий интересы наследников Адамса, отметил, что это первый случай, когда OpenAI привлекается к ответственности за свою роль в причинении насилия третьей стороне. «Мы также представляем семью Адама Рейна, который трагически покончил с собой в этом году, но это первый случай, когда OpenAI будет привлечена к ответственности за подстрекательство к причинению вреда другому человеку», — сказал Эли Уэйд-Скотт.

Согласно полицейскому отчету, в августе Зёльберг до смерти избил и задушил Адамса, после чего покончил жизнь самоубийством. В иске упоминалось, что доdent чат-бот усилил паранойю Зёльберга, увеличив его эмоциональную зависимость от системы, разработанной OpenAI. Согласно жалобе, ChatGPT укрепил его убеждение, что он никому не может доверять, кроме чат-бота, отмечая, что все вокруг него, включая его мать, — враги.

В иске также утверждалось, что помимо матери, Соелберг считал врагами таких людей, как курьеры и полицейские. В документе упоминалось, что ChatGPT не опроверг эти бредовые заявления и не предложил Соелбергу обратиться за помощью к квалифицированным специалистам в области психического здоровья. «Мы призываем правоохранительные органы начать задумываться о том, что говорил этот пользователь в ChatGPT, когда происходят подобные трагедии, и что ChatGPT советовал ему делать», — сказала Уэйд-Скотт.

В своем заявлении OpenAI отметила, что в настоящее время изучает иск и продолжит совершенствовать способность ChatGPT распознавать эмоциональное расстройство, снижать накал страстей в разговорах и побуждать пользователей обращаться за помощью в реальном мире. «Это невероятно душераздирающая ситуация, и мы изучаем документы, чтобы понять детали», — говорится в заявлении представителя OpenAI.

Представители наследников требуют от OpenAI установить средства защиты в свой чат-бот.

В иске в качестве ответчика фигурирует генеральный директор OpenAI Сэм Альтман, а Microsoft обвиняется в одобрении выпуска GPT-4o, который компания называет «самой опасной версией ChatGPT», в 2024 году. OpenAI также недавно признала масштаб проблем с психическим здоровьем, о которых сообщают пользователи её платформы. В октябре компания отметила, что около 1,2 миллиона из 800 миллионов её еженедельных пользователей обсуждают самоубийство, при этом, по данным компании, сотни тысяч пользователей демонстрируют признаки суицидальных намерений или психоза.

Несмотря на свое заявление, Уэйд-Скотт упомянула, что OpenAI еще не опубликовала журналы чата Соэлберга. Между тем, судебный иск подан на фоне более пристального внимания к чат-ботам с искусственным интеллектом и их взаимодействию с уязвимыми пользователями. В октябре прошлого года Character.AI заявила, что удалит свои функции с открытым доступом для пользователей младше 18 лет после судебных исков и давления со стороны регулирующих органов, связанных с подростковыми самоубийствами и эмоциональным вредом, причиненным ее платформой. Компания также столкнулась с негативной реакцией после вирусного сообщения о намерении покинуть приложение.

Иск против OpenAI и Microsoft — это первый случай неправомерной смерти, связанный с чат-ботом на основе искусственного интеллекта, в котором Microsoft указана в качестве ответчика. Это также первый случай, когда чат-бот связывают с убийством, а не с самоубийством. Теперь наследники требуют денежной компенсации в неразглашаемых суммах, суда присяжных и судебного постановления, которое обяжет OpenAI включить дополнительные меры безопасности для своих пользователей. «OpenAI и Microsoft обязаны тестировать свою продукцию, прежде чем она будет выпущена в мир», — сказала Уэйд-Скотт.