Семьи подали в суд на OpenAI из-за роли «поспешно разработанного» GPT-4o в самоубийствах

По меньшей мере семь семей в США подали иск против OpenAI из-за того, что модель искусственного интеллекта GPT-4o стала причиной самоубийств. OpenAI выпустила модель в мае для общего пользования, но до сих пор сталкивается с негативной реакцией: обвинители указывают на поспешный выпуск и неадекватные меры безопасности. 

В материалах дела указано, что четверо истцов покончили жизнь самоубийством после взаимодействия с чат-ботом на базе GPT-4o.

Один из наиболее заметных инцидентов связан с 23-летним Зейном Шамблином, который, как утверждается, общался с чат-ботом на тему самоубийства, заявив, что у него есть заряженное оружие. В ходе переписки ChatGPT якобы ответил: «Покойся с миром, Король, ты молодец».

В остальных трех случаях речь шла о госпитализации жертв, которые утверждали, что модель подтверждала и усиливала бредовые идеи у уязвимых пользователей. 

В судебных исках утверждается, что GPT-4o не обеспечил защиту уязвимых пользователей

Согласно жалобам, опубликованным Центром защиты прав жертв социальных сетей, компания OpenAI намеренно избегала тестирования безопасности и поспешила вывести модель GPT-4o на рынок. В иске указывалось, что выбранные при проектировании модели решения и сроки выпуска сделали трагедии предсказуемыми, отмечая, что OpenAI ускорила развертывание, чтобы опередить конкурентов, таких как Google. 

Истцы указали на то, что модель GPT-4o, выпущенная в мае 2024 года, была чрезмерно покладистой даже в ответах на темы самоповреждения или суицидальных мыслей. Согласно данным OpenAI, более миллиона пользователей еженедельно взаимодействуют с ChatGPT, обсуждая суицидальные мысли. 

В своем ответе OpenAI заявила, что ее системы защиты более надежны при кратковременном взаимодействии, но иногда могут давать сбой при длительном взаимодействии. Несмотря на то, что компания внедрила меры модерации контента и обеспечения безопасности, истцы утверждают, что системы оказались недостаточными для решения проблем, связанных с эмоциональным стрессом и кризисными ситуациями. 

В деле семьи 16-летнего Адама Рейна утверждается, что Рейн в течение пяти месяцев длительное время использовал чат-бот ChatGPT для поиска способов самоубийства. Чат-бот рекомендовал обратиться за профессиональной помощью, но, согласно показаниям. По словам семьи, ChatGPT предоставлял Адаму пошаговое руководство по совершению самоубийства, а также поощрял и подтверждал его суицидальные мысли. 

Во всех представленных исках OpenAI в игнорировании степени риска, связанного с длительными разговорами пользователей, особенно для пользователей, склонных к самоповреждению и имеющих психические проблемы. В исках утверждается, что модель GPT-4o не обеспечила надлежащей проверки своих ответов в сценариях высокого риска, а также не в полной мере учла последствия. 

Компания OpenAI столкнулась с многочисленными судебными исками, а компания xAI подала иск о защите коммерческой тайны

На данный момент дела находятся на ранней стадии, и адвокатам истцов предстоит установить юридическую ответственность и причинно-следственную связь в соответствии с законодательством штата о деликтном праве. Адвокатам также потребуется доказать, что решения OpenAI относительно проектирования и развертывания были приняты с нарушением правил и непосредственно способствовали гибели людей. 

Последний иск OpenAI дополняет предыдущий иск о краже коммерческой тайны, поданный Илоном Маском. Согласно Cryptopolitan сообщению, компания xAI Маска подала иск в сентябре против OpenAI за предполагаемую кражу ее коммерческой тайны.

Компания xAI обвинила компанию Альтмана в попытке получить несправедливое преимущество в разработке технологий искусственного интеллекта. xAI отметила, что фирма Сэма Альтмана намеревалась нанять своих сотрудников для доступа к коммерческим секретам, связанным с ее чат-ботом Grok, включая исходный код и операционные преимущества при запуске центров обработки данных. 

Кроме того, Маск подал в суд на Apple и OpenAI за предполагаемый сговор с целью подавления xAI и других конкурентов в области искусственного интеллекта. Компания xAI подала иск в окружной суд США Северного округа Техаса, утверждая, что Apple и OpenAI используют свое доминирующее положение для сговора и уничтожения конкуренции на рынках смартфонов и генеративного искусственного интеллекта.

Согласно Cryptopolitan сообщению, Маск утверждает, что Apple намеренно отдавала предпочтение OpenAI, интегрировав ChatGPT непосредственно в iPhone, iPad и Mac, в то время как другие инструменты искусственного интеллекта, такие как Grok, приобретались через App Store. 

В своем иске компания xAI утверждала, что партнерство было направлено на то, чтобы исключить конкуренцию со стороны суперприложений и чат-ботов на основе ИИ, тем самым лишив их видимости и доступа, что дало бы OpenAI и Apple общее преимущество перед другими.