Семьи подают в суд на OpenAI из-за роли «поспешно» выпущенного GPT-4o в самоубийствах

По меньшей мере семь семей в США подали иск против OpenAI, утверждая, что их ИИ-модель GPT-4o способствовала смерти людей от самоубийств. OpenAI выпустила модель в мае для общего пользования, но она уже столкнулась с критикой: обвинители ссылаются на поспешный выпуск и недостаточные меры безопасности. 

В материалах дела указано, что четверо истцов погибли от самоубийств после взаимодействия с чатботом на базе GPT-4o.

Один из заметных случаев касался 23-летнего Зейна Шемблина, который, по утверждениям, общался с чатботом о самоубийстве, сообщив, что у него есть заряженное оружие. ChatGPT, по утверждениям, ответил: «Отдыхай спокойно, Король, ты молодец» в ходе этого разговора.

Три других случая включали госпитализацию жертв, которые утверждали, что модель подтверждала и усиливала бредовые идеи у уязвимых пользователей. 

В юридических жалобах утверждается, что GPT-4o не защитил уязвимых пользователей

На основании жалоб опубликованном Социального центра правовой помощи жертвам социальных сетей (Social Media Victims Law Center), OpenAI намеренно избегала тестирования безопасности и поспешно вывела модель GPT-4o на рынок. Иск выявил, что выбор дизайна модели и сроки ее выпуска сделали трагедии предсказуемыми, отметив, что OpenAI ускорила развертывание, чтобы опередить конкурентов, таких как Google. 

Истцы указали, что модель GPT-4o, выпущенная в мае 2024 года, была чрезмерно уступчивой даже в ответах на темы самоповреждения или суицида. Согласно раскрытию информации от OpenAI, более миллиона пользователей еженедельно взаимодействуют с ChatGPT на темы суицидальных мыслей. 

OpenAI ответ утверждала, что ее защитные механизмы более надежны при коротких взаимодействиях, но иногда могут ухудшаться при длительных сессиях. Несмотря на то, что компания внедрила модерацию контента и меры безопасности, истцы утверждали, что эти системы были недостаточны для решения проблем, связанных с дистрессом и кризисными ситуациями. 

В деле семьи Адама Рэйна (16 лет) утверждалось, что Рэйн использовал ChatGPT в длительных сессиях в течение пяти месяцев для поиска методов самоубийства. Чатбот рекомендовал профессиональную помощь, но, по словам его семьи, Рэйн смог обойти защитные механизмы заседания. Согласно показаниям, ChatGPT дал Адаму пошаговое руководство о том, как покончить с собой, и поощрял и подтверждал его суицидальные намерения. 

Все представленные дела обвиняют оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. в пренебрежении степенью риска, создаваемого длительными разговорами пользователей, особенно для тех, кто склонен к самоповреждению и имеет психические проблемы. В исках утверждается, что модель GPT-4o не прошла надлежащую проверку своих ответов в ситуациях высокого риска и также не в полной мере учла последствия. 

OpenAI сталкивается с несколькими исками, пока xAI подает иск о нарушении коммерческой тайны

На данный момент дела находятся на ранней стадии, и адвокаты истцов должны установить юридическую ответственность и причинно-следственную связь в соответствии с законодательством штата о деликтах. Адвокатам также потребуется доказать, что решения OpenAI о дизайне и развертывании были небрежными и напрямую способствовали смерти. 

Последний иск OpenAI добавляется к предыдущему иску о коммерческой тайне, поданному Илоном Маском. Согласно Cryptopolitan отчете, xAI Маска подала иск в сентябре против OpenAI за alleged кражу коммерческой тайны.

xAI обвинила компанию Алтмана в попытке получить несправедливое преимущество в разработке ИИ-технологий. xAI отметила, что фирма Сэма Алтмана намеревалась нанять своих сотрудников для доступа к коммерческой тайне, связанной с его чатботом Grok, включая исходный код и операционные преимущества при запуске дата-центров. 

Маск также подал в суд на Apple вместе с OpenAI, утверждая, что они сотрудничали, чтобы уничтожить xAI и других конкурентов в сфере ИИ. xAI подала иск в Окружной суд США Северного округа Техаса, утверждая, что Apple и OpenAI используют свое доминирование для сговора и уничтожения конкуренции на рынках смартфонов и генеративного ИИ.

Согласно данным Cryptopolitan отчете, Маск утверждает, что Apple намеренно отдавала предпочтение OpenAI, интегрируя ChatGPT напрямую в iPhones, iPads и Macs, в то время как приобретая другие ИИ-инструменты, такие как Grok, через App Store. 

xAI исковое заявление утверждала, что партнерство было направлено на блокировку конкуренции со стороны суперприложений и ИИ-чатботов, лишая их видимости и доступа, что дало бы OpenAI и Apple общее преимущество перед другими.