Юрист использовал ChatGPT для апелляции по делу об убийстве. Он выдумал свидетелей, которых никогда не существовало

Адвокат из Нью-Мексико, защищавшийся от обвинений в убийстве, использовал ChatGPT. Затем он подал меморандум в Верховный суд Нью-Мексико, который содержал выдуманные показания полиции и свидетелей.

Верховный суд Нью-Мексико установил, что адвокат Стивен Ааронс не проверил материалы, сгенерированные ИИ. Судьи сказали, что документ «содержал ложные показания полностью вымышленных свидетелей».

Суд признал Стивена в неуважении к суду в среду и обязал его выплатить 5000 долларов. Его поведение также будет рассмотрено дисциплинарным советом адвокатов. Судьи сказали, что Стивен «проявил отсутствие раскаяния и отсутствие заботы о своем клиенте».

Стивен сказал, что в прошлом году использовал ChatGPT для сокращения материалов судебного разбирательства после подачи апелляции. Он сказал, что не осознавал, насколько далеко могут зайти «галлюцинации» ИИ или насколько уверенно программное обеспечение может создавать факты, которых никогда не было.

Судьи Нью-Мексико наказывают Стивена после того, как ChatGPT выдумал показания в апелляции по делу об убийстве Оскара

Стивен, частный адвокат из Санта-Фе, представлял Оскара Рене Сандовала. Оскар признал себя невиновным в убийстве матери своих детей. Позже он был признан виновным и получил пожизненное заключение в прошлом году. Его апелляция все еще находится на рассмотрении.

Стивен предположительно сообщил репортерам, что ошибка была честной. «Я сожалею, но надеюсь, что дисциплинарный совет учтет, что это была честная ошибка», — сказал он. «Это урок, усвоенный всеми профессионалами, которые полагаются на эту мощную, но иногда нестабильную технологию».

Ряд юристов уже столкнулись с наказаниями за неконтролируемую помощь ИИ. Дела были возбуждены против юристов как в государственных, так и в федеральных судах из-за процессуальных документов, содержащих вымышленные дела, ссылки и неправильно процитированные правовые нормы.

Заявление Стивена выделяется в этой категории, так как оно включает ложные показания свидетелей в процессе апелляции.

Дело Оскара перешло к Ким Чавес Кук, государственному защитнику из Нью-Мексико, 2 сентября. Ким теперь ведет апелляцию, пока дело остается открытым.

Семья Тиру подает в суд на OpenAI, пока чиновники Флориды изучают 16 000 чатов ChatGPT, связанных со стрельбой в FSU

Другой судебный процесс касается ChatGPT после стрельбы в Университете штата Флорида. Адвокат, представляющий семью погибшего Тиру Чаббы, подал иск против OpenAI, ChatGPT и Феникса Икнера в федеральный суд.

Иск был подан в Окружной суд США Северного округа Флориды в воскресенье. Утверждается, что OpenAI должна была предпринять действия в этой ситуации.

Сотрудники правоохранительных органов во Флориде опубликовали транскрипты ChatGPT Феникса. Они содержат запросы о том, как обращаться с оружием, освещение в СМИ, самое загруженное время в FSU, стрельбу в Колумбайне и то, как стать знаменитым.

Адвокат семьи Тиру, Бакари Селлерс, сказал, что переписка насчитывает около 18 месяцев и составляет примерно 16 000 «тревожных чатов».

«Это тот же человек, который спросил, как он может стать знаменитым? Он спрашивал о стрельбе в Колумбайне. Он спрашивал, в какое время ему идти в кампус? В какое время большинство людей будет там?» — сказал Бакари.

«Он буквально использовал Open AI и Chat GPT как своего сообщника, использовал их как ресурс для совершения массового убийства», — добавил Бакари. «Ничего не было сделано для предотвращения этого, и поэтому были потеряны жизни. Это присущая опасность, должно быть что-то, что предотвратит это».

OpenAI отвергла ответственность за стрельбу. Представитель Дрю Пусатери сказал, что компания обнаружила аккаунт, предположительно связанный с Фениксом, узнав о произошедшем, и проактивно поделилась информацией с полицией. Дрю сказал, что OpenAI продолжает сотрудничать с властями.

«Массовая стрельба в Университете штата Флорида в прошлом году была трагедией, но ChatGPT не несет ответственности за это ужасное преступление», — сказал Дрю.

Он сказал, что ChatGPT ответил фактическими материалами, уже широко доступными через публичные интернет-источники, и не продвигал незаконное или вредоносное поведение. Дрю также упомянул, что сотни миллионов людей ежедневно используют ChatGPT по уважительным причинам.

По словам Дрю, OpenAI постоянно улучшает свои инструменты, помогающие распознавать намерения пользователей, предотвращать злоупотребления и действовать в случае любых опасений по поводу вопросов безопасности.

Текущий иск последовал за аналогичным делом во Флориде. Генеральный прокурор Джеймс Утмайер недавно сообщил, что Управление statewide prosecution возбудило уголовное расследование против OpenAI и ChatGPT.