Адвокат использовал ChatGPT для апелляции по делу об убийстве. Сервис выдумал свидетелей, которых никогда не существовало

Адвокат из Нью-Мексико, защищавший своего подзащитного от обвинения в убийстве, использовал ChatGPT. Затем он представил в Верховный суд Нью-Мексико краткое изложение дела, содержащее вымышленные показания полиции и свидетелей.

Верховный суд Нью-Мексико установил, что адвокат Стивен Ааронс не проверил сгенерированный искусственным интеллектом материал. Судьи заявили, что документ «содержит ложные показания полностью сфабрикованных свидетелей»

В среду суд признал Стивена виновным в неуважении к суду и обязал его выплатить 5000 долларов. Его действия также будут рассмотрены дисциплинарной комиссией для адвокатов. Судьи заявили, что Стивен «продемонстрировал отсутствие раскаяния и безразличие к своему клиенту»

Стивен сказал, что в прошлом году использовал ChatGPT для сокращения материалов судебного разбирательства после подачи апелляции. Он сказал, что не осознавал, насколько далеко могут зайтиdentпрограммное обеспечение может воспроизводить факты, которых никогда не было. «галлюцинации» искусственного интеллекта и насколько

Судьи в Нью-Мексико наказали Стивена после того, как ChatGPT сфабриковал показания в рамках апелляции Оскара по делу об убийстве

Стивен, частный адвокат из Санта-Фе, представлял интересы Оскара Рене Сандовал. Оскар не признал себя виновным в убийстве матери своих детей. Впоследствии он был признан виновным и в прошлом году приговорен к пожизненному заключению. Его апелляция все еще находится на рассмотрении.

По сообщениям, Стивен заявил журналистам, что ошибка была непреднамеренной. «Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка», — сказал он. «Это урок для всех специалистов, которые полагаются на эту мощную, но порой нестабильную технологию».

Ряд юристов уже понесли наказание за неконтролируемое использование искусственного интеллекта в качестве вспомогательного средства. В судах штатов и федеральных судах против юристов возбуждены дела из-за документов, содержащих фальсифицированные судебные решения, ссылки и искаженные цитаты из правовых норм.

Заявление Стивена выделяется в этой категории тем, что включает в себя ложные показания свидетелей в рамках апелляционного процесса.

Дело Оскара 2 сентября было передано Ким Чавес Кук, государственному защитнику из Нью-Мексико. Сейчас Ким занимается апелляцией, пока дело остается открытым.

Семья Тиру подала в суд на OpenAI, в то время как власти Флориды изучают 16 000 чатов ChatGPT, связанных со стрельбой в Университете штата Флорида

Другой судебный процесс связан с компанией ChatGPT после стрельбы в Университете штата Флорида. Адвокат, представляющий семью погибшего, Тиру Чабба, подал иск против OpenAI, ChatGPT и Феникса Икнера в федеральный суд.

Иск был подан в Окружной суд Соединенных Штатов Северного округа Флориды в воскресенье. Утверждается, что компания OpenAI должна была принять меры в этой ситуации.

Правоохранительные органы Флориды опубликовали расшифровку разговоров Феникса в чате ChatGPT. В ней содержатся вопросы о том, как обращаться с оружием, об освещении в СМИ, о самом загруженном времени в Университете штата Флорида, о стрельбе в Колумбайне и о том, как прославиться.

Адвокат семьи Тиру, Бакари Селлерс, заявил, что переписка ведется уже около 18 месяцев и насчитывает около 16 000 «тревожных сообщений»

«Это тот же самый человек, который спрашивал, знаете ли, как он мог стать печально известным? Он спрашивал о стрельбе в Колумбайне. Он спрашивал, во сколько ему следует приехать в кампус? Во сколько там будет большинство людей?» — сказал Бакари.

«Он буквально использовал открытый ИИ и Chat GPT в качестве своего сообщника, используя их как ресурс для совершения массовых убийств», — добавил Бакари. «Ничто не предотвратило этого, и поэтому были потеряны жизни. В этом и заключается опасность, должны быть какие-то меры, чтобы предотвратить это»

Компания OpenAI отвергла свою причастность к стрельбе. Пресс-секретарь Дрю Пусатери заявил, что после того, как стало известно о произошедшем, компания обнаружила аккаунт, предположительно связанный с Phoenix, и заблаговременно передала эту информацию полиции. Дрю добавил, что OpenAI продолжает сотрудничать с властями.

«Прошлогодняя массовая стрельба в Университете штата Флорида была трагедией, но ChatGPT не несет ответственности за это ужасное преступление», — сказал Дрю.

Он сказал, что ChatGPT отвечал, опираясь на фактическую информацию, уже широко доступную в общедоступных интернет-источниках, и не пропагандировал противоправное или вредное поведение. Дрю также упомянул, что сотни миллионов людей ежедневно используют ChatGPT по уважительным причинам.

По словам Дрю, OpenAI постоянно совершенствует свои инструменты, которые помогают распознавать намерения пользователей, предотвращать злоупотребления и реагировать в случае возникновения каких-либо проблем с безопасностью.

Нынешний иск последовал за аналогичным делом во Флориде. Генеральный прокурор Джеймс Утмайер недавно сообщил, что уголовное расследование в отношении OpenAI и ChatGPT было начато Управлением прокуратуры штата.