Anthropic заявляет, что Claude AI допустила «неприятную и непреднамеренную» ошибку в ходе судебного разбирательства
- Anthropic сообщила, что её ИИ-система Claude допустила ошибку в юридическом документе, предоставив неверные данные в цитировании.
- Судья отнёсся к ошибке серьёзно, предупредив, что подобные ошибки, допущенные ИИ в суде, могут стать серьёзной проблемой.
- Юристы Anthropic теперь проводят дополнительные проверки, чтобы избежать повторения подобных ситуаций.
В четверг Anthropic признала, что ошибочная ссылка в судебном документе стала результатом работы ее собственного ИИ-ассистента Claude, и назвала этот сбой «неловкой и непреднамеренной ошибкой».
Universal, Concord и ABKCO подали в суд на Anthropic в прошлом году, утверждая, что компания из Сан-Франциско скопировала их тексты песен целиком для обучения Claude. Дело является одним из нескольких громких дел о том, могут ли технологические компании использовать защищенные авторским правом материалы без разрешения для обучения систем ИИ.
Reuters сообщало, что во время слушания во вторник адвокат Мэтт Оппенгейм, представляющий Universal Music Group, ABKCO и Concord, заявил суду, что цитата чат-бота была «полной выдумкой» для поддержки дела Anthropic.
Судья США магистрат Сьюзан ван Кейлен назвала последнее обвинение «очень серьезной и тяжелой проблемой» и подчеркнула «огромную разницу между пропущенной ссылкой и галлюцинацией, сгенерированной ИИ». Судья приказала сторонам полностью разъяснить вопрос в своих письменных представлениях.
Адвокаты Anthropic говорят, что Claude AI ошибся при форматировании
В письменном ответе в четверг адвокат Anthropic Ивана Дукович сказала, что ссылка была реальной, но была неправильно обработана, когда Claude попросили отформатировать ее в юридическом стиле. Она объяснила, что неверные номера томов и страниц, созданные ботом, были исправлены при ручном проверке, однако ошибки в формулировках проскочили незамеченными.
«Хотя было предоставлено правильное название публикации, год издания и ссылку на предоставленный источник, возвращенная цитата содержала неточное название и неверных авторов», — написала Дукович, добавив, что сбой не был «выдумкой авторитета».
Anthropic извинилась за путаницу и сказала, что сбой не был преднамеренным и не был попыткой ввести суд в заблуждение.
Ошибки ИИ продолжают создавать проблемы в суде
Несколько адвокатов недавно подверглись критике или санкциям за использование сгенерированных ИИ материалов, которые оказались ложными. В своем заявлении Дукович сказала, что юридическая фирма Latham & Watkins, представляющая Anthropic, добавила «несколько уровней дополнительной проверки, чтобы гарантировать, что это не повторится».
Этот инцидент присоединяется к растущему списку судебных ошибок, связанных с генеративным ИИ.
На прошлой неделе судья в Калифорнии отчитал две юридические фирмы за то, что они не заявили об использовании ИИ для создания дополнительного меморандума, наполненного «фальшивыми» ссылками, которых «не существовало». В декабре исследователь дезинформации признался, что ChatGPT придумал цитаты в документе, который он подготовил.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Нур Базми
Нуор Базми работает в новостной команде Cryptopolitan, имея степень по медиаисследованиям. Нуор освещает новости о блокчейне, криптовалютах, искусственном интеллекте, крупных технологических компаниях, рынке электромобилей, глобальной экономике и изменениях в государственной политике. Она изучает маркетинг, чтобы лучше взаимодействовать с международной аудиторией.
