Юристы требуют ясности в использовании ИИ для вынесения решений

В ходе шага, вызвавшего споры и опасения в юридическом сообществе Тайваня, Судебный юань недавно объявил о намерении интегрировать искусственный интеллект (ИИ) в составление судебных решений. Хотя сторонники утверждают, что эта технология может упростить и повысить эффективность правовой системы, юристы и защитники правосудия призывают к прозрачности, подотчетности и мерам предосторожности для предотвращения ошибочных и предвзятых приговоров.

Призыв к публичному раскрытию информации

Несколько влиятельных групп, включая Тайваньскую адвокатскую палату и Фонд судебной реформы, выразили обеспокоенность решением Юаня юстиции. Они подчеркивают необходимость четкого информирования общественности о том, как искусственный интеллект (ИИ) будет помогать судьям в составлении решений, и о мерах, которые будут приняты для предотвращения возможных ошибок и предвзятости. 

Расширение роли ИИ

Изначально Юань юстиции намерен использовать генеративный ИИ в делах, связанных с мошенничеством, отмыванием денег и опасным вождением, после завершения тестирования системы. Кроме того, планируется расширить участие ИИ в гражданских исках, касающихся компенсации за дорожно-транспортные происшествия, а также в делах о списании и ликвидации долгов. Юань юстиции утверждает, что его система ИИ специально разработана для создания черновиков судебных решений, а не просто для генерации шаблонного текста. Система позиционируется как «умный инструмент», способный генерировать контент на основе соответствующих обвинительных заключений и быстро анализировать уголовные факты и доказательства.

Неотвеченные вопросы

Несмотря на энтузиазм Юаня юстиции по поводу интеграции ИИ, юридическое сообщество остается скептически настроенным. Существует ряд насущных вопросов, требующих ответов:

Источники данных и обучение

Юань юстиции не раскрыл временной диапазон, за который были взяты юридические документы для обучения системы ИИ. Юристы обеспокоены способностью системы мгновенно анализировать уголовные факты и доказательства, особенно если она в основном опирается на судебные приговоры и обвинительные заключения, а не на материалы конкретных дел.

Сторонний подрядчик и управление данными

Юань юстиции не прояснил, как сторонний подрядчик создал базу данных, использованную для обучения системы ИИ. Кроме того, остается неясным, хранятся ли данные и управляются ими подрядчиком или Юанем юстиции.

Общество имеет право понимать, как подрядчик будет решать проблемы, возникающие из-за неполной или предвзятой информации в базе данных при настройке параметров ИИ. Кроме того, необходима прозрачность в отношении того, как будут разрешаться споры об ответственности между Юанем юстиции и подрядчиком.

Полномочия и надзор за судьями

Хотя Юань юстиции заявляет, что судьи сохранят за собой окончательную власть в определении фактов, применении закона и вынесении приговоров, существуют опасения относительно точности изменений, вносимых в генерируемый контент. Необходима ясность в вопросе о том, будут ли судьи иметь последнее слово в отношении факторов, влияющих на их решения.

Требования прозрачности

Юристы и правозащитники выступают за большую прозрачность и доступ к базе данных обучения ИИ. Разрешение адвокатам, прокурорам и другим заинтересованным сторонам изучать базу данных позволило бы провести коллективную проверку потенциальной предвзятости и рисков, присущих системе.

Международный прецедент и опасения

Хотя ИИ уже используется в других странах для помощи в сборе доказательств по юридическим делам, его использование для помощи судьям в составлении решений и принятии решений остается относительно неизведанной территорией на международном уровне. Исследование Университета Пердью вызывает опасения, показывая, что значительная часть людей может не обнаруживать ошибки в контенте ИИ с точностью ниже 50%, явление, известное как «искусственная галлюцинация».

Риски ИИ в правосудии

Растет осознание рисков, связанных с широким использованием ИИ в системе правосудия, особенно в Соединенных Штатах. Роль ИИ в помощи судьям при вынесении приговоров на основе риска рецидива со стороны подсудимых может непреднамеренно усугублять существующие предрассудки и расовое неравенство. ИИ, будучи мощным инструментом, может упускать из виду важные культурные факторы, ситуации заинтересованных сторон и намерения — элементы, которые судьи должны учитывать при принятии решений и которые невозможно воспроизвести с помощью ИИ.

Интеграция ИИ в судебную систему обещает повысить эффективность, но также поднимает сложные вопросы о прозрачности, предвзятости, подотчетности и роли судей. Юридическое сообщество Тайваня призывает к осторожному подходу, который ставит во главу угла публичное раскрытие информации, защиту от предвзятости и сохранение ключевой роли человеческого суждения в юридическом процессе. По мере того как использование ИИ в юридической сфере продолжает развиваться, решение этих проблем будет иметь решающее значение для обеспечения справедливых и законных результатов для всех.