Колорадо возглавляет борьбу за регулирование ИИ для борьбы с дискриминацией

Колорадо взяло на себя лидерство в регулировании систем искусственного интеллекта, влияющих на найм, жилищные вопросы и медицинские решения. Было предложено семь законопроектов, один из которых уже принят и одобрен; они направлены на регулирование предвзятого подхода ИИ к принятию важных решений. 

Также читайте: Национальный консультативный комитет по ИИ создан для решения вопросов регулирования ИИ

Несмотря на оппозицию, губернатор Колорадо Джаред Полис в пятницу с сомнением подписал этот законопроект. Он обязывает организации оценивать риски дискриминации со стороны ИИ, создавать программы мониторинга и уведомлять потребителей, если ИИ участвует в принятии решений.

Колорадо с неохотой принимает закон об ответственности ИИ

Законопроект Колорадо, подобный законам штатов Вашингтон и Коннектикут, не был встречен с энтузиазмом группами по защите гражданских прав, технологической индустрией, осторожными законодателями и обеспокоенными губернаторами. Эти законопроекты призваны решить проблему предвзятости ИИ в критически важных сферах, таких как трудоустройство, жилье и здравоохранение.

Существует большое сопротивление призывам к регулированию из-за сложности технологии и возможности ограничения ее развития. Губернатор Полис также выразил обеспокоенность по поводу законопроекта, подчеркнув, что он не должен сдерживать развитие ИИ. 

Законопроект обязывает проводить оценку предвзятости ИИ и уведомлять клиентов

Законодательство Колорадо и шесть аналогичных законопроектов требуют от организаций оценивать потенциальную предвзятость систем ИИ. Некоторым компаниям, использующим ИИ в своей деятельности, необходимо уведомлять клиентов всякий раз, когда значимые решения, затрагивающие их, принимаются ИИ. Этот подход направлен на повышение прозрачности и подотчетности приложений ИИ.

Также читайте: Регулирование ИИ вызывает дебаты среди технологических гигантов и регуляторов

Инициатива появляется на фоне более широких законодательных дискуссий, в ходе которых в этом году было рассмотрено более 400 законопроектов, связанных с ИИ. Эти законопроекты в основном сосредоточены на конкретных аспектах ИИ, таких как дипфейки и порнография с участием ИИ. Эти семь амбициозных законопроектов фокусируются на дискриминации — одной из самых сложных и универсальных проблем ИИ. 

Румман Чоудхури, специалист по искусственному интеллекту Государственного департамента США, заявила,

"У нас фактически нет видимости алгоритмов, которые используются, работают ли они или нет, или подвергаемся ли мы дискриминации".

Дискриминация со стороны ИИ скрывается в найме, жилье и здравоохранении

Текущее законодательство против дискриминации недостаточно охватывает проблемы, возникающие в результате использования ИИ. Кристина Веббер, адвокат по гражданским правам, отметила, что ИИ может усиливать предубеждения на гораздо более высоком уровне, чем одно лицо, принимающее решения.

"Нет, я должна сказать, что старые системы тоже не были полностью свободны от предвзятости; любой человек мог просмотреть лишь ограниченное количество резюме за день. Таким образом, можно было принять лишь ограниченное количество предвзятых решений за один день, а компьютер может делать это быстро и в отношении большого числа людей".

Кристина Веббер

Также читайте: Европейский Союз (ЕС) берет на себя лидирующую роль в регулировании ИИ

Дело Веббер является идеальным примером того, как ИИ может воплощать дискриминацию в жизнь: в одном из случаев ИИ-инструмент для оценки заявок на аренду обвинялся в присвоении более низких баллов чернокожим и латиноамериканцам. Эта проблема также затрагивает медицинскую сферу, где системы ИИ, как наблюдалось, отказывали чернокожим пациентам в специальной помощи на основе их искаженных оценок. Законопроект Колорадо пытается решить эти проблемы путем ежегодного анализа систем ИИ на предмет предвзятости, внутреннего регулирования и сообщения о дискриминационных результатах генеральному прокурору штата. 

Компании сопротивляются прозрачности, опасаясь разглашения коммерческой тайны

Хотя намерением законопроекта является продвижение прозрачности и подотчетности, в отрасли ИИ существуют определенные опасения. В то время как крупные компании ИИ, как правило, одобряют такие меры, малые компании считают их потенциально слишком сложными. Основатель Thumper.ai Логан Черковник заявил, что

"Чрезмерно ограничительное законодательство, которое заставляет нас использовать определенные определения и ограничивает наше использование технологий в период их формирования, просто нанесет ущерб инновациям".

Компании ИИ также добились включения пункта, предотвращающего иск со стороны кого-либо, кроме генерального прокурора штата, по поводу этого закона. Действия штата Колорадо происходят на фоне рассмотрения Конгрессом федеральных правил ИИ. Конгресс еще не принял никаких законопроектов о регулировании ИИ, но лидер большинства в Сенате Чак Шумер опубликовал на прошлой неделе отчет с рекомендациями по регулированию ИИ.

Репортаж Cryptopolitan от Бренды Канааны