Почему этический надзор с использованием ИИ невозможен, подобно тому как помада не скроет свинью?

Краткое содержание

• Румман Чоудхури считает, что этический надзор с помощью ИИ невозможен, заявляя: «Мы не можем накрасить губы свинье».
• Она выступает за создание внешней глобальной правящей комиссии для надзора за технологиями ИИ и решения таких проблем, как капитализм наблюдения.
• Чоудхури подчеркивает важность подотчетности и сотрудничества в управлении ИИ, предостерегая от чрезмерного регулирования, одновременно решая этические проблемы.

В недавнем интервью Румман Чоудхури, бывший директор по этике машинного обучения, прозрачности и подотчетности в Twitter, выразила свой скептицизм относительно возможности этичного искусственного интеллекта (ИИ) наблюдения. Выступая в Школе социальных наук Нью-Йоркского университета, Чоудхури заявила: «Мы не можем накрасить губы свинье. Я не думаю, что этичное наблюдение может существовать».

Чоудхури, известная своей работой в области этики ИИ, выделила свои опасения по поводу роста капитализма наблюдения, который, по ее мнению, по своей сути расистский и не должен поддерживаться. В статье для Wired она выступила за создание внешней глобальной правящей комиссии для надзора за технологиями ИИ, решая такие проблемы, как капитализм наблюдения, нарушение рабочих мест и ядерная дезинформация. Чоудхури подчеркнула необходимость разнообразной комиссии, не связанной с каким-либо одним учреждением и представляющей глобальную перспективу.

Проблемы подотчетности и регулирования в индустрии ИИ

По словам Чоудхури, подотчетность — это критически важный аспект, который часто отсутствует в индустрии ИИ. Она отметила, что внутренний анализ рисков в компаниях склонен игнорировать моральные соображения. Когда риск неудачи или репутационного ущерба становится значительным, организации, по ее словам, часто нарушают правила в свою пользу. Чоудхури считает, что решение этих проблем требует коллективных усилий, вовлечения различных заинтересованных сторон и сотрудничества в глобальном масштабе.

Признавая необходимость регулирования, Чоудхури предостерегла от чрезмерного регулирования, которое может привести к тому, что модели будут излишне корректировать поведение и не смогут решить лежащие в основе проблемы. Она подчеркнула сложность определения того, что является токсичным или ненавистным, заявив, что это непрерывный процесс, требующий постоянной оценки и адаптации.

Румман Чоудхури считает, что технологии не должны отрываться от человечности

Работа Чоудхури направлена на устранение разрыва между технологами и политиками, выступая за лучшее понимание человеческого воздействия технологий. Она считает, что технологии не должны отрываться от человечности, а должны использоваться для решения человеческих недостатков и улучшения общества.

Румман Чоудхури, видная фигура в области этики ИИ, всегда была увлечена сложностью и непредсказуемостью человеческого поведения. Во время учебы в бакалавриате по политологии в Массачусетском технологическом институте (MIT) она осознала потенциал более эффективного использования моделей и данных в некоммерческих организациях. Это привело ее к получению степени магистра по количественным методам в Колумбийском университете, где она дополнительно отточила свои навыки.

Работа Чоудхури за последний месяц привела ее в различные точки мира. От Испании до Сан-Франциско, от Бостона до Нью-Йорка и предстоящих выступлений в Вене и Питтсбурге, она активно занимается решением насущных проблем, связанных с ИИ, таких как кибербезопасность, дезинформация в ядерной сфере и платформы для изучения языков, такие как Duolingo.

Используйте стимулирующие структуры и децентрализуйте власть.

В основе подхода Чоудхури лежит простое, но мощное правило: слушайте, общайтесь, сотрудничайте. Однако она признает, что даже когда лидеры отрасли выражают свою приверженность предотвращению вреда от ИИ, между словами и действиями часто существует разрыв. Она наблюдает, что в периоды повышенного внимания некоторые организации могут призывать к регулированию, одновременно используя лоббистские тактики для препятствования принятию регуляторных законов.

Подход Чоудхури к этике и управлению ИИ основан на понимании того, что люди, в отличие от машин, имеют разнообразные мотивы и приоритеты. Для достижения значимых изменений необходимо использовать стимулирующие структуры и децентрализовать власть. Она оспаривает концепцию нарратива об одном герое и подчеркивает важность сотрудничества и коллективного принятия решений в формировании будущего ИИ.