Принятие феминистского подхода к управлению технологиями для более здорового интернета и надежного ИИ

В сентябре 2023 года Фонд Mozilla провел MozFest House: Kenya, новаторское мероприятие, объединившее различных заинтересованных сторон для обсуждения важных тем здорового интернета и надежного ИИ. Среди провокационных дискуссий, состоявшихся на мероприятии, был призыв к феминистскому взгляду на управление технологиями. Рутендо Чабиква и Нэнси Салем, докторанты Оксфордского института интернета, страстно отстаивали необходимость принятия этого феминистского подхода, освещая его важность для обеспечения здорового интернета и надежного ИИ.

MozFest 2023: Слияние голосов

MozFest House: Kenya — это двухдневное региональное мероприятие, организованное Фондом Mozilla. Оно объединило широкий круг участников, включая разработчиков, исследователей, политиков, активистов, организации гражданского общества и филантропов. Целью мероприятия было изучение критических вопросов, связанных со здоровым интернетом и надежным ИИ, с акцентом на африканские перспективы ответственных технологий. Одним из значимых моментов стала дискуссионная панель о структурных вмешательствах в ИИ, которая подготовила почву для Рутендо Чабиквы и Нэнси Салем, которые провели увлекательную сессию под названием «Аргументы в пользу феминистского управления технологиями».

(Пере)определение феминистского управления технологиями, доверия и безопасности

Сессия началась с признания того, что технологии по своей природе социально-политичны. По словам доктора Ким Крейтон, «Технологии не нейтральны и не аполитичны». Это признание имеет первостепенное значение, так как оно подчеркивает, что существующие системы угнетения, такие как расизм, сексизм, эйблизм, неолиберальный капитализм и гетеронормативность, глубоко влияют на функционирование, использование и социальные последствия технологий. Суть вопроса заключается в том, что управление технологиями как феминистская проблема выходит за рамки простого добавления женщин и гендерных меньшинств в текущие исключающие и несправедливые системы разработки технологий. Вместо этого оно требует устранения системной несправедливости, присущей технологиям.

В ходе обсуждения было подчеркнуто, что одного лишь доступа к технологиям недостаточно для устранения вреда, который цифровые технологии могут причинить женщинам и гендерным меньшинствам. Хотя усилия по преодолению цифрового разрыва имеют решающее значение, они должны дополняться более глубоким пониманием того, как цифровые технологии могут усугублять существующее неравенство.

Права: сложный ландшафт

Понимание цифровых прав в современную эпоху должно быть нюансированным, чтобы защитить от специфических для технологий угроз. Примеры, такие как «право быть забытым» и «право на неприкосновенность частной жизни», подчеркивают эту сложность. Кроме того, крайне важно контекстуализировать права. Во многих африканских контекстах доступ к технологиям является общинным, при этом некоторые женщины и гендерные меньшинства имеют доступ через общие устройства или пространства. Создание политик, защищающих эти права в таких сложных условиях, представляет собой вызов.

Значительная часть дискуссии также вращалась вокруг признания динамики власти в дискурсе о правах. Участники отметили, что дискурс о правах человека часто предоставляет определенным группам власть защищать беспомощных, что потенциально может perpetuate неравенство. Расширение прав и возможностей отдельных лиц для поиска правовой защиты было определено как центральный аспект защиты прав.

Ресурсы, выходящие за рамки доступа к устройствам

Хотя справедливый доступ к технологическим устройствам важен, феминистский подход к управлению технологиями расширяет понятие ресурсов в технологическом секторе. Он включает ресурсы, необходимые для разработки технологий. Физическая инфраструктура цифровых технологий часто включает эксплуататорские практики добычи, при этом многие минералы, используемые в аппаратном обеспечении, добываются в зонах конфликтов с нарушением прав человека. Феминистский взгляд требует тщательного изучения источников этих материалов.

Кроме того, участники подчеркнули необходимость рассматривать человеческий труд, особенно гиг-труд, как ресурс для технологических компаний, а не просто как клиентов или пользователей. Этот сдвиг в перспективе может привести к более сильной защите женщин и гендерных меньшинств, что соответствует феминистским принципам в политиках доверия и безопасности.

Обсуждение репрезентации подчеркнуло важность выхода за рамки простого включения женщин в кодирование и разработку технологий. Признавая социально-политическую природу технологий, участники предложили, чтобы сообщества интересов были активно вовлечены в развертывание технологий. Это переросло в обсуждение того, как подходы к исследованиям пользовательского опыта (UXR) могут эффективно информировать политику управления технологиями и доверия/безопасности.

Социотехнические исследования и феминистское управление технологиями

Сессия углубилась в социотехническую природу технологий, подчеркнув, что они возникают на пересечении социальных структур и технических возможностей. Этот междисциплинарный подход выделил потенциал для сотрудничества между академическими кругами, разработчиками и гражданским обществом в определении приоритетов управления технологиями. Различные методологии, такие как этнография и UXR, ставят пользователей технологий в центр внимания и предлагают идеи, которые могут информировать решения по управлению.

Были представлены два исследовательских проекта, изучающих опыт женщин и гендерных меньшинств в гиг-экономике. Эти проекты продемонстрировали сложность оценки механизмов безопасности в технологиях. Например, механизмы, предназначенные для повышения безопасности водителей в приложениях для поездок, часто непреднамеренно подвергают водителей дополнительным рискам. Потребность в институциональной памяти и обучении на успешных механизмах безопасности стала очевидной, подчеркивая важность управления за пределами индивидуальных правил платформ.

Путь вперед в расширении прав пользователей

Обсуждение подчеркнуло, что структуры управления эффективны только тогда, когда люди чувствуют себя расширенными в правах для поиска возмещения, когда их права нарушаются. Социотехнические исследования играют ключевую роль в выявлении того, как проектируются технологии и как они влияют на повседневную жизнь пользователей. Понимание жизненного опыта пользователей технологий предоставляет доказательства для формирования эффективных, справедливых принципов управления.

Принятие феминистского подхода к управлению технологиями имеет решающее значение для культивирования более здорового интернета и обеспечения надежного ИИ. Этот подход выходит за рамки символической репрезентации и распространяется на самые основы технологий, включая права, ресурсы и репрезентацию. MozFest House: Kenya предоставил платформу для содержательных дискуссий и сотрудничества, подчеркнув, что феминистская перспектива необходима для формирования более инклюзивного и справедливого технологического ландшафта.