Использование правительством ИИ для проверки социальных сетей вызывает опасения
- Применение ИИ для проверки соцсетей со стороны ICE вызывает опасения по поводу гражданских свобод.
- Использование правительством алгоритмов для оценки риска у заявителей на визы находится под пристальным вниманием.
- Баланс между безопасностью и приватностью в цифровую эпоху стоит в центре иммиграционного контроля.
В последние годы использование искусственного интеллекта (ИИ) в различных аспектах государственного управления стало более распространенным. Однако это вызвало значительные дебаты о конфиденциальности, подотчетности и справедливости. Недавнее раскрытие информации об использовании агентством США по иммиграции и таможенному контролю (ICE) ИИ для мониторинга активности в социальных сетях заявителей на визы ignited fresh discussions on the role of algorithms in determining who is considered “risky.”
Инструмент на базе ИИ: Giant Oak Search Technology (GOST)
Документы, полученные в рамках запроса по Закону о свободе информации (FOIA), показали, что ICE использует инструмент на базе ИИ под названием Giant Oak Search Technology (GOST) с 2014 года. GOST предназначен для сканирования публикаций в социальных сетях заявителей на визы и присвоения им «социального медиа-рейтинга» от 1 до 100. Этот рейтинг определяется на основе того, являются ли публикации «оскорбительными» по отношению к Соединенным Штатам. Если рейтинг заявителя вызывает опасения, аналитики ICE могут просмотреть отмеченные изображения и профили, чтобы оценить, представляют ли они потенциальный риск.
Многомиллионные инвестиции
Масштаб этой программы ИИ-наблюдения значителен: по сообщениям, ICE заплатила более 10 миллионов долларов Giant Oak за технологию с 2017 года. Кроме того, охват Giant Oak выходит за пределы ICE, так как компания также имеет контракты с другими государственными агентствами, включая Управление по борьбе с наркотиками (DEA), ВВС, Государственный департамент и Министерство финансов. Широкое использование такой технологии в различных государственных агентствах побудило защитников конфиденциальности поставить под вопрос ее последствия для гражданских свобод.
Защитники конфиденциальности бьют тревогу
Защитники приватности утверждают, что использование алгоритмов ИИ для анализа контента в социальных сетях вызывает серьёзные опасения. Патрик Туми, заместитель директора национального проекта по вопросам национальной безопасности Американского союза гражданских свобод (ACLU), выразил свою озабоченность, заявив: «Правительство не должно использовать алгоритмы для анализа наших постов в социальных сетях и решения того, кто из нас является „рискующим”». Туми призвал к прозрачности и настоятельно рекомендовал Министерству внутренней безопасности (DHS) объяснить, как его системы определяют риск человека и какие последствия могут ожидать тех, кого помечают его алгоритмы.
Истоки мониторинга социальных сетей
Программа мониторинга социальных сетей, обсуждаемая в данный момент, началась как пилотный проект в 2016 году, в первую очередь нацеленный на потенциальных нарушителей сроков действия виз. Одновременно в 2016 году администрация Трампа ввела правила, требующие от заявителей на визы предоставления пятилетней истории их социальных сетей в качестве части процесса проверки. Эти меры были введены в попытке усилить национальную безопасность, но с тех пор стали предметом споров.
Риск дискриминации
Эксперты выразили обеспокоенность тем, что эти практики на базе ИИ могут непреднамеренно привести к дискриминации. По их мнению, автоматизированные системы могут непропорционально часто отмечать заявителей из определенных стран или с определенным происхождением, что потенциально может привести к несправедливым результатам. Примечательный случай в 2019 году, когда студент Гарварда был запрещен въезд в Соединенные Штаты из-за активности в социальных сетях его друзей, подчеркивает потенциальные непредвиденные последствия.
Будущее ИИ в иммиграционном контроле
Хотя контракт ICE с Giant Oak, по сообщениям, завершился в 2022 году, более широкая проблема использования ИИ для оценки контента в социальных сетях заявителей продолжает оставаться предметом обеспокоенности. Необходимость большего надзора и регулирования для предотвращения злоупотреблений и защиты гражданских свобод очевидна. Последствия этих практик выходят за рамки иммиграционного контроля и поднимают фундаментальные вопросы о балансе между безопасностью и личной приватностью в цифровую эпоху.
Использование алгоритмов ИИ для мониторинга и оценки контента в социальных сетях в контексте заявок на визы вызвало дебаты о роли правительства в определении того, кто считается потенциальным риском. Защитники конфиденциальности утверждают, что такие практики вызывают серьезные опасения по поводу гражданских свобод, а эксперты предупреждают о риске дискриминации на основе национальности или происхождения. По мере дальнейшего развития технологий становится все важнее находить баланс между национальной безопасностью и защитой прав на личную приватность. Дело GOST и его использование ICE служит резким напоминанием о вызовах и вопросах, которые стоят впереди в эпоху ИИ-наблюдения.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
