Apple удалила из App Store приложения, пропагандирующие изображения обнаженного тела без согласия владельца

В прошлом месяце технологический гигант Apple Inc. предпринял смелый шаг и удалил три приложения из своего App Store. Эти приложения даже использовали инструменты машинного обучения, доступные в сфере искусственного интеллекта, и пытались создавать изображения без согласия человека. Это решение последовало за опасениями, что приложения использовали ложную рекламу на таких платформах, как Instagram и порнографические сайты.

Вводящие в заблуждение примеры в рекламе 

Пользователи, кликнувшие на эту рекламу, попадают в Apple App Store, где это же приложение описывается как «генератор произведений искусства», но без упоминания о том, что оно может генерировать обнаженные изображения. Это давняя лазейка в магазинах мобильных приложений, впервыеdentв 2022 году.

Приложения, обвиняемые в подобных действиях, с помощью алгоритмов на основе искусственного интеллекта утверждали, что раздевают людей на фотографиях, что приводит к неверному предположению об обнаженности, даже если у них нет разрешения или ведома изображенных людей. Подобные действия не только нарушают конфиденциальность, но и являются потенциальными источниками эксплуатации, преследования и шантажа. 

В период с 10 по 20 апреля на Facebook, Instagram, Facebook Messenger и в рекламной сети Meta в приложениях демонстрировалось несколько похожих версий этой рекламы с различными другими женщинами, созданными с помощью ИИ.

Получив информацию об этих мошеннических приложениях, Apple первой удалила их из App Store. Хотя разработчики утверждали, что невиновны, их истинные мотивы были раскрыты, что вынудило Apple удалить приложения и соблюсти стандарты сообщества. Это наглядно демонстрирует непоколебимую приверженность Apple созданию безопасного и гендерно-нейтрального цифрового пространства для всех.

Постоянные вызовы и подотчетность

Хотя принятые Apple меры заслуживают уважения, этотdentв конечном итоге вызывает некоторые сомнения в отношении проверки приложений и мониторинга методов рекламы. Тот факт, что эти приложения долгое время оставались незамеченными в App Store, лишь подчеркивает необходимость большей осторожности и активных мер по выявлению и удалению мошеннических приложений.

Кроме того, разработчики применяли хитрые методы продвижения своих незаконных функций на сайтах для взрослых, что обеспечивало их незаметность для Apple и Google. Эти случаи иллюстрируют проблемы, с которыми сталкиваются технологические компании при контроле своих платформ и обеспечении соблюдения правил сообщества.

В преддверии предстоящей презентации Apple ряда проектов, связанных с искусственным интеллектом, на Всемирной конференции разработчиков (WWDC) 2023, будет весьма интересно посмотреть, какие шаги компания предпримет в отношении этих приложений. Важной частью ответственного внедрения технологий Apple является поддержание хорошего имиджа компании, основанного на этичном поведении и надлежащем управлении технологиями, что крайне важно в свете растущего использования ИИ в продуктах Apple.

Удаление этих приложений стало бы примером этической проблемы в сфере разработки и использования ИИ. Вторая проблема, связанная с развитием возможностей ИИ, — это конфиденциальность пользователей. Кроме того, необходимо запрашивать разрешение пользователей и гарантировать их безопасность. Блокируя подобные приложения, Apple подчеркивает необходимость этичного поведения в своем сообществе.