Apple удаляет приложения из App Store за продвижение изображений без согласия

В прошлом месяце технологический гигант Apple Inc. совершил смелый шаг и удалил три приложения из своего App Store. Эти приложения даже использовали инструменты машинного обучения, доступные в ИИ, и пытались создавать изображения без согласия человека. Решение последовало после опасений, что приложения используют ложную рекламу на таких платформах, как Instagram и порно-сайты.

Вводящие в заблуждение случаи в рекламе 

Те, кто нажимает на эту рекламу, перенаправляются в Apple App Store, и то же самое приложение описывается как «генератор искусства», но без какого-либо упоминания о том, что оно может генерировать наготу. Это давняя лазейка в мобильных приложениях, впервые выявленная в 2022 году.

С помощью алгоритмов на основе ИИ приложения, обвиняемые в этом действии, утверждали, что раздевают людей на фотографиях, что приводило к неверному предположению о наготе, даже если у них нет разрешения или знания субъектов. Такие действия не только нарушают конфиденциальность, но и являются потенциальными источниками эксплуатации, преследований и шантажа. 

Ряд аналогичных версий этой рекламы с различными другими женщинами, созданными ИИ, показывались на Facebook, Instagram, Facebook Messenger и внутренней рекламной сети Meta между 10 и 20 апреля.

После того как им сообщили о этих мошеннических приложениях, Apple фактически первой удалила их из App Store. Хотя они утверждали, что невиновны, их истинные мотивы были раскрыты самими приложениями, вынудившими Apple удалить их и соблюдать свои стандарты сообщества. Это ясно демонстрирует непоколебимую преданность Apple созданию безопасного и гендерно-нейтрального цифрового пространства для всех.

Постоянные проблемы и подотчетность

Несмотря на то, что меры, предпринятые Apple, заслуживают уважения, этот инцидент в конечном итоге вызывает некоторые сомнения в отношении проверки приложений и мониторинга рекламных методов. Тот факт, что эти приложения оставались незамеченными в App Store в течение длительного времени, лишь подчеркивает необходимость большей осторожности и активных мер по обнаружению и устранению мошеннических приложений.

Кроме того, разработчики применяли хитрые методы продвижения своих незаконных функций на взрослых сайтах, что обеспечивало отсутствие их обнаружения Apple и Google. Эти случаи иллюстрируют проблемы, с которыми сталкиваются технологические компании при контроле своих платформ и соблюдении правил сообщества.

С предстоящим раскрытием Apple некоторых проектов, связанных с ИИ, на конференции разработчиков WWDC 2023, будет весьма интересно увидеть ход действий компании в отношении этих приложений. Важной частью ответственного внедрения технологий Apple является поддержание хорошего имиджа с точки зрения этического поведения и здорового управления технологиями, что имеет критическое значение в свете растущего использования ИИ в ее продуктах.

Удаление этих приложений стало бы примером этической проблемы в разработке и использовании ИИ. Вторая проблема, связанная с развитием способностей ИИ, — это конфиденциальность пользователей. Кроме того, у пользователей необходимо запрашивать их разрешение, и должна быть обеспечена их безопасность. Блокируя такие приложения, Apple подчеркивает этическое поведение в своем сообществе.