Apple Remove Aplicativos da App Store por Promover Imagens Nus Não Consensuais

No mês passado, a gigante tecnológica Apple Inc. fez uma ousada jogada e removeu três aplicativos de sua App Store. Esses aplicativos até exploravam ferramentas de aprendizado de máquina disponíveis em IA e tentavam construir imagens não consensuais sem o consentimento de uma pessoa. A decisão segue preocupações de que os aplicativos estavam usando publicidade enganosa em lugares como Instagram e sites de pornografia.

Casos Enganosos em Publicidade 

Aqueles que clicam neste anúncio são enviados para a Apple App Store, e o mesmo aplicativo é descrito como um “gerador de arte”, mas sem nenhuma referência ao fato de que ele pode gerar nus. Esta é uma falha de longa data nas lojas de aplicativos móveis, identificada pela primeira vez em 2022.

Através de algoritmos baseados em IA, os aplicativos culpados por fazer esse ato afirmavam despir indivíduos em fotos, levando a uma suposição incorreta de nudez, embora não tenham a permissão ou o conhecimento dos sujeitos. Tais atos não apenas violam a privacidade, mas também são fontes potenciais de exploração, assédio e chantagem. 

Um número de versões semelhantes deste anúncio com várias outras mulheres geradas por IA foram exibidas no Facebook, Instagram, Facebook Messenger e na rede de anúncios in-app da Meta entre 10 de abril e 20 de abril.

Depois de receber denúncias sobre esses aplicativos fraudulentos, a Apple foi, de fato, a primeira a removê-los da App Store. Embora alegassem inocência, suas verdadeiras intenções foram reveladas quando os aplicativos forçaram a Apple a retirá-los e observar seus padrões comunitários. Isso demonstra claramente a devoção inabalável da Apple em criar um espaço digital seguro e neutro em relação ao gênero para todos.

Desafios Contínuos e Responsabilização

Embora as contramedidas tomadas pela Apple mereçam respeito, este incidente, em última análise, levanta dúvidas sobre a revisão de aplicativos e o monitoramento dos métodos de publicidade. O fato de esses aplicativos terem passado despercebidos na App Store por um longo tempo apenas reforça a necessidade de maior cautela e medidas ativas para detectar e eliminar aplicativos fraudulentos.

Além disso, os desenvolvedores aplicaram métodos astutos para promover seus recursos ilegais em sites para adultos, o que garantiu a ausência de detecção pela Apple e pelo Google. Esses casos ilustram os problemas que as empresas de tecnologia enfrentam para fiscalizar suas plataformas e fazer cumprir as diretrizes comunitárias.

Com o próximo anúncio da Apple sobre alguns projetos relacionados à IA na Conferência Mundial de Desenvolvedores (WWDC) de 2023, será bastante interessante observar a medida tomada pela empresa em relação a esses aplicativos. Uma parte importante da implementação responsável da tecnologia pela Apple é manter uma boa imagem de comportamento ético e governança tecnológica sólida, o que é crítico à luz do uso crescente da IA em seus produtos.

A remoção desses aplicativos seria um exemplo de questão ética no desenvolvimento e uso da IA. A segunda preocupação relacionada ao desenvolvimento de capacidades de IA é a privacidade dos usuários. Além disso, os usuários devem ser solicitados a dar sua permissão, e a garantia de sua segurança deve ser fornecida. Ao bloquear esses aplicativos, a Apple enfatiza o comportamento ético em sua comunidade.