A Apple remove aplicativos da App Store por promoverem imagens de nudez sem consentimento

No mês passado, a gigante da tecnologia Apple Inc. tomou uma medida ousada e removeu três aplicativos de sua App Store. Esses aplicativos exploravam ferramentas de aprendizado de máquina disponíveis em inteligência artificial e tentavam criar imagens não consensuais sem o consentimento da pessoa. A decisão surge após preocupações de que os aplicativos estivessem usando publicidade enganosa em plataformas como o Instagram e sites pornográficos.

Casos de publicidade enganosa 

Quem clica nesse anúncio é direcionado para a App Store da Apple, onde o mesmo aplicativo é descrito como um "gerador de arte", mas sem qualquer menção ao fato de que ele pode gerar imagens de nudez. Essa é uma brecha antiga nas lojas de aplicativos móveis,dentpela primeira vez em 2022.

Por meio de algoritmos baseados em inteligência artificial, os aplicativos acusados ​​de praticar esse ato alegavam despir indivíduos em fotos, levando à suposição errônea de nudez, mesmo sem a permissão ou o conhecimento das pessoas retratadas. Tais atos não apenas violam a privacidade, mas também são potenciais fontes de exploração, assédio e chantagem. 

Diversas versões semelhantes deste anúncio, com outras mulheres geradas por inteligência artificial, foram exibidas no Facebook, Instagram, Facebook Messenger e na rede de anúncios do aplicativo Meta entre 10 e 20 de abril.

Após receberem informações sobre esses aplicativos fraudulentos, a Apple foi a primeira a removê-los da App Store. Embora alegassem inocência, seus verdadeiros motivos foram revelados pelos aplicativos, forçando a Apple a removê-los e a respeitar seus padrões da comunidade. Isso demonstra claramente a dedicação inabalável da Apple em criar um espaço digital seguro e neutro em termos de gênero para todos.

Desafios contínuos e responsabilidade

Embora as medidas tomadas pela Apple mereçam respeito, estedent, em última análise, levanta algumas dúvidas sobre a revisão de aplicativos e o monitoramento dos métodos de publicidade. O fato de esses aplicativos terem passado despercebidos na App Store por tanto tempo apenas reforça a necessidade de maior cautela e medidas mais ativas para detectar e eliminar aplicativos fraudulentos.

Além disso, os desenvolvedores aplicaram métodos ardilosos para promover seus recursos ilegais em sites adultos, garantindo que não fossem detectados pela Apple e pelo Google. Esses casos ilustram os problemas que as empresas de tecnologia enfrentam para fiscalizar suas plataformas e fazer cumprir as diretrizes da comunidade.

Com a divulgação iminente de alguns projetos relacionados à IA na Worldwide Developers Conference (WWDC) 2023, será bastante interessante observar os próximos passos da Apple em relação a esses aplicativos. Uma parte importante da implementação responsável de tecnologia pela Apple é manter uma boa imagem de comportamento ético e governança tecnológica sólida, o que é crucial considerando o uso crescente de IA em seus produtos.

A remoção desses aplicativos seria um exemplo de questão ética no desenvolvimento e uso da IA. A segunda preocupação relacionada ao desenvolvimento de capacidades de IA é a privacidade dos usuários. Além disso, é necessário solicitar a permissão dos usuários e garantir sua segurança. Ao bloquear esses aplicativos, a Apple enfatiza o comportamento ético em sua comunidade.