Danos Baseados em Gênero na IA: Protegendo Contra Alterações Não Consensuais de Imagens
- A edição de imagens por IA pode prejudicar as pessoas ao alterar sua aparência sem permissão, como aconteceu com a deputada australiana Georgie Purcell.
- Vídeos deepfakes sexualizados não consensuais, que visam principalmente mulheres, estão se espalhando rapidamente, levantando preocupações em todo o mundo.
- É necessária cooperação global e medidas proativas para combater os efeitos prejudiciais do conteúdo gerado por IA e proteger os direitos e a segurança dos indivíduos.
A deputada australiana Georgie Purcell levantou recentemente preocupações sobre uma imagem digitalmente alterada que distorceu seu corpo e removeu partes de sua roupa sem o seu consentimento. Este incidente ilumina as potenciais consequências sexistas e discriminatórias das tecnologias de IA descontroladas.
Embora frequentemente considerados simples no uso cotidiano, as ferramentas assistidas por IA podem inadvertidamente perpetuar vieses sociais. Quando instruídos a editar fotografias, essas ferramentas podem realçar certos atributos endossados pela sociedade, como juventude e sexualização, particularmente prevalentes em imagens de mulheres.
Uma preocupação significativa surge com a proliferação de conteúdo de deepfakes sexualizados, que visam predominantemente mulheres. Relatórios indicam que uma impressionante 90–95% dos vídeos de deepfake são pornografia não consensual, com cerca de 90% envolvendo mulheres como vítimas. Instâncias de criação e compartilhamento não consensual de imagens de deepfakes sexualizados surgiram globalmente, impactando indivíduos de várias demografias, incluindo jovens mulheres e celebridades como Taylor Swift.
A necessidade de ação global
Embora existam medidas legislativas em algumas regiões para abordar o compartilhamento não consensual de deepfakes sexualizados, as leis sobre sua criação permanecem inconsistentes, particularmente nos Estados Unidos. A falta de regulamentações internacionais coesas sublinha a necessidade de ação global coletiva para combater eficazmente este problema.
Os esforços para detectar conteúdo gerado por IA são desafiados pelas tecnologias em avanço e pela crescente disponibilidade de aplicativos que facilitam a criação de conteúdo sexualmente explícito. No entanto, culpar exclusivamente a tecnologia ignora a responsabilidade dos desenvolvedores de tecnologia e das plataformas digitais de priorizar a segurança e os direitos dos usuários.
A Austrália deu passos para liderar neste aspecto, com iniciativas como o Escritório do Comissário de Segurança Eletrônica e leis nacionais que responsabilizam as plataformas digitais pela prevenção e remoção de conteúdo não consensual. No entanto, uma colaboração global mais ampla e medidas proativas são essenciais para mitigar eficazmente os danos dos deepfakes sexualizados não consensuais.
O uso descontrolado da IA na edição de imagens e a proliferação de conteúdo de deepfakes sexualizados apresentam desafios significativos, exigindo estruturas regulatórias abrangentes e ação global coletiva. Ao priorizar a segurança e os direitos dos usuários no desenvolvimento tecnológico e na aplicação da lei, as sociedades podem trabalhar para mitigar os danos baseados em gênero associados aos abusos habilitados por IA.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
