Danos relacionados ao gênero na IA: proteção contra alterações de imagem não consensuais
- A edição de imagens por IA pode prejudicar as pessoas ao alterar sua aparência sem permissão, como aconteceu com a parlamentar australiana Georgie Purcell.
- Vídeos deepfake sexualizados sem consentimento, direcionados principalmente a mulheres, estão se espalhando rapidamente, gerando preocupação em todo o mundo.
- A cooperação global e medidas proativas são necessárias para combater os efeitos nocivos do conteúdo gerado por IA e proteger os direitos e a segurança dos indivíduos.
A parlamentar australiana Georgie Purcell expressou recentemente preocupação com uma imagem alterada digitalmente que distorceu seu corpo e removeu partes de suas roupas sem seu consentimento. Essedent lança luz sobre as potenciais consequências sexistas e discriminatórias das tecnologias de inteligência artificial sem controle.
Embora muitas vezes consideradas simples no uso cotidiano, as ferramentas com auxílio de IA podem, inadvertidamente, perpetuar preconceitos sociais. Quando instruídas a editar fotografias, essas ferramentas podem realçar certos atributos socialmente endossados, como jovialidade e sexualização, particularmente prevalentes em imagens de mulheres.
Uma preocupação significativa surge com a proliferação de conteúdo deepfake sexualizado, direcionado predominantemente a mulheres. Relatórios indicam que impressionantes 90 a 95% dos vídeos deepfake são pornografia não consensual, com cerca de 90% apresentando mulheres como vítimas. Casos de criação e compartilhamento não consensual de imagens deepfake sexualizadas vieram à tona globalmente, impactando indivíduos de diversos grupos demográficos, incluindo mulheres jovens e celebridades como Taylor Swift.
A necessidade de ação global
Embora existam medidas legislativas em algumas regiões para lidar com o compartilhamento não consensual de deepfakes sexualizados, as leis relativas à sua criação permanecem inconsistentes, particularmente nos Estados Unidos. A falta de regulamentações internacionais coesas ressalta a necessidade de uma ação global coletiva para combater esse problema de forma eficaz.
Os esforços para detectar conteúdo gerado por IA são desafiados pelo avanço das tecnologias e pela crescente disponibilidade de aplicativos que facilitam a criação de conteúdo sexualmente explícito. No entanto, atribuir a culpa exclusivamente à tecnologia ignora a responsabilidade dos desenvolvedores de tecnologia e das plataformas digitais de priorizar a segurança e os direitos dos usuários.
A Austrália tomou medidas para liderar nesse sentido, com iniciativas como o Gabinete do Comissário de Segurança Online e leis nacionais que responsabilizam as plataformas digitais pela prevenção e remoção de conteúdo não consensual. No entanto, uma colaboração global mais ampla e medidas proativas são essenciais para mitigar eficazmente os danos causados por deepfakes sexualizados não consensuais.
O uso descontrolado de IA na edição de imagens e a proliferação de conteúdo deepfake sexualizado representam desafios significativos, que exigem estruturas regulatórias abrangentes e ação global coletiva. Ao priorizar a segurança e os direitos dos usuários no desenvolvimento e na aplicação de tecnologias, as sociedades podem trabalhar para mitigar os danos de gênero associados aos abusos facilitados pela IA.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Brenda Kanana
Brenda possui mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora, na Cryptopolitan , é sua casa. Sua formação em Sociologia pela Universidade Técnica de Mombasa a mantém em sintonia com o que seus leitores desejam.
