Danos relacionados ao gênero na IA: proteção contra alterações de imagem não consensuais

A parlamentar australiana Georgie Purcell expressou recentemente preocupação com uma imagem alterada digitalmente que distorceu seu corpo e removeu partes de suas roupas sem seu consentimento. Essedent lança luz sobre as potenciais consequências sexistas e discriminatórias das tecnologias de inteligência artificial sem controle.

Embora muitas vezes consideradas simples no uso cotidiano, as ferramentas com auxílio de IA podem, inadvertidamente, perpetuar preconceitos sociais. Quando instruídas a editar fotografias, essas ferramentas podem realçar certos atributos socialmente endossados, como jovialidade e sexualização, particularmente prevalentes em imagens de mulheres.

Uma preocupação significativa surge com a proliferação de conteúdo deepfake sexualizado, direcionado predominantemente a mulheres. Relatórios indicam que impressionantes 90 a 95% dos vídeos deepfake são pornografia não consensual, com cerca de 90% apresentando mulheres como vítimas. Casos de criação e compartilhamento não consensual de imagens deepfake sexualizadas vieram à tona globalmente, impactando indivíduos de diversos grupos demográficos, incluindo mulheres jovens e celebridades como Taylor Swift.

A necessidade de ação global

Embora existam medidas legislativas em algumas regiões para lidar com o compartilhamento não consensual de deepfakes sexualizados, as leis relativas à sua criação permanecem inconsistentes, particularmente nos Estados Unidos. A falta de regulamentações internacionais coesas ressalta a necessidade de uma ação global coletiva para combater esse problema de forma eficaz.

Os esforços para detectar conteúdo gerado por IA são desafiados pelo avanço das tecnologias e pela crescente disponibilidade de aplicativos que facilitam a criação de conteúdo sexualmente explícito. No entanto, atribuir a culpa exclusivamente à tecnologia ignora a responsabilidade dos desenvolvedores de tecnologia e das plataformas digitais de priorizar a segurança e os direitos dos usuários.

A Austrália tomou medidas para liderar nesse sentido, com iniciativas como o Gabinete do Comissário de Segurança Online e leis nacionais que responsabilizam as plataformas digitais pela prevenção e remoção de conteúdo não consensual. No entanto, uma colaboração global mais ampla e medidas proativas são essenciais para mitigar eficazmente os danos causados ​​por deepfakes sexualizados não consensuais.

O uso descontrolado de IA na edição de imagens e a proliferação de conteúdo deepfake sexualizado representam desafios significativos, que exigem estruturas regulatórias abrangentes e ação global coletiva. Ao priorizar a segurança e os direitos dos usuários no desenvolvimento e na aplicação de tecnologias, as sociedades podem trabalhar para mitigar os danos de gênero associados aos abusos facilitados pela IA.