A Nevada High School está lutando contra a disseminação desenfreada de fotos explícitas de dent nas redes sociais, criadas usando IA por outros dent .
Os pais das vítimas parecem desamparados
O Gabinete do Xerife do Condado de Story, em Nevada, está atualmente investigando a situação. No entanto, os investigadores disseram que pouco podem fazer porque a lei do estado ainda não é clara sobre questões relacionadas à criação e disseminação de fotos explícitas geradas por IA, informou a KCCI .
“Nossas filhas estão sendo vítimas. e parece que não há nada que possamos fazer a respeito”, disse Chad Borwick, pai de um dos dent afetados.
“Você não quer que coisas aconteçam com seus filhos. Você quer que eles tenham uma situação melhor”, disse Ida Nady, outra mãe de uma vítima. “Eles vão sentir que não importam, assim como sua voz não importa.”
A situação apresenta-se como um exemplo claro de como a IA pode ser usada para prejudicar as pessoas. Embora seja boa na criação de textos e imagens, a IA pode ser mal utilizada, o que exige a necessidade de acelerar medidas de segurança por parte das empresas de IA, e especialmente leis que punem os infratores.
Em Iowa, pelo menos, um projeto de lei patrocinado pelo senador Chris Cournoyer (R-LeClaire) deverá entrar em vigor até 1º de julho. A lei tornará crime a criação e circulação de fotos nuas totais ou parciais de menores nos estados, que cobre Nevada.
Google, Meta, OpenAI e outros concordam em revisar seus modelos contra o abuso infantil
As grandes empresas de tecnologia também iniciaram um movimento para conter o aumento de imagens de abuso infantil feitas com IA. Google, Meta, OpenAI, Microsoft e Amazon, entre outros, concordaram em rever os seus modelos contra a criação e disseminação de material de abuso sexual infantil gerado por IA e outros danos sexuais contra crianças.
A mudança ocorre em um momento em que a taxa de abuso sexual infantil on-line geralmente atinge o nível mais alto. Na verdade, 2023 foi o “ano mais extremo já registrado”, de acordo com a Internet Watch Foundation .
A organização sediada no Reino Unido disse que milhares de imagens e vídeos de crianças de três a seis anos estão agora sendo encontrados na Internet aberta.
