Aplicativos de IA apresentarão "rótulos de segurança" destacando riscos e testes

Num futuro próximo, os usuários de aplicativos de IA generativa poderão encontrar rótulos que descrevem claramente como a IA deve ser utilizada, seus riscos associados e o processo de teste. Seguindo novas diretrizes, os rótulos se tornarão obrigatórios para facilitar a compreensão da tecnologia pelo público em geral.

Leia também: União Europeia (UE) assume a liderança na regulamentação da IA

A ministra das Comunicações e Informação de Singapura, Josephine Teo, afirmou que a nova medida visa defium padrão de transparência e testes para empresas de tecnologia. Ela fez a declaração durante a conferência sobre proteção de dados pessoais, realizada em 15 de julho, segundo reportagem do Strait Times. 

Os desenvolvedores de aplicativos de IA devem ser transparentes sobre suas inovações

Assim como acontece com medicamentos e eletrodomésticos que trazem etiquetas de segurança, os desenvolvedores de aplicativos de IA generativa também devem ser transparentes ao informar os usuários sobre o uso e o desenvolvimento dos modelos de IA. A Sra. Teo, que também é Ministra responsável pela iniciativa Smart Nation e Segurança Cibernética, afirmou:

“Recomendaremos que desenvolvedores e implementadores sejam transparentes com os usuários, fornecendo informações sobre como os modelos e aplicativos de IA generativa funcionam.”

Ao explicar as próximas regras, o ministro disse que elas são semelhantes às de quando um usuário abre uma “caixa de medicamento de venda livre”. Ele encontra uma folha de papel que indica claramente como o medicamento deve ser usado e os possíveis “efeitos colaterais que você pode enfrentar”

Teo afirmou que “esse nível de transparência” é necessário para sistemas de IA construídos com base em uma única inteligência artificial generativa. O novo conjunto de regras defiparâmetros de segurança que devem ser praticados antes que um modelo de IA seja disponibilizado ao público. 

Guia sobre anonimização de dados será lançado em 2025

A inteligência artificial generativa é um gênero de IA capaz de gerar novos textos e imagens, sendo menos previsível que a IA tradicional. De acordo com as novas diretrizes, os criadores serão obrigados a mencionar os riscos de disseminação de mentiras, comentários hostis e narrativas tendenciosas no conteúdo.

Teo afirmou que os eletrodomésticos vêm com etiquetas que indicam claramente que o produto foi testado para garantir seu uso seguro; caso contrário, o consumidor não saberá se o aparelho é seguro ou não. O mesmo será aplicado às aplicações de IA. A Autoridade de Desenvolvimento de Mídia e Infocomunicações de Singapura (IMDA) iniciará uma consulta com o setor sobre as novas regras. No entanto, Teo não mencionou uma data para a publicação das diretrizes.

A IMDA também publicou um guia sobre questões relacionadas à privacidade na tecnologia, que atenderá à crescente demanda por dados para treinar modelos de IA, protegendo ao mesmo tempo a privacidade dos usuários, disse Teo.

Leia também: Mesa redonda democrata receberá Mark Cuban e Brad Garlinghouse para discutir regulamentações de criptomoedas

A vice-diretora executiva da IMDA, Denise Wong, afirmou: "Manter os dados seguros na IA generativa é um desafio ainda maior para o setor". Ela compartilhou suas opiniões em um painel de discussão sobre IA e privacidade de dados durante o evento. Representantes de diversas empresas de tecnologia participaram do painel, incluindo a OpenAI, criadora do ChatGPT, e a consultoria Accenture. 

A chefe do departamento jurídico de privacidade da OpenAI, Jessica Gan Lee, afirmou que as salvaguardas de proteção de dados devem estar em vigor em todas as etapas de desenvolvimento e implementação da IA. Ela disse que os modelos de IA devem ser treinados com conjuntos de dados diversos provenientes de "todos os cantos do mundo". Lee enfatizou que múltiplas culturas, idiomas e fontes devem ser incluídas no treinamento da IA, além de encontrar maneiras de limitar o processamento de dados pessoais.

Teo afirmou que um guia sobre anonimização de dados será apresentado para empresas que operam na ASEAN no início de 2025. O guia será resultado de uma reunião realizada em fevereiro entre autoridades regionais que exploraram maneiras de criar um ecossistema digital global seguro.