Aplicativos de IA terão ‘rótulos de segurança’ destacando riscos e testes
rótulos para declarar claramente riscos e testes em aplicativos de IA.
- Desenvolvedores de IA terão que incluir rótulos mencionando riscos e questões de segurança em seus aplicativos.
- O passo ajudará os usuários a entender a tecnologia de inteligência artificial e manter a privacidade.
- Um guia sobre anonimato de dados estará disponível para países da região da ASEAN.
No futuro próximo, os usuários de aplicativos de IA generativa podem encontrar rótulos que delineiam claramente como a IA deve ser utilizada, seus riscos associados e seu processo de teste. Seguindo novas diretrizes, os rótulos serão obrigatórios para tornar a tecnologia mais fácil de entender para as massas.
Também leia: União Europeia (UE) assume a liderança na regulamentação de IA
A ministra das Comunicações e Informação de Singapura, Sra. Josephine Teo, disse que a nova medida é um esforço para definir um padrão de transparência e teste para empresas de tecnologia. Ela estava falando na conferência de tecnologia de Proteção de Dados Pessoais em 15 de julho, de acordo com um relatório do Strait Times.
Desenvolvedores de aplicativos de IA devem ser transparentes sobre suas inovações
Como a prática de como medicamentos ou eletrodomésticos carregam rótulos de segurança, da mesma forma, os desenvolvedores de aplicativos de IA generativa devem ser claros ao informar os usuários sobre o uso e o desenvolvimento do modelo de IA. A Sra. Teo, que também é Ministra responsável pela iniciativa Smart Nation e Cibersegurança, disse:
“Recomendaremos que desenvolvedores e implantadores sejam transparentes com os usuários, fornecendo informações sobre como os modelos e aplicativos de IA generativa funcionam.”
Explicando as regras próximas, a ministra disse que elas são as mesmas quando um usuário abre uma “caixa de medicamento de venda livre”. Eles encontram uma folha de papel que afirma claramente como o medicamento deve ser usado e os possíveis “efeitos colaterais que você pode enfrentar.”
Teo afirmou: “esse nível de transparência” é necessário para sistemas de IA construídos em uma única inteligência artificial generativa. O novo conjunto de regras definirá padrões de segurança que devem ser praticados antes que um modelo de IA seja disponibilizado ao público.
Guia sobre anonimização de dados está prestes a ser lançado em 2025
A inteligência artificial generativa é um gênero de IA capaz de gerar novos textos e imagens e não é tão previsível quanto a IA tradicional. De acordo com as novas diretrizes, os criadores serão obrigados a mencionar os riscos de disseminar mentiras, comentários hostis e narrativas tendenciosas no conteúdo.
Teo disse que os eletrodomésticos vêm com rótulos que dizem claramente que o item está sendo testado para uso seguro; caso contrário, um cliente não saberá se o eletrodoméstico é seguro ou não. O mesmo será praticado para aplicativos de IA. A Autoridade de Desenvolvimento de Mídia e Informação de Singapura (IMDA) começará uma consulta com a indústria sobre as novas regras. No entanto, Teo não mencionou uma data para as diretrizes.
A IMDA também publicou um guia sobre questões relacionadas à privacidade na tecnologia, que atenderá à crescente demanda por dados para treinar modelos de IA, ao mesmo tempo em que protege a privacidade dos usuários, disse Teo.
Também leia: Roda de conversa do Democrat receberá Mark Cuban e Brad Garlinghouse para discutir regulamentações de criptomoedas
Denise Wong, vice-presidente executiva da IMDA, afirmou que manter os dados seguros na IA generativa é mais desafiador para a indústria. Ela expressou suas opiniões em uma mesa-redonda separada sobre IA e privacidade de dados durante o evento. Representantes de diferentes empresas de tecnologia participaram do painel, incluindo a OpenAI, criadora do ChatGPT, e a consultoria Accenture.
As salvaguardas de proteção de dados devem estar presentes em todas as etapas do desenvolvimento e implantação da IA, disse Jessica Gan Lee, chefe de privacidade jurídica da OpenAI. Ela afirmou que os modelos de IA devem ser treinados com conjuntos de dados diversos de "todos os cantos do mundo". Lee enfatizou que múltiplas culturas, idiomas e fontes devem ser incluídos no treinamento da IA, juntamente com a busca de maneiras de limitar o processamento de dados pessoais.
Teo disse que um guia sobre anonimização de dados será introduzido para empresas que operam na ASEAN no início de 2025. O guia resultará de uma reunião em fevereiro entre funcionários regionais que exploraram maneiras de criar um ecossistema digital global seguro.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
