Quem Decide Como os Dados Pessoais São Usados no Treinamento de Sistemas de IA? A PDPC Emite Diretrizes

Em uma medida para garantir transparência e responsabilidade no reino da inteligência artificial (IA), novas diretrizes emitidas pela Comissão de Proteção de Dados Pessoais (PDPC) estabeleceram medidas para informar os consumidores sobre a utilização de seus dados pessoais no treinamento de sistemas de IA. Essas diretrizes, intituladas Diretrizes Consultivas sobre o uso de Dados Pessoais em Sistemas de Recomendação e Decisão de IA, visam abordar preocupações relativas à privacidade de dados e às implicações éticas da tecnologia de IA.

Treinamento de sistemas de IA – Diretrizes para uso transparente de dados

As diretrizes, publicadas em 1º de março, enfatizam a importância de informar os usuários sobre a razão por trás do uso de seus dados pessoais e as maneiras específicas pelas quais eles contribuem para a funcionalidade dos sistemas de IA. As empresas são obrigadas a divulgar aos consumidores a relevância de seus dados para os serviços fornecidos e elucidar os indicadores que influenciam as decisões impulsionadas por IA. Por exemplo, indivíduos que usam serviços de streaming devem ser informados de que seus dados de histórico de visualização são utilizados para melhorar as recomendações de filmes, adaptados às suas preferências com base em gêneros ou filmes assistidos com frequência.

Essas diretrizes lançam luz sobre o uso permitido de dados pessoais sem buscar consentimento adicional uma vez que tenham sido coletados de acordo com a Lei de Proteção de Dados Pessoais. As empresas podem empregar esses dados para vários propósitos, incluindo pesquisas e esforços de melhoria de negócios, como refinar modelos de IA para entender as preferências dos clientes ou otimizar sistemas de recursos humanos para recomendações de candidatos. Importantes, as diretrizes ressaltam a necessidade de anonimização e minimização de dados para mitigar riscos de cibersegurança e proteger a privacidade do usuário.

Além disso, as diretrizes destacam a importância de processos contínuos de monitoramento e revisão para garantir a conformidade com os princípios de proteção de dados e as melhores práticas em evolução. As empresas são encorajadas a avaliar regularmente a eficácia de seus procedimentos de manipulação de dados, particularmente em relação aos sistemas de IA, e fazer os ajustes necessários para manter a privacidade e a confiança dos usuários.

Abordando preocupações e sugestões da indústria

A emissão dessas diretrizes ocorre em resposta às apreensões da indústria expressas durante a Conferência de Cingapura sobre IA em dezembro de 2023. As partes interessadas, incluindo entidades tecnológicas, jurídicas e financeiras, expressaram preocupações sobre a privacidade de dados na IA, levando a uma consulta pública liderada pela PDPC, que concluiu em agosto de 2023. Notavelmente, a empresa de cibersegurança Kaspersky destacou a falta geral de conscientização dos consumidores sobre a coleta de dados para fins de treinamento de IA. Eles recomendaram buscar consentimento explícito durante as etapas de desenvolvimento e teste dos modelos de IA, juntamente com a opção de os usuários optarem por não usar seus dados para treinamento de IA.

Além disso, os players da indústria receberam as diretrizes como um passo em direção à construção de maior confiança e transparência nos sistemas de IA. As empresas estão agora mais equipadas para navegar nas complexidades do uso de dados na IA de forma ética e responsável, promovendo uma cultura de responsabilidade e empoderamento do consumidor.

À medida que a IA continua a penetrar vários setores, garantir a transparência e a responsabilidade na utilização de dados pessoais permanece primordial. Com a emissão dessas diretrizes, a PDPC empenha-se em equilibrar o fomento à inovação em IA e a proteção da privacidade do usuário. No entanto, persistem desafios em educar efetivamente os consumidores sobre as complexidades do uso de dados de IA. Como as empresas podem melhorar a compreensão e o consentimento dos usuários em relação à utilização de dados pessoais em sistemas de treinamento de IA, mantendo a confiança e a credibilidade dos usuários?