IAO Gabinete do Comissário de Informação do Reino Unido (ICO, na sigla em inglês) expressou preocupação com o chatbot de inteligência artificial (IA) do Snapchat, "My AI", e seu potencial impacto na privacidade de crianças e outros usuários. As conclusões provisórias do ICO, divulgadas na sexta-feira, sugerem que a Snap, empresa americana por trás do Snapchat, pode não ter avaliado adequadamente os riscos à privacidade associados ao "My AI" antes de seu lançamento em abril.
O ICO (Information Commissioner's Office) está atualmente investigando como o "My AI" processa os dados pessoais dos aproximadamente 21 milhões de usuários do Snapchat no Reino Unido, incluindo crianças de 13 a 17 anos. Embora essas descobertas não impliquem imediatamente uma violação das leis britânicas de proteção de dados, elas sinalizam sérias preocupações sobre a abordagem da Snap em relação à proteção da privacidade.
A inteligência artificial do Snapchat enfrenta questionamentos sobre os riscos à privacidade das crianças
O Comissário de Informação, John Edwards, expressou sua apreensão, afirmando: "As conclusões preliminares de nossa investigação sugerem uma falha preocupante por parte do Snap emdente avaliar adequadamente os riscos à privacidade de crianças e outros usuários antes de lançar o 'My AI'"
Caso a Snap não responda às preocupações da ICO de forma satisfatória, o órgão regulador poderá tomar medidas coercitivas contra a empresa. Essas medidas podem variar de multas à proibição total do recurso "My AI" no Reino Unido, uma decisão que afetaria uma parcela significativa da base de usuários do Snapchat.
A Snap respondeu à notificação do ICO afirmando que está analisando as conclusões e que permanece comprometida com a privacidade do usuário. Um porta-voz da Snap mencionou: “Minha IA passou por um rigoroso processo de revisão jurídica e de privacidade antes de ser disponibilizada ao público. Continuaremos a trabalhar de forma construtiva com o ICO para garantir que eles estejam confortáveis com nossos procedimentos de avaliação de risco.”
O aplicativo “My AI” utiliza o ChatGPT da OpenAI, um dos exemplos mais proeminentes de IA generativa. Autoridades do mundo todo estão debatendo como regulamentar esses sistemas de IA devido a preocupações com privacidade e segurança. Esta investigação do ICO (Information Commissioner's Office) lança luz sobre os desafios associados à implementação de IA em plataformas usadas por um público mais jovem.
As plataformas de redes sociais, incluindo o Snapchat, geralmente exigem que os usuários tenham 13 anos ou mais para acessar seus serviços. No entanto, essas plataformas têm tido dificuldades para aplicar restrições de idade de forma eficaz. Em agosto, a Reuters noticiou que o ICO (Information Commissioner's Office) estava coletando informações para determinar se o Snapchat estava tomando medidas adequadas para remover usuários menores de idade de sua plataforma.
O chatbot de IA do Snapchat, "My AI", está sob investigação do Gabinete do Comissário de Informação do Reino Unido devido a preocupações com os riscos à privacidade de crianças e usuários. Embora as conclusões provisórias da investigação sejam preocupantes, o Snapchat expressou seu compromisso com a privacidade do usuário e está analisando a notificação do Gabinete do Comissário de Informação. As questões mais amplas que envolvem a regulamentação da IA generativa e o desafio de impedir que usuários menores de idade acessem plataformas de mídia social continuam sendo problemas significativos tanto para legisladores quanto para empresas de tecnologia.
