Agência Reguladora do Reino Unido Investiga Chatbot de IA do Snapchat por Preocupações com Privacidade Infantil

O Escritório do Comissário de Informações do Reino Unido (ICO) levantou preocupações sobre o chatbot de inteligência artificial (IA) do Snapchat, “My AI”, e seu potencial impacto na privacidade de crianças e outros usuários. As descobertas provisórias do ICO, divulgadas na sexta-feira, sugerem que a Snap, a empresa dos EUA por trás do Snapchat, pode não ter avaliado adequadamente os riscos de privacidade associados ao “My AI” antes de seu lançamento em abril.

O ICO está atualmente investigando como o “My AI” processa os dados pessoais dos aproximadamente 21 milhões de usuários do Snapchat no Reino Unido, incluindo crianças de 13 a 17 anos. Embora essas descobertas não impliquem imediatamente uma violação das leis britânicas de proteção de dados, elas sinalizam sérias preocupações sobre a abordagem da Snap em relação às salvaguardas de privacidade.

Chatbot de IA do Snapchat enfrenta escrutínio sobre riscos de privacidade para crianças

O Comissário de Informações John Edwards expressou sua apreensão, afirmando: “As descobertas provisórias da nossa investigação sugerem uma falha preocupante da Snap em identificar e avaliar adequadamente os riscos de privacidade para crianças e outros usuários antes do lançamento do ‘My AI’.”

Se a Snap não conseguir abordar as preocupações do ICO de forma satisfatória, o regulador pode tomar medidas de aplicação contra a empresa. Essas ações podem variar de multas até a proibição total do “My AI” no Reino Unido, uma decisão que impactaria uma parte significativa da base de usuários do Snapchat.

A Snap respondeu ao aviso do ICO afirmando que está revisando as descobertas e permanece comprometida com a privacidade dos usuários. Um porta-voz da Snap mencionou: “O ‘My AI’ passou por um processo robusto de revisão legal e de privacidade antes de ser disponibilizado ao público. Continuaremos a trabalhar de forma construtiva com o ICO para garantir que estejam confortáveis com nossos procedimentos de avaliação de riscos.”

O “My AI” é alimentado pelo ChatGPT da OpenAI, um dos exemplos mais proeminentes de IA generativa. Legisladores em todo o mundo estão lidando com a regulamentação desses sistemas de IA devido a preocupações sobre privacidade e segurança. Esta investigação do ICO ilumina os desafios associados à implantação de IA em plataformas usadas por demografias mais jovens.

Usuários menores de idade em redes sociais

Plataformas de redes sociais, incluindo o Snapchat, geralmente exigem que os usuários tenham 13 anos ou mais para acessar seus serviços. No entanto, essas plataformas têm tido dificuldades para fazer cumprir as restrições de idade de forma eficaz. Em agosto, a Reuters relatou que o ICO estava reunindo informações para determinar se o Snapchat estava tomando medidas adequadas para remover usuários menores de idade de sua plataforma.

O chatbot de IA do Snapchat, “My AI”, está sob escrutínio do Escritório do Comissário de Informações do Reino Unido devido a preocupações sobre riscos de privacidade para crianças e usuários. Embora as descobertas provisórias da investigação levantem preocupações, a Snap expressou seu compromisso com a privacidade dos usuários e está revisando o aviso do ICO. As questões mais amplas em torno da regulamentação da IA generativa e o desafio de impedir que usuários menores de idade acessem plataformas de redes sociais permanecem como questões significativas para legisladores e empresas de tecnologia.