AILa Oficina del Comisionado de Información del Reino Unido (ICO) ha expresado su preocupación por el chatbot de inteligencia artificial (IA) de Snapchat, "My AI", y su posible impacto en la privacidad de menores y otros usuarios. Las conclusiones provisionales de la ICO, publicadas el viernes, sugieren que Snap, la empresa estadounidense responsable de Snapchat, podría no haber evaluado adecuadamente los riesgos para la privacidad asociados con "My AI" antes de su lanzamiento en abril.
La ICO está investigando actualmente cómo "My AI" procesa los datos personales de los aproximadamente 21 millones de usuarios de Snapchat en el Reino Unido, incluidos niños de entre 13 y 17 años. Si bien estos hallazgos no implican de inmediato una violación de las leyes británicas de protección de datos, sí señalan serias preocupaciones sobre el enfoque de Snap en materia de protección de la privacidad.
La inteligencia artificial de Snapchat se enfrenta al escrutinio por los riesgos para la privacidad de los niños
El Comisionado de Información, John Edwards, expresó su aprensión y afirmó: “Los hallazgos provisionales de nuestra investigación sugieren un preocupante fracaso por parte de Snap a la horadenty evaluar adecuadamente los riesgos para la privacidad de los niños y otros usuarios antes de lanzar 'My AI'”
Si Snap no resuelve satisfactoriamente las preocupaciones de la ICO, el regulador podría tomar medidas coercitivas contra la empresa. Estas medidas podrían ir desde multas hasta la prohibición total de "My AI" en el Reino Unido, una decisión que afectaría a una parte significativa de la base de usuarios de Snapchat.
Snap respondió al aviso de la ICO afirmando que está revisando los hallazgos y mantiene su compromiso con la privacidad de los usuarios. Un portavoz de Snap mencionó: «Mi IA se sometió a un riguroso proceso de revisión legal y de privacidad antes de hacerse pública. Seguiremos trabajando de forma constructiva con la ICO para asegurarnos de que se sientan cómodos con nuestros procedimientos de evaluación de riesgos»
"Mi IA" se basa en ChatGPT de OpenAI, uno de los ejemplos más destacados de IA generativa. Los legisladores de todo el mundo están lidiando con la regulación de estos sistemas de IA debido a las preocupaciones sobre la privacidad y la seguridad. Esta investigación de la ICO arroja luz sobre los desafíos asociados con la implementación de la IA en plataformas utilizadas por grupos demográficos más jóvenes.
Las plataformas de redes sociales, como Snapchat, suelen exigir a los usuarios tener 13 años o más para acceder a sus servicios. Sin embargo, estas plataformas han tenido dificultades para aplicar eficazmente las restricciones de edad. En agosto, Reuters informó que la ICO estaba recopilando información para determinar si Snapchat estaba tomando las medidas adecuadas para eliminar a los usuarios menores de edad de su plataforma.
El chatbot de IA de Snapchat, "My AI", está bajo la lupa de la Oficina del Comisionado de Información del Reino Unido debido a la preocupación por los riesgos para la privacidad de menores y usuarios. Si bien las conclusiones provisionales de la investigación generan inquietud, Snap ha expresado su compromiso con la privacidad del usuario y está revisando el aviso de la ICO. Las cuestiones más amplias en torno a la regulación de la IA generativa y el desafío de impedir el acceso de menores a las plataformas de redes sociales siguen siendo importantes tanto para los legisladores como para las empresas tecnológicas.
