영국 감시 기관, Snapchat의 AI 챗봇에 대한 아동 개인정보 보호 우려로 조사

영국 정보 위원회(ICO)는 Snapchat의 인공지능(AI) 챗봇 'My AI'와 그것이 아동 및 기타 사용자의 개인정보에 미칠 잠재적 영향에 대해 우려를 표명했습니다. 금요일에 공개된 ICO의 잠정 조사 결과는 Snap(미국 회사)이 4월 출시 전 'My AI'와 관련된 개인정보 위험을 적절히 평가하지 못했을 수 있음을 시사합니다.

ICO는 현재 'My AI'가 영국 내 약 2,100만 명의 Snapchat 사용자(13세에서 17세 사이의 아동 포함)의 개인정보를 어떻게 처리하는지 조사 중입니다. 이러한 조사 결과가 즉시 영국 데이터 보호법 위반을 의미하지는 않지만, Snap의 개인정보 보호 접근 방식에 대한 심각한 우려를 나타냅니다.

Snapchat의 AI, 아동 개인정보 위험에 대한 감시

정보위원회 위원장 존 에드워즈는 우려를 표명하며 “우리의 조사 잠정 결과에 따르면, 스냅은 ‘마이 AI’를 출시하기 전에 어린이 및 기타 사용자의 개인정보 보호 위험을 적절하게 식별하고 평가하는 데 실패한 것으로 보인다”고 밝혔다.

만약 스냅이 정보위원회의 우려를 만족스럽게 해결하지 못하면, 규제 당국은 해당 기업에 대한 시정 조치를 취할 수 있다. 이러한 조치는 과태료 부과부터 영국 내 ‘마이 AI’의 전면 금지까지 다양할 수 있으며, 이는 스냅챗 사용자 기반의 상당 부분에 영향을 미칠 것이다.

스냅은 정보위원회의 통지에 대해 조사 결과를 검토 중이며 사용자 개인정보 보호에 대한 의지를 유지하고 있다고 밝혔다. 스냅 대변인은 “마이 AI는 공개적으로 제공되기 전에 엄격한 법적 및 개인정보 보호 검토 절차를 거쳤다. 우리는 위험 평가 절차에 대해 정보위원회가 만족할 수 있도록 건설적으로 협력해 나갈 것”이라고 말했다.

‘마이 AI’는 생성형 AI의 가장 대표적인 사례 중 하나인 오픈AI의 ChatGPT를 기반으로 한다. 전 세계 정책 입안자들은 개인정보 및 안전에 대한 우려로 인해 이러한 AI 시스템을 어떻게 규제할지 고민하고 있다. 정보위원회의 이번 조사는 젊은 층이 많이 사용하는 플랫폼에서 AI를 배포하는 것과 관련된 과제들을 조명한다.

소셜 미디어의 미성년 사용자

스냅챗을 포함한 소셜 미디어 플랫폼은 일반적으로 사용자가 13세 이상이어야 서비스를 이용할 수 있도록 요구한다. 그러나 이러한 플랫폼들은 연령 제한을 효과적으로 시행하는 데 어려움을 겪어 왔다. 8월, 로이터는 정보위원회가 스냅챗이 플랫폼에서 미성년자를 적절히 제거하기 위한 충분한 조치를 취하고 있는지 확인하기 위해 정보를 수집하고 있다고 보도했다.

스냅챗의 AI 챗봇 ‘마이 AI’는 어린이 및 사용자의 개인정보 보호 위험에 대한 우려로 인해 영국 정보위원회(ICO)의 감시를 받고 있다. 조사의 잠정 결과는 우려를 자아내지만, 스냅은 사용자 개인정보 보호에 대한 의지를 표명했으며 정보위원회의 통지를 검토 중이다. 생성형 AI의 규제와 미성년자의 소셜 미디어 플랫폼 접근 방지에 대한 더 넓은 질문들은 정책 입안자와 기술 기업 모두에게 중요한 과제로 남아 있다.