Meta, 미성년자 성착취 방지 AI 도구 출시 예정

최근 메타는 청소년들의 정신 건강을 해쳤다는 비난을 받고 있으며, 40개 이상의 주에서 메타가 '아이들의 고통을 이용해 이익을 취했다'며 소송을 제기했습니다. 미국 정치인들은 메타가 청소년들의 심리적 안녕을 해쳤다고 비난했습니다. 이에 메타는 목요일, 인스타그램에서 아동 성착취 사기로부터 아이들을 보호하기 위해 인공지능 기반 도구를 개발 중이라고 발표했습니다. 

인스타그램에서 활동하는 범죄 조직들이 십대 청소년들에게 노출 사진을 공유하도록 유도한 후, 금전을 요구하거나 해당 사진을 인터넷에 공개하겠다고 협박하는 성착취 사기를 벌이고 있습니다. 

금전적 성착취 및 안전 조치

메타(Meta)는 금융 위기에 대응하기 위해 인공지능 기반 도구를 테스트 중이라고 발표했습니다. 이 도구는 인스타그램 메시지에서 미성년자에게 전송되는 노출 이미지 중 AI가 이를 감지하여 해당 이미지를 흐리게 처리하는 기능을 제공한다고 합니다. 메타 프랑스의 아동 보호 담당자인 카푸신 투피에(Capucine Tuffier)는 AFP 통신과의 인터뷰에서 이 기능이 아동들이 원치 않는 음란물에 노출되는 것을 막고, 이미지를 볼지 말지 선택할 수 있도록 도와줄 것이라고 밝혔습니다. 즉, 이러한 메시지를 받으면 흐릿하게 처리된 이미지 위에 경고 화면이 나타난다는 것입니다.

메타는 이러한 메시지를 주고받는 모든 사용자에게 안전 수칙과 조언을 제공하여 시기적절한 도움을 줄 것이라고 밝혔습니다. 화면에는 사용자가 잠재적인 사기에 응답해야 한다는 압박감을 느끼지 않도록 권장하는 메시지가 표시되며, 발신자를 차단하고dent신고할 수 있는 옵션도 제공됩니다.

당국 통계에 따르면 2022년 미국에서만 약 3,000명의 청소년이 성착취 사기의 피해자로 밝혀졌습니다. 지난 10월에는 40개 이상의 주가 인스타그램의 모회사인 메타를 상대로 소송을 제기했는데, 이는 메타가 아동의 고통을 이용해 이익을 취했다는 주장이었습니다. 이 회사는 어린 사용자들이 플랫폼에서 최대한 많은 시간을 보내도록 유도하여 정신 건강과 복지에 악영향을 미치는 사업 모델을 설계했다는 혐의를 받았습니다. 

Meta는 기기 내 머신러닝 솔루션을 개발 중입니다

새해 초, 메타는 18세 미만 미성년자를 보호하기 위해 콘텐츠 이용 정책을 강화하고 플랫폼 내 부모 통제 기능을 확대하는 전략을 발표할 것이라고 밝혔습니다. 어제 메타는 이러한 최신 도구들이 미성년자를 잠재적인 부정적 또는 유해한 상호작용으로부터 보호하기 위한 오랜 노력에 기반을 두고 있다고 말했습니다.

메타는 자신의 게시글에서 이렇게 말했습니다

"저희는 청소년들을 성착취 및 사적인 이미지 악용으로부터 보호하고, 잠재적인 사기꾼과 범죄자들이 십대들을 찾아내고 접촉하기 어렵게 만드는 새로운 기능들을 테스트하고 있습니다."

출처: 메타

메타는 또한 다음과 같이 덧붙였습니다

"노출 방지 기능은 기기 내 머신 러닝을 사용하여 인스타그램 DM으로 전송된 이미지에 노출이 포함되어 있는지 분석합니다. 이미지 분석이 기기 자체에서 이루어지기 때문에, 노출 방지 기능은 종단 간 암호화된 채팅에서도 작동하며, Meta는 사용자가 직접 신고하지 않는 한 이러한 이미지에 접근할 수 없습니다."

출처: 메타

메타는 또한 부적절한 콘텐츠를 전송하는 계정을 선별하고 미성년자와 접촉할 경우 엄격한 제한을 적용할 것을 촉구했습니다. 메타가 사용자 개인정보를 여러 차례 받아왔지만, 이러한 조치는 올바른 방향으로 나아가는 것으로 보입니다. 하지만 메타는 사용자가 신고하지 않는 한 부적절한 이미지에 접근할 수 없다고 강조했습니다.

이 이야기는 Meta 블로그.