Meta, 미성년자 섹스틴션 보호를 위한 AI 도구 출시

최근 Meta는 청소년의 정신 건강을 해친다는 비난을 받았으며, 40개 이상의 주가 '아이들의 고통에서 이익을 얻었다'며 소송을 제기했습니다. 미국 정치인들은 Meta가 청소년의 심리적 안녕을 방해했다고 비난했습니다. Meta는 목요일에 Instagram에서 아이들을 섹스틴션 사기로부터 보호하기 위해 인공지능 기반 도구를 개발 중이라고 발표했습니다. 

Instagram에서 갱단이 운영하는 섹스틴션 사기는 청소년들에게 노출된 이미지를 공유하도록 설득한 후 돈을 요구하거나, 그렇지 않으면 이미지를 인터넷에 공개하겠다고 협박합니다. 

금융 섹스틴션 및 안전 조치

Meta는 금융 상황을 대응하기 위해 인공지능 기반 도구를 테스트 중이라고 발표했습니다. 이 도구들은 Instagram 메시지에서 미성년자에게 보내지는 노출된 이미지를 AI가 감지할 때 이미지를 흐리게 처리하여 노출 보호를 제공한다고 합니다. Meta France의 아동 보호 책임자 Capucine Tuffier은 AFP와의 인터뷰에서 이것이 아이들이 원치 않는 친밀한 콘텐츠에 노출되는 것을 보호하는 데 도움이 될 것이며, 누군가가 이러한 메시지를 받을 때 흐려진 이미지 위에 경고 화면이 나타나므로 아이들이 이미지를 볼지 여부를 선택할 수 있게 된다고 말했습니다.

Meta는 또한 이러한 메시지를 받거나 보내는 모든 사람에게 안전 팁과 조언을 제공하여 적시에 도움을 줄 것이라고 말했습니다. 화면에는 잠재적인 사기에 대응해야 한다는 압박감을 느끼지 말고 발신자를 차단하고 사건을 신고할 수 있는 옵션을 제공하는 메시지가 나타납니다.

당국 통계에 따르면 2022년 미국에서만 거의 3,000명의 청소년이 섹스틴션 사기의 피해자로 확인되었습니다. 작년 10월, 40개 이상의 주가 Instagram의 모회사인 Meta를 상대로 소송을 제기했는데, 이 소송에서 회사는 '아이들의 고통에서 이익을 얻었다'고 주장했습니다. 회사는 정신 건강과 안녕에 해를 끼치면서도 플랫폼에서 가장 많은 시간을 보내도록young users를 착취하는 비즈니스 모델을 설계했다는 비난을 받았습니다. 

Meta, 디바이스 기반 머신러닝 솔루션 작업 중

새해 초 Meta는 콘텐츠 사용 정책 제한 및 플랫폼상의 부모 통제 강화를 통해 18세 미만 미성년자를 보호하기 위한 전략을 출시할 것이라고 밝혔습니다. 어제 Meta는 최신 도구가 미성년자를 잠재적 부정적이거나 해로운 상호작용으로부터 보호하기 위한 그들의 뿌리 깊은 작업에 기반하고 있다고 말했습니다.

Meta는 게시물에서 다음과 같이 말했습니다.

"우리는 섹스틴션과 친밀한 이미지 남용으로부터 젊은이를 보호하고 잠재적 사기꾼과 범죄자가 청소년을 찾고 상호작용하는 것을 더 어렵게 만들기 위한 새로운 기능을 테스트하고 있습니다."

출처: 메타

Meta는 또한 덧붙였습니다.

"노출 보호는 디바이스 기반 머신러닝을 사용하여 Instagram DM으로 보내진 이미지에 노출된 콘텐츠가 포함되어 있는지 분석합니다. 이미지가 디바이스 자체에서 분석되므로, 노출 보호는 Meta가 이러한 이미지에 접근할 수 없는 종단 간 암호화 채팅에서도 작동합니다 – 누군가가 우리에게 보고하지 않는 한."

출처: 메타

Meta는 또한 잠재적 계정이 부적절한 콘텐츠를 보내고 미성년자에게 연락할 때 엄격한 제한을 적용하도록 스크리닝할 것을 촉구했습니다. Meta가 여러 차례 사용자의 데이터 프라이버시를 위반했다는 비난을 받아왔지만, 이러한 조치는 올바른 방향으로 나아가는 것으로 보입니다. 하지만 회사는 부적절한 이미지에 접근할 수 있는 권한이 없으며, 사용자가 보고하지 않는 한 접근할 수 없다고 지적했습니다.

이 이야기는 Meta 블로그에서 출처를 가져왔습니다.