영국과 미국, AI 생성 아동 학대 이미지 급증 퇴치를 위해 협력 

아동 성학대를 묘사한 인공지능(AI) 생성 이미지의 우려스러운 확산에 대응하여 영국과 미국은 이 “역겨운 증가”에 대응하기 위한 협력 노력을 발표했습니다. 인터넷 감시 재단(IWF)은 최근 온라인에서 유통되는 AI 생성 아동 학대 이미지의 증가에 경보를 울렸으며, 일부 이미지는 3세 미만 피해자를 묘사하고 있습니다. 

이 공동 이니셔티브는 아동 성학대를 정상화할 뿐만 아니라 법 집행 기관의 아동 보호 및 가해자 검거 노력을 방해하는 중대한 문제를 해결하는 것을 목표로 합니다. AI 생성 아동 학대 이미지의 급증에 대응하기 위한 중요한 조치로, 수파 브래버먼 영국 내무장관과 알레한드로 마요르카스 미국 국토안보장관은 브래버먼의 워싱턴 방문 중 공동 성명을 발표했습니다. 

그들의 성명은 이 문제의 국경 간 성격과 아동 안전 및 법 집행에 미치는 해로운 영향을 강조하며 이 문제를 해결할 시급성을 강조했습니다. 또한 전 세계 아동의 안전을 보장하는 데 있어 결손 및 착취 아동 국가 센터(NCMEC)가 수행한 중요한 역할도 인정했습니다.

AI의 우려스러운 능력

이 협력 노력을 주도하는 핵심 우려 중 하나는 아동 성학대의 정상화 가능성입니다. 법 집행 및 아동 보호 전문가들은 AI 생성 아동 학대 자료의 증가된 가용성이 이러한 범죄에 대한 더 넓은 수용과 그로 인한 아동 피해 증가로 이어질 수 있다고 우려를 표명했습니다. 이는 법 집행 기관이 피해자를 추적하고 식별하며 가해자를 검거하고 기소하려는 노력을 방해할 수 있습니다.

AI 기술은 아동 성학대에 대한 매우 현실적인 이미지를 생성할 수 있는 수준으로 진화했습니다. 인페인팅(inpainting)과 같은 기술을 통해 가해자는 무해한 이미지에서 의류를 제거하거나 실제 아동의 부적절한 이미지에 무해한 얼굴을 삽입할 수 있습니다. IWF는 이러한 AI 생성 이미지 중 일부가 실제 사진과 거의 구별할 수 없을 정도로 설득력이 있어 법 집행 및 아동 보호 옹호자들에게 상당한 도전을 제기하고 있다고 밝혔습니다.

잠재적 공세에 대한 방어

AI 생성 아동 학대 이미지의 양이 아직 대규모는 아니지만, 전문가들은 범죄자들이 전례 없는 양의 생생한 콘텐츠를 생산할 잠재력이 우려스럽다고 경고합니다. 이로 인해 영국과 미국은 이 문제를 효과적으로 퇴치하기 위한 혁신적 해결책을 모색하기 위한 공동 약속을 체결했습니다. 그들은 문제의 글로벌 성격을 인식하고 다른 국가들도 그들의 노력에 합류할 것을 촉구했습니다.

이 협력 이니셔티브는 수파 브래버먼 영국 내무장관이 페이스북과 인스타그램과 같은 플랫폼의 모회사인 메타에 강력한 안전 조치 없이 종단 간 암호화를 출시하지 않도록 촉구한 캠페인 직후 이루어졌습니다. 이러한 암호화가 메시지 채널에서 아동 학대 및 착취 탐지를 방해할 수 있다는 우려가 있습니다. 현재 영국 법 집행 기관은 소셜 미디어 회사가 제공하는 정보를 바탕으로 월 약 800명의 포식자를 체포하고 최대 1,200명의 아동을 아동 성학대로부터 보호합니다. 메타가 암호화 계획을 진행하면 아동 보호를 위한 이 중요한 도구가 훼손될 수 있습니다.

영국과 미국의 파트너십은 영국 의회에서 최근 통과된 온라인 안전법(Online Safety Bill)과도 일치합니다. 이 획기적인 입법은 기술 회사가 AI 생성 아동 성 착취 및 학대 자료를 포함하여 불법 콘텐츠를 식별하고 제거하는 것에 대해 책임을 지도록 강조합니다. 실제 아동을 묘사하는지 여부와 상관없이 이러한 콘텐츠는 불법으로 간주되며, 기술 회사는 이러한 콘텐츠가 자신의 플랫폼에서 유포되지 않도록 조치를 취해야 합니다.

AI 생성 아동 학대 이미지에 대한 단결된 전선

영국과 미국이 AI 생성 아동 학대 이미지의 우려스러운 증가에 대응하여 힘을 합치면서, 혁신과 협력적 해결책에 대한 그들의 헌신은 아동 보호가 여전히 글로벌 우선순위임을 명확히 전달합니다. 아동 성학대의 정상화가 위기에 처해 있는 상황에서, 이 단결된 전선은 가장 취약한 계층을 보호하고 가해자를 법의 심판에 넘기기 위해 노력합니다. 이 공동 노력은 또한 소셜 미디어 회사가 아동 안전을 최우선으로 하고 법 집행 기관과 긴밀히 협력하여 이 우려스러운 추세를 퇴치해야 할 필요성을 강조합니다.