영국, 온라인 아동 보호를 위해 AI 챗봇 단속 강화

영국 정부는 해롭고 불법적인 콘텐츠로부터 아동을 더 잘 보호하기 위해 인공지능 챗봇 사용에 대한 규제를 강화할 예정입니다. 

키어 스타머 총리는 샌프란시스코의 Visa 글로벌 마켓 서포트 센터에서 공개되었다. 챗봇 제공자가 주요 온라인 안전법 외부에서 운영될 수 있게 했던 법적 공백을 메우는 절차를 진행 중입니다. 이는 AI 챗봇을 제작하고 운영하는 기업들이 불법적인 콘텐츠에 적극적으로 대응하고 플랫폼이 젊은 사용자에게 안전하도록 보장하도록 강제할 것입니다. 

현재 정부는 온라인 안전법(Online Safety Act) i의 집행 방식을 변경하고 챗봇이 법을 어떻게 준수해야 하는지 명시할 것이라고 주장합니다. 이 규제는 훨씬 이전에 설계되었지만, 사람들이 콘텐츠를 게시할 수 있는 소셜 미디어 플랫폼과 공개 포럼의 요구에 주로 적응되었습니다. 사설 AI 챗봇을 운영하는 사람들과 사용하는 사람 모두 동등한 보호를 받지 못했으며, 그들의 책임은 여전히 불분명합니다. 스타머는 곧 이 구멍을 막겠다고 약속했습니다.

그는 챗봇 회사가 다른 온라인 기업들과 동일한 법적 의무를 준수하지 않을 경우 처벌받을 것이라고 경고했습니다. 정부는 이 변화가 챗봇 제공자들이 적극적으로 시스템을 모니터링하고 불법 자료를 차단하도록 보장해야 한다고 말합니다. 그의 발표에 앞서 스타머는 어떤 기술 회사도 법에서 면제되지 않을 것이라고 말했습니다.

정부는 또한 AI 챗봇을 소셜 미디어 플랫폼과 다르게 취급하는 것이 아동을 해롭거나 부적절한 콘텐츠에 취약하게 만들 수 있다고 우려합니다. 관리들은 AI 챗봇이 특히 십대와 청소년 사용자를 포함한 원하는 대상에게 도달하려면 더 강력한 보호가 필요하다고 믿습니다.

급변하는 기술 대응을 위한 새로운 권한

정부는 법적 공백을 메우는 것 외에도위험이 발생할 때 더 빠른 조치를 가능하게 할 새로운 권한을 생성할 예정입니다. 의회가 완전히 새로운 법률을 통과하기를 기다리는 대신, 규제 기관들은 기술에 더 빠르게 대응할 것입니다. 

이는 보호 조치가 인공지능의 빠른 진전과 발맞추도록 보장하는 방법입니다. AI 도구는 빠르게 개선되고 새로운 영역으로 확장되고 있습니다. 결과적으로 위험은 갑자기 나타날 수 있으며, 규제 기관들은 이에 대응하기 위해 유연성이 필요합니다. 

스타머는 최근 동의 없이 성적으로 과장된 이미지를 생성하는 등 해로운 AI 생성 콘텐츠의 위험성을 지적했습니다. 

그는 이러한 용도를 용납할 수 없다고 주장하며 기존 법률을 엄격히 적용해야 한다고 말했습니다. 정부는 더 나은 법 집행을 통해 기업들이 처음부터 더 안전한 시스템을 설계하도록 강제할 것이라고 밝혔습니다. 

이에는 사용자가 콘텐츠를 보기 전에 불법적인 콘텐츠를 식별하고 방지하도록 설계된 채팅봇 소프트웨어에 내장된 보호 조치가 포함될 수 있습니다. 기술 기업들도 자신의 AI 시스템이 어떻게 작동하는지에 대한 책임을 져야 합니다. 

이는 기업들이 출력을 모니터링하고, 시스템의 안전성을 높이기 위해 안전 기능을 강화하며, 결함이 감지되면 신속하게 대응해야 함을 의미합니다.

정부의 아동 피해 보호 조치

AI 채팅봇에 대한 단속은 사실상 모든 디지털 플랫폼에서 아동 안전을 확보하기 위한 더 큰 과제의 일부입니다. 정부는 위험을 더욱 줄일 수 있는 새로운 조치를 고려하고 있습니다. 

현재 검토 중인 한 제안은 소셜 미디어에 접근하기 위해 사용자가 특정 연령이어야 한다는 요구사항입니다. 관료들은 무한 스크롤과 같은 기능을 제한하여 과도한 스크린 시간을 유발하는지, 그리고 젊은이들이 해롭거나 중독성 있는 콘텐츠에서 쉽게 벗어나지 못하게 하는지. 

를 조사하고 있습니다. 이러한 변화는 온라인 아동 복지에 대한 공개적인 의견 수렴 이후 이루어질 수 있습니다. 부모, 교육자, 안전 전문가들은 디지털 플랫폼이 젊은이들의 정신 건강과 부적절한 콘텐츠 노출에 미치는 영향에 대해 우려하고 있습니다. 

정부의 더 넓은 목표는 아이들이 심각한 피해에 노출되지 않으면서도 기술의 혜택을 받을 수 있는 더 안전한 온라인 환경을 조성하는 것입니다.