영국 정부는 유해하고 불법적인 콘텐츠로부터 아동을 더 잘 보호하기 위해 인공지능 챗봇 사용에 대한 규제를 강화하는 방향으로 나아가고 있습니다.
키어 스타머 총리는 발표 . 이 방안은 인공지능 챗봇을 제작 및 운영하는 기업들이 불법 콘텐츠를 적극적으로 단속하고, 플랫폼이 어린 사용자들에게 안전한 환경을 제공하도록 의무화할 것입니다.
이제 정부는 온라인 안전법 시행 방식을 바꾸고 챗봇이 법을 준수해야 하는 구체적인 사항을 명시하겠다고 밝혔습니다. 이 규정은 훨씬 이전에 마련되었지만, 주로 사람들이 콘텐츠를 게시할 수 있는 소셜 미디어 플랫폼과 공개 포럼의 요구에 맞춰 조정되었습니다. 개인 AI 챗봇을 운영하는 사람과 사용하는 사람 모두 동등한 적용 범위를 받지 못했고, 그들의 책임은 여전히 불분명합니다. 스타머는 이러한 허점을 조속히 해결하겠다고 약속했습니다.
챗봇 업체들은 다른 온라인 기업들과 마찬가지로 법적 의무를 준수해야 하며, 그렇지 않을 경우 처벌받을 것이라고 그는 경고했습니다. 정부는 이번 조치를 통해 챗봇 제공업체들이 시스템을 적극적으로 모니터링하고 불법 콘텐츠를 차단하도록 해야 한다고 밝혔습니다. 스타머 대표는 발표에 앞서 어떤 기술 기업도 이 법에서 예외가 될 수 없다고 말했습니다.
정부는 인공지능 챗봇을 소셜 미디어 플랫폼과 다르게 취급할 경우 아동이 유해하거나 부적절한 콘텐츠에 노출될 위험이 있다고 우려하고 있습니다. 관계자들은 인공지능 챗봇이 특히 10대와 젊은 사용자들을 포함한 목표 대상에게 도달하려면 더욱 강력한 보호 조치가 필요하다고 보고 있습니다.
급변하는 기술에 대응하기 위한 새로운 권한
법적 공백을 메우는 것 외에도 위험이 발생할 경우 더 신속하게 대응할 수 있도록 새로운 권한을 신설할 것입니다. 의회가 완전히 새로운 법률을 통과시킬 때까지 기다리는 대신, 규제 당국은 기술 변화에 더욱 빠르게 대응할 것입니다.
이는 인공지능의 빠른 발전에 발맞춰 보호 조치가 발전할 수 있도록 보장하는 방법입니다. AI 도구는 빠르게 발전하고 새로운 영역으로 확장되고 있습니다. 따라서 위험이 갑자기 발생할 수 있으며, 규제 당국은 이에 대응하기 위한 유연성을 갖춰야 합니다.
스타머는 최근 인공지능이 생성한 유해 콘텐츠의 위험성을 지적했는데, 예를 들어 기술이 악용되어 당사자의 동의 없이 성적으로 대상화된 이미지를 만들어내는 사례들을 언급했습니다.
그는 그러한 사용 방식은 용납할 수 없다고 말하며 기존 법률을 엄격히 적용해야 한다고 주장했습니다. 정부는 법 집행을 강화하면 기업들이 처음부터 더 안전한 시스템을 설계하게 될 것이라고 반박했습니다.
여기에는 사용자가 불법 콘텐츠를 보기 전에 이를dent하고 차단하기 위해 챗봇 소프트웨어에 내장된 보호 기능이 포함될 수 있습니다. 또한 기술 기업들은 자사의 AI 시스템 작동 방식에 대한 책임을 져야 할 것입니다.
즉, 출력값을 모니터링하고, 시스템을 더욱 안전하게 만들기 위해 안전 기능을 강화하며, 오류가 감지되면 신속하게 대응해야 한다는 의미입니다.
정부, 아동 보호 조치에 나선다
인공지능 챗봇에 대한 규제 강화는 사실상 모든 디지털 플랫폼에서 아동 안전이라는 더 큰 과제의 일환입니다. 정부는 위험을 더욱 줄일 수 있는 새로운 조치들을 검토하고 있습니다.
현재 검토 중인 방안 중 하나는 소셜 미디어 이용 연령을 제한하는 것입니다. 관계자들은 또한 무한 스크롤과 같은 기능을 제한하는 것이 과도한 화면 사용 시간을 조장하고, 청소년들이 유해하거나 중독성 있는 콘텐츠 .
이러한 변화는 온라인상의 아동 복지에 대한 공청회 이후에 이루어질 수 있습니다. 부모, 교육자, 안전 전문가들은 디지털 플랫폼이 청소년의 정신 건강에 미치는 영향과 부적절한 콘텐츠에 노출되는 정도에 대해 우려하고 있습니다.
정부의 더 큰 목표는 어린이들이 심각한 피해에 노출되지 않고 기술의 혜택을 누릴 수 있는 더 안전한 온라인 환경을 조성하는 것입니다.
