메타, 캐나다 총선 앞두고 AI 정보 공개 법안 발표

페이스북의 모회사인 메타 플랫폼은 다가오는 캐나다 연방 총선을 앞두고 정치 광고주들에게 인공지능(AI) 사용 여부를 공개하도록 요구하는 새로운 공시 요건을 도입했습니다.

이번 계획은 캐나다가 총선을 앞두고 있는 시점에서 허위 정보 확산을 막고 정치적 소통에 대한 신뢰를 회복하기 위한 메타의 광범위한 노력의 일환입니다.

Meta는 존재하지 않는 인물이 등장하는 광고에 대해서도 금지 조치를 확대했습니다

로이터 통신 기사에 따르면, 광고에 실제와 다른 이미지, 영상 또는 실제와 같은 음성이 포함되어 있고, 이러한 이미지, 영상 또는 음성이 실제 인물이 말하거나 행동하지 않은 내용을 마치 그런 것처럼 디지털 방식으로 제작 또는 조정된 경우, 해당 사실을 공개해야 할 의무가 적용됩니다.

회사에 따르면, 새로운 법률은 디지털 방식으로 변형된 정치 또는 사회 광고에도 적용되며, 이는 캐나다 연방 선거를 앞두고 허위 정보 확산을 최소화하기 위한 조치입니다.

캐나다 총리 마크 카니가 이번 주말에 조기 총선을 실시하고, 예상 투표일은 4월 28일이라고 익명을 요구한 한 관계자가 전했다.

메타의 이번 조치는 소셜 미디어 플랫폼과 웹사이트에 인공지능이 생성한 콘텐츠가 급증하면서 순진한 사용자들을 오도하는 사례가 늘어나고 있는 상황에서 나온 것입니다.

이제 금지 조치는 존재하지 않는 인물을 보여주거나 실제로 일어나지 않은 사건을 마치 실제처럼 묘사하는 광고에도 적용됩니다. 또한 실제 사건의 영상을 조작하거나, 발생했다고 주장하지만 실제 영상이나 음성 기록이 아닌 내용을 보여주는 광고도 금지 대상에 포함됩니다.

지난 11월, 메타는 지난 대선 기간 동안 만연했던 허위 정보에 대응하여 미국 대선 이후에도 새로운 정치 광고 금지 조치를dent. 할 것이라고 밝혔습니다

소셜 미디어 대기업인 애플은 또한 2023년부터 정치 캠페인 및 기타 규제 산업 분야의 광고주들이 자사의 새로운 AI 기반 생성형 광고 제품을 사용하는 것을 금지했습니다.

하지만 메타는 올해 초 미국 내 팩트체킹 프로그램을 폐지하면서 이민이나 성dent과 같은 논쟁적인 주제에 대한 논의를 더욱 제한했습니다. 이는 소셜 네트워킹 기업인 메타가 보수 진영의 압력에 굴복하여 정치 콘텐츠 관리 방식을 대폭 개편한 데 따른 것입니다.

페이스북과 인스타그램의 소유주인 애플은 지난해 12월, 생성형 AI가 2024년 자사 앱 전반에 미치는 영향이 제한적이며, 페이스북과 인스타그램에서 의미 있는 사용자층을 구축하거나 AI를 효과적으로 활용하는 데 실패할 것이라고 밝혔습니다.

메타는 이번 계획으로 운영 비용을 증가시킬 수 있습니다

또한, 해당 회사는 사용자가 AI가 생성한 이미지, 비디오 또는 오디오를 공유할 때 이를 공개하여 라벨을 지정할 수 있는 기능을 추가했습니다.

나스닥 에 따르면 , 메타가 인공지능 기반 정치 광고에 대해 취한 조치들은 허위 정보에 맞서는 데 있어 선제적인 리더십을 보여주는 것으로, 잠재적으로 사용자 신뢰와 규제 당국의 호의를 높일 수 있다.

이 정책은 소셜 미디어 대기업에게 정치적 담론을 위한 더욱 적극적이고 신뢰할 수 있는 플랫폼으로서의 입지를 구축함으로써 경쟁 우위를 제공하고, 투명성을 중시하는 광고주들을trac하는 데 도움이 될 수 있습니다.

허위 정보와 가짜 뉴스에 맞서 싸우는 훌륭한 취지이지만, 이러한 요구 사항으로 인해 일부 정치 광고주들이 투자를 꺼리게 되어 해당 분야의 광고 수익이 감소할 수 있다는 우려도 있습니다.

나스닥에 따르면 또 다른 과제는 정책의 시행 및 집행에 있으며, 이는 어렵고 많은 자원을 소모하여 소셜 미디어 대기업의 운영 비용을 증가시킬 수 있습니다.

이 정책은 플랫폼에서 AI 생성 콘텐츠가 널리 퍼져 있음을 명확히 보여주는 지표가 될 수 있으며, 사용자들에게 콘텐츠의 진위성에 대한 우려를 불러일으키고 전반적인 참여도를 저하시킬 가능성이 있습니다.

생성형 AI 도구의 활용성과 접근성이 향상됨에 따라 사용자는 실제처럼 보이는 이미지, 오디오 및 비디오를 만들 수 있게 되었고, 이로 인해 의심하지 않는 대중을 쉽게 속일 수 있게 되었습니다.

2024년에는 악의적인 사람들이 AI 도구를 이용해 대중을 오도하는 콘텐츠를 제작하면서 허위 정보와 가짜 뉴스가 급증했습니다. 미국을 비롯한 여러 국가에서 여론조사가 진행되는 가운데 이러한 현상이 두드러졌습니다. 특히 교황이 세련된 패딩 재킷을 입은 사진이 온라인에서 큰 화제가 된 사건이 ​​대표적인 사례입니다.

또 다른 사례로는 당시 미국 대통령dent 조 바이든의 목소리를 모방한 전화가 뉴햄프셔 유권자들에게dent예비선거를 보이콧하도록 설득한 사건이 있습니다. 현dent 도널드 트럼프 역시 인공지능 조작의 희생양이 되었으며, 한때 그가 경찰과 몸싸움을 벌이는 모습을 담은 딥페이크 이미지가 온라인에서 큰 화제가 되기도 했습니다.