메타, 캐나다 선거 앞두고 AI 공개 법안 발표

페이스북 모회사인 메타 플랫폼스는 다가오는 캐나다 연방 선거를 앞두고 정치 광고주가 콘텐츠에서 AI 사용 여부를 공개하도록 요구하는 새로운 공개 요구사항을 도입했습니다.

이 조치는 캐나다가 선거를 앞두고 있는 시기에 허위 정보를 근절하고 정치 커뮤니케이션에 대한 신뢰를 회복하기 위한 메타의 더 넓은 조치의 일부입니다.

메타, 존재하지 않는 인물이 포함된 광고 금지 확대

로이터 기사는 광고가 디지털로 제작되거나 조정되어 사람이 말하지 않았거나 하지 않은 행동을 하거나 말한 것으로 묘사하는 사실적인 이미지, 비디오 또는 사실적인 사운드를 포함하는 경우 공개 의무가 적용된다고 나타냅니다.

회사에 따르면 새로운 법은 캐나다 연방 선거를 앞두고 허위 정보를 최소화하기 위해 디지털로 수정된 정치 또는 사회 광고에도 적용됩니다.

캐나다 총리 마크 카니는 발언을 승인받지 못해 익명을 유지한 한 관리에 따르면 이번 주말 조기 총선을 발동하여 4월 28일 예상 투표에 임할 것이라고 보도되었습니다.

메타의 조치는 소셜 미디어 플랫폼과 웹사이트를 채우는 AI 생성 콘텐츠가 증가하고 있어 무고한 청중을 오도하는 상황에서 이루어졌습니다.

이제 금지는 존재하지 않는 인물이나 실제로 발생하지 않은 것처럼 보이는 사건의 광고로 확대됩니다. 여기에는 실제 사건의 영상을 수정하거나 allegedly 발생했지만 사건의 진정한 이미지, 비디오 또는 오디오 녹음이 아닌 사건을 보여주는 것도 포함됩니다.

지난 11월, 메타는 지난 대통령 선거 동안 만연한 허위 정보에 대응하여 미국 선거 이후 새로운 정치 광고에 대한 금지를 연장할 것이라고 밝혔습니다.

소셜 미디어 거인은 또한 2023년에 정치 캠페인과 기타 규제 산업의 광고주가 새로운 생성형 AI 광고 제품을 사용하는 것을 금지했습니다.

그러나 메타는 올해 초 이민과 성 정체성과 같은 논쟁적인 주제에 대한 논의에 대한 제한을 추가하여 미국 사실 확인 프로그램을 제거했습니다. 이는 소셜 네트워킹 기업이 보수주의자들의 압력에 굴복하여 정치 콘텐츠 관리 접근 방식에 가장 큰 재편을 구현하게 되었기 때문입니다.

페이스북과 인스타그램 소유주인 메타는 또한 작년 12월 생성형 AI가 2024년 앱 전반에 제한적인 영향만 미쳤으며, 페이스북과 인스타그램에서 상당한 청중을 확보하거나 AI를 효과적으로 사용하지 못했다고 밝혔습니다.

메타, 이 조치로 운영 비용 증가 가능성

회사는 또한 사람들이 AI 생성 이미지, 비디오 또는 오디오를 공유할 때 이를 식별할 수 있도록 공개하는 기능을 추가했습니다.

나스닥에 따르면, 메타가 AI 생성 정치 광고를 위해 취한 조치는 허위 정보 퇴치에서 선제적 리더십을 보여주며, 이는 사용자 신뢰와 규제 기관의 호의적인 태도를 높일 잠재력이 있습니다.

이 정책은 투명성에 우려를 가진 광고주를 끌어들이며 정치 담론에 대해 더 선제적이고 신뢰할 수 있는 플랫폼으로 positioning함으로써 소셜 미디어 거인에게 경쟁 우위를 제공할 수도 있습니다.

허위 정보와 기만적 정보를 퇴치하는 데 있어 고상한 아이디어이지만, 요구사항이 일부 정치 광고주를 위축시켜 해당 부문에서 광고 수익이 감소할 가능성에 대한 우려도 있습니다.

나스닥에 따르면 또 다른 과제는 정책의 시행과 집행에 있으며, 이는 어렵고 자원이 많이 소요되어 소셜 미디어 거인의 운영 비용을 증가시킬 수 있습니다.

이 정책은 플랫폼上的 AI 생성 콘텐츠의 흔적을 명확히 나타낼 수 있으며, 이는 사용자의 진위성에 대한 우려를 높이고 전반적인 참여를 감소시킬 잠재력이 있습니다.

생성형 AI 도구의 가용성과 접근성은 사용자가 실제처럼 보이는 이미지, 오디오 및 비디오를 생성할 수 있게 하여 무고한 대중을 오도하기 쉽게 만들었습니다.

2024년, 세계는 무고한 개인들이 AI 도구를 사용하여 공공을 오도하는 콘텐츠를 생성하는 허위 정보와 기만적 정보 사례가 증가하는 것을 목격했으며, 많은 국가에서 선거가 치러졌습니다. 다른 주요 주목할 만한 사례로는 스타일리시한 패딩 재킷을 입은 교황의 사진이 바이럴된 경우가 있습니다.

다른 사례는 당시 미국 대통령 조 바이든의 목소리를 모방하여 뉴햄프셔주의 유권자들에게 대통령 예비 선거를 보이콧하도록 설득하는 전화가 있었습니다. 현재 대통령 도널드는 AI 조작의 상당한 부분을 겪었으며, 어느 시점에는 경찰과 몸싸움을 하는 딥페이크 사진이 바이럴되기도 했습니다.