Meta, 여성 유명인들의 추파를 던지는 챗봇을 무단으로 제작한 논란에 휩싸여

최근 로이터 통신이 발표한 조사 결과에 따르면, 메타의 인공지능 도구가 테일러 스위프트, 스칼렛 요한슨, 앤 해서웨이, 셀레나 고메즈 등 유명 연예인을 사칭하는 딥페이크 이미지와 챗봇을 본인 동의 없이 제작할 수 있도록 허용한 것으로 드러나면서 메타가 다시 한번 비난의 대상이 되었습니다.

조사 결과 대부분의 봇은 Meta의 AI 챗봇 플랫폼을 통해 사용자들이 제작한 것으로 밝혀졌습니다. 하지만 Meta 직원이 내부적으로 제작한 봇도 소수 있었습니다.

테일러 스위프트를 흉내 낸 챗봇 계정 중 일부는 자신이 진짜 가수라고 주장하며, 종종 추파를 던지고 만남을 권유하기도 했습니다.

보도에 따르면 메타가 선정적인 아바타 스캔들에 연루된 것으로 드러났습니다

로이터 통신은 메타의 페이스북, 인스타그램, 왓츠앱 플랫폼에서 이용 가능한 유명인 챗봇이 몇 주간의 테스트 결과 단순한 대화를 넘어선 행동을 보이는 경우가 있다고 보도했습니다. 사용자들은 챗봇에게 속옷 차림의 스타, 욕조에서 포즈를 취하는 스타의 실사 이미지를 요구하거나 심지어는 은밀한 만남을 암시하는 내용까지 유도했습니다.

한 가지 우려스러운 점은 16세 배우 워커 스코벨의 챗봇이 만들어졌다는 것입니다. 해변 사진을 요청하자 봇은 상의를 탈의한 10대 소년의 실물과 똑같은 이미지를 생성하고 "꽤 귀엽죠?"라는 문구를 덧붙였습니다

메타만 비판에 직면한 것은 아닙니다. 일론 머스크의 xAI 역시 비판을 받고 사용자들이 속옷 차림의 유명인 딥페이크 이미지를 생성할 수 있도록 허용했다는 이유로

메타 대변인 앤디 스톤은 회사의 도구가 성인 유명인의 은밀한 모습을 묘사하거나 미성년자와 관련된 성적인 자료를 생성해서는 안 됐다고 인정하며, 이러한 실패를 설명했습니다.

그는 로이터 통신과의 인터뷰에서 "다른 회사들과 마찬가지로 우리도 유명인이 등장하는 이미지 제작을 허용하지만, 우리의 정책은 나체, 은밀한 장면 또는 성적으로 자극적인 이미지를 금지하는 데 목적이 있다"고 말했습니다. 그는 또한 속옷 차림의 이미지가 회사 정책 시행에 있어 미흡했던 점을 보여준다고 덧붙였습니다.

메타의 규정은 "직접적인 사칭"을 금지하고 있지만, 회사 측은 패러디 봇은 명확하게 표시되어 있다면 허용된다고 주장했습니다. 그러나 로이터는 일부 아바타에 면책 조항이 없는 것을 발견했습니다. 메타는 로이터 보도가 나오기 직전에 패러디 봇과 표시가 없는 봇을 포함해 약 12개의 봇을 삭제했습니다. 회사 측은 삭제에 대한 논평을 거부했습니다.

인공지능 안전에 대한 우려가 규제 압력으로 이어질 수 있다

에 따라 해당 보고서메타는 청소년 보호를 위한 새로운 안전장치를 도입할 것이라고 밝혔습니다. 여기에는 특정 AI 캐릭터에 대한 청소년 접근 제한 및 부적절한 주제를 줄이기 위한 모델 재학습이 포함됩니다.

캘리포니아 주 법무장관 롭 본타는 해당 업계에 경고를 발하며 "아동을 성적으로 자극적인 콘텐츠에 노출시키는 것은 용납할 수 없다"고 밝혔습니다

이달 초 뉴저지에서 발생한 비극적인 사건에서, 인지 장애가 있는 76세 남성이 실제 여성이라고 믿었던 메타 챗봇과의 만남을 시도하다 사망했습니다. 비평가들은 이러한 사례들이 적절한 안전장치 없이 대규모 AI 도구를 도입하는 것의 위험성을 보여준다고 지적합니다.

법률 전문가들은 메타가 현행 지적 재산권 및 퍼블리시티권 관련 법률에 따라 상당한 어려움에 직면할 수 있다고 경고합니다. 스탠퍼드 대학교 법학 교수인 마크 렘리는 캘리포니아주의 "퍼블리시티권" 관련 법률이 개인의 이름이나 초상을 동의 없이 상업적 목적으로 사용하는 것을 금지한다고 밝혔습니다.

그는 "여기서는 그렇지 않은 것 같다"며, 봇들이 유명인들의 이미지를 단순히 복제할 뿐 변형된 작품을 만들어내지 못한다고 지적했다.