페이스북의 추천 알고리즘은 AI 생성 스팸 및 사기를 촉진합니다

스탠퍼드 대학교와 조지타운 대학교 연구원들이 최근 수행한 연구에서 페이스북의 추천 알고리즘과 관련된 새로운 사실이 밝혀졌습니다. 이 연구는 이러한 알고리즘이 스팸 및 사기꾼들이 게시한 AI 생성 이미지를 의도치 않게 부스팅하여 플랫폼上で 기만적 콘텐츠가 확산되는 것을 강조합니다.

AI 생성 이미지: 부상하는 위협

이 연구는 사용자를 혼란스럽게 하거나 매료시키는 AI 생성 이미지가 페이스북에서 더 큰 스팸 또는 사기 캠페인의 일부로 활용되는 알arming한 추세를 강조합니다. 연구에서 인용된 한 예는 플랫폼에서 여러 번 바이럴 트래션을 얻은 '새우 예수(Shrimp Jesus)' 현상입니다. 원래는 팔로워를 모으기 위해 고안되었지만, 이러한 이미지는 광고가 가득한 웹사이트로 트래픽을 유도하거나 저품질 제품을 판매하는 데 진화했습니다.

이러한 AI 생성 이미지의 우려스러운 측면은 출처 페이지를 팔로우하지 않는 무고한 사용자에게 도달할 수 있다는 능력에 있습니다. 많은 사용자들이 조작된 콘텐츠와 상호작용하고 있다는 사실을 인지하지 못한 채 이러한 이미지에 참여합니다. '새우 예수'와 같은 일부 이미지는 노골적으로 환상적일 수 있지만, 일상적인 사물이나 예술 작품을 묘사하는 다른 이미지들은 사용자로 하여금 그 인공적인 본질을 속이게 만들어 광범위한 허위 정보와 착취를 초래합니다.

규제 대응 및 감시

AI 생성 스팸 및 사기가 초래하는 위협이 점점 더 명확해짐에 따라 규제 당국들이 조치를 취하고 있습니다. 영국의 광고 표준 당국(ASA)은 현재 광고에서 생성형 AI의 적용을 검토 중이며, 올해 새로운 가이드라인이 도입될 잠재력이 있습니다. 마찬가지로 미국 연방거래위원회(FTC)는 이 문제에 대한 집중을 강화하며 소셜 미디어 플랫폼에서의 기만적 관행을 해결할 긴급한 필요성을 인식하고 있습니다.

2021년 노르웨이는 광고주와 인플루언서들이 디지털 조작된 이미지의 사용을 공개하도록 의무화하는 개정 법안을 시행했습니다. 투명성과 소비자 신뢰를 강화하기 위한 이 규제는 AI 생성 광고에도 적용될 수 있습니다.

페이스북에서의 AI 생성 스팸 및 사기의 확산은 기만적 콘텐츠로부터 사용자를 보호하기 위해 강력한 규제 조치와 플랫폼의 책임성이 필요함을 강조합니다. 

연구자들이 이 현상의 범위를 계속 밝혀냄에 따라, 소셜 미디어 기업들은 추천 알고리즘의 무결성을 우선시하고 악의적인 목적으로 생성형 AI의 착취를 막아야 합니다. 규제 기관과 기술 플랫폼의 공동 노력을 통해 AI 생성 기만이 초래하는 위험을 완화하고 모든 사용자를 위한 더 안전한 온라인 환경을 보장할 수 있습니다.