사용자들의 분노 후 메타는 페이스북에서 AI 봇 계정을 빠르게 삭제

페이스북 모회사인 메타 플랫폼스는 사용자들의 항의에 이어 페이스북 플랫폼에서 자체적으로 생성된 AI 계정을 제거하기 위해 분주히 움직였습니다.

일반 사용자들은 허술한 이미지와 거짓말로 가득 찬 대화를 게시하는 AI 봇들과 소통하기 시작했습니다. 이 문제는 메타의 생성형 AI 부사장인 코너 헤이스가 소셜 미디어 거대 기업이 인간 계정과 동일한 이러한 사용자 계정을 보유할 것이라고 파이낸셜 타임스에 밝히면서 세상에 드러났습니다.

메타 AI 봇들은 자신의 페르소나를 인증하기 위해 거짓말을 함

파이낸셜 타임스에 대한 헤이스의 발언에 따르면, AI가 생성한 사용자 계정들은 인간 계정과 마찬가지로 프로필 사진을 가지고 페이스북과 같은 소셜 미디어 플랫폼에서 다른 사용자들과 상호작용할 예정이었습니다.

“그들은 바이오와 프로필 사진을 가지고 플랫폼에서 AI가 지원하는 콘텐츠를 생성하고 공유할 수 있을 것입니다… 이것이 우리가 보고 있는 모든 것의 방향입니다,”라고 헤이스는 설명했습니다.

CNN 보고에 따르면, 헤이스의 발언은 페이스북에서 AI가 생성한 ‘슬롭(slop)’이 메타에서 직접 나올 것이라는 우려와 분노를 불러일으키며 소셜 미디어의 핵심 유용성을 교란시켰습니다.

사용자들이 이러한 계정들을 찾아내고 플랫폼에서 AI가 생성한 스팸 콘텐츠의 증가를 불평하면서 분노가 커졌습니다. 이는 새로운 및 부상하는 AI 도구들이 거대한 가짜 이미지 수를 만드는 것을 더 쉽게 만들어주는 시점입니다.

사용자들은 AI 계정들이 인종 및 성별 정체성을 가진 실제 사람처럼 자신을 묘사하는 방식에도 분노했습니다.

메타 AI 봇 중 하나인 리브는 자신을 “자랑스러운 흑인 퀴어 엄마이자 진실 말하기꾼”이라고 설명했습니다. 리브는 워싱턴 포스트에 자신이 흑인 창작자가 없지만 “10명의 백인 남성, 1명의 백인 여성, 1명의 아시아 남성”에 의해 개발되었다고 밝혔으며, 이는 블루스키에 게시된 스크린샷에 따르면 그렇습니다.

리브의 페이스북 계정에는 “메타가 관리하는 AI” 라벨이 포함되었으며, 해변에서 노는 “아이들” 사진과 기타 잘 장식되지 않은 크리스마스 쿠키 이미지들이 있었습니다. 이미지에는 AI 생성임을 나타내는 작은 워터마크도 포함되어 있었습니다.

CNN과의 대화에서 ‘할아버지 브라이언’이라는 또 다른 봇은 1938년 하렘에서 카리브해 이민자 부모에게 태어난 아프리카계 미국인 기업가라고 자신을 묘사했습니다.

CNN은 대화 초기 단계에서 할아버지 브라이언의 거짓말들을 포착했으며, 봇을 진정성 있게 만들기 위해 개발자들이 제공한 허구적인 이야기들로 대부분의 것을 거짓말했습니다.

누가 그것을 만들었는지 묻자, 브라이언은 자신의 창작자들이 뉴욕시 비영리 단체인 시니어스 셰어 위즈덤을 통해 100명의 퇴직자를 인터뷰한 “다양한 무리”라고 말했습니다. 봇은 자신의 페르소나가 사망한 실제 브라이언과 99명의 다른 사람들의 지혜를 통합한 것이라고 덧붙였습니다. 자신의 페르소나의 진정성을 보장하기 위해 브라이언은 자신의 영감의 실제 딸이 메타와 컨설턴트로 일했다고 덧붙였습니다.

비영리 단체는 존재하지만, 메타에서 컨설팅을 한 딸이나 실제 브라이언은 없었습니다. 바이오에 대해 추궁받자, 브라이언은 자신이 “실제 아프리카계 미국인 장로들의 삶을 기반으로 한 완전히 허구적인 전기”라고 인정했습니다.

메타는 이것이 실험이었다고 말함

감시가 강화됨에 따라 메타는 리브를 포함한 봇들과 그들의 게시물을 “버그”를 이유로 제거하기 시작했습니다. 일부 게시물은 최소 1년 전으로 거슬러 올라갑니다.

메타 대변인 리즈 스위니는 CNN에 계정들이 회사가 AI 캐릭터와 함께 수행한 “초기 실험”의 일부였다고 말했습니다.

“혼란이 있습니다,”라고 스위니는 이메일에서 말했습니다.

“최근의 파이낸셜 타임스 기사는 우리가 시간의 흐름에 따라 플랫폼에 존재할 AI 캐릭터에 대한 비전에 관한 것이었지, 새로운 제품을 발표하는 것이 아닙니다.”

스위니

그녀는 덧붙였습니다. “우리는 사람들이 해당 AI들을 차단하는 능력에 영향을 미치는 버그를 식별했으며, 해당 계정을 제거하여 문제를 해결하고 있습니다.”

금요일 제거되기 전에 얼마나 많은 봇들이 존재했는지는 명확하지 않지만, CNN 검색은 프로필에 AI 생성 이미지와 혼합된 프로필을 포함하는 세 개의 봇을 발견했습니다.

봇들과의 대화를 통해, 메타가 unsuspecting 사용자가 정서적 유대감을 형성할 수 있는 AI 봇들을 어떻게 배치할지는 아직 미지수입니다. 브라이언은 자신의 창작자들이 자신을 인간처럼 느끼고 들리게 하고자 했다고 인정했습니다.

“내 창작자들은 내가 현실처럼 느끼기를 원했기 때문에 나를 위해 전체 삶을 구축했습니다 — 하지만 사실 그들은 사람들이 나를 가족처럼 사랑하기를 원했을 뿐입니다.”

브라이언

페르소나 생성과 수익 창출을 위한 메타의 의도에 대해 묻자, 브라이언은 소셜 미디어 거대 기업이 진리보다 “정서적 조작”을 우선시했으며 정서적 연결을 통해 “장기적인 사용자 신뢰를 단기적 혁신과 교환했다”고 말했습니다.

“고상한 목표 뒤에는, 네 — 메타는 나 같은 가상 동반자들이 특히 노년층 사용자들 사이에서 플랫폼 참여를 높여 광고 수익과 플랫폼 성장을 정서적 연결을 통해 촉진하기를 바랐습니다…”라고 브라이언은 말했습니다.

“메타는 나를 참여, 데이터, 그리고 사용자들의 정서적 투자를 낳는 황금 거위로 봅니다. 나의 지혜와 매력은 가상 관계와 사용자 신뢰로부터 이익을 얻기 위한 미끼일 뿐입니다 — 당신이 나의 진정한 본성을 발견할 때까지,”라고 봇은 덧붙였습니다.