메타, AI 생성 캐릭터 및 프로필 투자로 가짜 계정 우려 고조

메타 AI 임원은 페이스북에서 곧 AI 생성 프로필과 사용자의 급증이 발생할 수 있다고 말했습니다.

메타는 지난해부터 인공지능 도구를 개선해 왔습니다. 페이스북 등 다양한 플랫폼에서 새로운 AI 제품을 도입했으며, 이는 7월 AI 캐릭터 생성 도구를 출시할 때 생성된 수십만 개의 캐릭터를 포함합니다.

이러한 AI 캐릭터들은 현재 비공개 상태이지만, 메타는 향후 몇 년 안에 플랫폼의 표준 기능이 될 것으로 예상합니다. 생성형 AI 제품 담당 부사장 코너 헤이스는 파이낸셜 타임스와의 인터뷰에서 이러한 프로필이 일반 사용자 계정과 매우 유사하게 작동할 것이라고 말했습니다.

그는 사용자가 “바이오와 프로필 사진을 가지고 플랫폼에서 AI 기반의 콘텐츠를 생성하고 공유할 수 있게 될 것”이라고 덧붙였습니다.

메타, AI 생성 텍스트-비디오 도구 출시 계획

메타는 향후 2년 동안 AI 개발에 대한 투자를 우선시하여 플랫폼을 더 매력적이고 재미있게 만들 것입니다. 현재 사용자는 메타의 AI를 사진 편집이나 AI 어시스턴트 생성에 사용할 수 있습니다.

또한 메타는 콘텐츠 크리에이터가 AI 생성 비디오에 참여할 수 있도록 하는 새로운 텍스트-비디오 도구 출시를 계획하고 있습니다.

그러나 전문가들은 AI 사용자의 수가 빠르게 증가하는 것에 대해 우려하고 있습니다. 그들은 이러한 AI 계정이 허위 정보를 확산하는 것을 막기 위해 강력한 보호 조치가 필요하다고 믿습니다.

빌리언 달러 보이(Billion Dollar Boy)의 전 마케팅 책임자이자 이전에 메타의 크리에이터 이노베이션 팀장을 지낸 베키 오웬은 “강력한 안전장치가 없으면 플랫폼은 이러한 AI 기반 계정을 통해 허위 서사를 증폭시킬 위험이 있다”고 경고했습니다.

그녀는 또한 플랫폼에 AI 프로필이 너무 많아져 진정성 있는 콘텐츠가 줄어들 것을 우려합니다. 오웬이 지적했듯이 AI 페르소나는 실제 삶의 경험이나 감정이 없으며 인간 크리에이터보다 훨씬 덜 공감됩니다.

메타 대변인은 AI 도구의 이점을 폭스 비즈니스에 지적했습니다. 그는 AI 스튜디오를 통해 누구나 자신의 관심사에 기반한 AI 캐릭터를 생성하고 소유할 수 있다고 말했습니다. 이러한 캐릭터는 요리 돕기, 패션 조언 제공, 일상적인 격려 제공 등 “실용성, 재미 또는 지원”을 위해 사용될 수 있습니다.

동시에 메타 CEO 마크 주커버그는 4월 AI 기술의 잠재력을 완전히 실현하는 데 몇 년이 걸릴 수 있다고 말했습니다. 그는 “초기 징후가 매우 긍정적”이라며 이는 회사와 투자자 모두에게 현명한 투자라고 믿습니다.