메타, AI 생성 캐릭터 및 프로필에 투자 예정…가짜 계정 문제에 대한 우려 제기

메타 AI의 한 임원은 페이스북이 조만간 AI가 생성한 프로필과 사용자 수가 급증하는 현상을 겪을 수 있다고 밝혔습니다.

메타는 작년부터 인공지능 도구를 지속적으로 개선해 왔습니다. 페이스북을 비롯한 다양한 플랫폼에 새로운 AI 제품을 출시했으며, 특히 지난 7월에는 AI 캐릭터 생성 도구를 통해 수십만 개의 캐릭터를 만들어냈습니다.

현재 이러한 AI 캐릭터는 비공개로 운영되지만, 메타는 향후 몇 년 안에 플랫폼의 표준 기능으로 자리 잡을 것으로 예상합니다. 메타의dent 생성형 AI 제품 파이낸셜 타임즈와.

그는 사용자들이 "자기소개와 프로필 사진을 가질 수 있고, AI 기반 콘텐츠를 플랫폼에서 생성하고 공유할 수 있을 것"이라고 덧붙였습니다

Meta는 AI 기반 텍스트-비디오 변환 도구를 출시할 계획입니다

메타는 향후 2년간 AI 개발 투자를 우선시하여 플랫폼을 더욱 매력적이고 재미있게 만들 계획입니다. 현재 사용자들은 메타의 AI 기능을 활용하여 사진 편집이나 AI 비서 생성을 할 수 있습니다.

또한 Meta는 콘텐츠 제작자가 AI가 생성한 영상에 자신의 콘텐츠를 올릴 수 있도록 하는 새로운 텍스트-비디오 변환 도구를 출시할 계획입니다.

하지만 전문가들은 AI 사용자의 수가 급증하는 것에 대해 우려하고 있습니다. 그들은 이러한 AI 계정이 허위 정보를 퍼뜨리는 것을 막기 위해tron보호 조치가 필요하다고 생각합니다.

빌리언 달러 보이의 최고 마케팅 책임자였고 이전에는 메타의 크리에이터 혁신팀을 이끌었던 베키 오웬은 "강력한 안전장치가 없다면 플랫폼은 이러한 AI 기반 계정을 통해 허위 정보를 확산시킬 위험이 있다"고 경고했습니다

그녀는 또한 플랫폼에 AI 프로필이 너무 많아 진정성 있는 콘텐츠가trac것을 우려합니다. 오웬이 지적했듯이, AI 페르소나는 실제 경험이나 감정이 없으며 인간 창작자보다 공감대를 형성하기 어렵습니다.

의 인터뷰에서 AI 도구의 이점을 강조했다 폭스 비즈니스와. 그는 메타의 AI 스튜디오를 통해 누구나 자신의 관심사에 기반한 AI 캐릭터를 만들고 활용할 수 있다고 밝혔다. 이러한 캐릭터는 요리를 돕거나, 패션 조언을 제공하거나, 매일 긍정적인 메시지를 전달하는 등 "실용적, 재미 또는 지원" 목적으로 사용될 수 있다.

한편, 메타의 CEO 마크 저커버그는 지난 4월, 자사의 AI 기술이 가진 잠재력을 완전히 실현하는 데에는 몇 년이 걸릴 수 있다고 언급했습니다. 그는 "초기 징후가 매우 긍정적이기 때문에" 이 투자가 회사와 투자자 모두에게 현명한 투자였다고 믿는다고 밝혔습니다.