메타는 자사 플랫폼 전반에 걸쳐 콘텐츠 검열 방식을 대대적으로 개편하고 있습니다. 미국에서 운영하던 제3자 팩트체킹 프로그램을 폐지하고 커뮤니티 노트 시스템을 도입할 예정입니다.
경쟁사인 X(구 트위터)에서 영감을 받은 이 프로그램은 사용자가 허위 게시물을 신고 하고 직접 맥락을 추가할 수 있도록 합니다. 메타는 이른바 "과잉 단속"을 없애고 표현의 자유라는 본래의 취지로 돌아가고자 합니다.
많은 사용자들에게 이번 변화는 더할 나위 없이 반가운 소식입니다. 페이스북, 인스타그램, 스레드 등 메타의 플랫폼들은 지나치게 엄격하다는 비판을 자주 받아왔으며, 무해한 콘텐츠를 검열하고 정치적 토론을 억압하는 경우가 많았습니다.
작년에 매일 수백만 개의 게시물이 삭제되었지만, 회사 측은 이 중 10~20%가 실수였을 가능성이 있다고 인정했습니다. 운영 규모를 고려할 때 이는 엄청난 수치입니다. 메타의 CEO인 마크 저커버그는 회사가 " 목적 확장을 되돌리고 " 사람들이 자유롭게 의견을 표현할 수 있는 공간으로 돌아가고 싶다고 말했습니다.
커뮤니티 노트는 사용자에게 권한을 부여합니다
메타는 더 이상 메모를 작성하거나 관리하지 않으며, 어떤 메모가 공개될지 결정하지도 않습니다. 대신, 사용자들이 신고된 게시물에 메모를 작성하고 평가하게 됩니다. 편견을 방지하기 위해, 메모가 승인되기 전에는 다양한 관점을 가진 사람들의 동의가 필요합니다.
Meta는 다양한 관점이 어떻게 의견 교환에 기여하는지 보여주고, 신뢰를 구축하기 위해 검토 오류 보고를 확대할 예정입니다. 이 서비스는 향후 몇 달에 걸쳐 미국에서 순차적으로 출시될 예정입니다. 페이스북, 인스타그램, Threads에서 이미 신청하여 초기 참여자가 될 수 있습니다.
커뮤니티 노트 기능이 도입되면 현재 메타의 콘텐츠 관리 도구, 특히 사용자가 클릭하기 전까지 게시물을 차단했던 악명 높은 중간 경고창을 대체하게 됩니다. 이러한 경고창은 더 작고 눈에 거슬리지 않는 라벨로 대체되어, 원하는 사용자에게 더 자세한 맥락 정보를 제공할 예정입니다.
2024년 12월, 메타는 매일 수백만 건의 콘텐츠를 삭제했습니다. 이는 전체 게시물의 1%에도 미치지 못하는 수치였지만, 엄청난 양의 오류는 시스템의 결함을 드러냈습니다. 사용자들은 자신들이 "페이스북 감옥"에 갇히거나 게시물이 부당하게 신고당했다고 자주 불만을 토로했습니다.
AI를 활용하여 콘텐츠 검열을 간소화하고 효율성을 높입니다
메타의 대대적인 개편의 핵심은 인공지능입니다. 메타는 그동안 대규모 언어 모델(LLM)을 자사의 콘텐츠 검토 과정에 조용히 통합해 왔습니다.
이러한 AI 시스템은 제재 조치가 취해지기 전에 신고된 콘텐츠에 대한 제2의 의견을 제공합니다. 이는 이미 오류를 줄이고 게시물이 부당하게 삭제되었다고 생각하는 사용자의 이의 신청 절차를 신속하게 처리하는 데 도움이 되었습니다.
AI는 메타의 광범위한 전략에서 핵심적인 부분으로 자리 잡고 있습니다. 1월 1일, 메타는 자사 플랫폼 전반에 걸쳐 AI가 생성한 사용자 프로필과 콘텐츠를 도입할 계획을 발표했습니다. 메타의 생성형 AI 제품 담당dent 코너 헤이즈에 따르면, 이러한 프로필은 실제 사용자처럼 자율적으로 게시물을 작성하고 공유할 것입니다.
이러한 결정은 비판을 불러일으켰지만, 헤이즈는 플랫폼을 더욱 역동적이고 매력적으로 만들기 위한 것이라고 말합니다. 2024년 말까지 6억 명이 넘는 사용자가 매달 메타의 AI 기반 기능을 활발하게 사용할 것으로 예상됩니다. 메신저의 챗봇과 고급 캐릭터 생성 도구는 이미 큰 인기를 얻고 있습니다.
이러한 도구를 통해 사용자는 다른 사람들과 원활하게 상호 작용하는 AI 페르소나를 만들 수 있습니다. 이는 Meta가 자사 플랫폼 전반에 걸쳐 인간과 AI의 상호 작용을 융합하려는 비전을 엿볼 수 있는 부분입니다.
메타의 AI에 대한 재정 및 전략적 집중
생성형 AI 도구는 이미 Meta의 광고 사업에 혁신을 가져왔습니다. 출시 이후 이 도구를 사용하여 1,500만 건 이상의 광고가 제작되었으며, 기업들은 AI를 활용하여 초정밀 타겟팅 캠페인을 구축하고 있습니다.
분석가들은 이러한 도구들이 특히 고객 서비스 분야에서 새로운 수익원을 창출할 수 있다고 믿습니다. 예를 들어, WhatsApp은 AI 기반 기업용 챗봇을 테스트 중이며, 이는 수조 달러 규모의 시장으로 발전할 가능성이 있습니다.
투자자들은 낙관적입니다. 제프리스 애널리스트들은 최근 메타의 AI 기반 성장 전략에 대한 확신을 바탕으로 목표 주가를 주당 715달러로 상향 조정했습니다. 메타 주가는 2024년 한 해 동안 70% 급등하며 S&P 500 지수의 24% 상승률을 크게 앞질렀습니다. 이러한 성과는 메타가 AI 도구를 통해 수익을 창출하고 사용자 참여를 유지하는 능력에 직접적으로 기인합니다.
한편, 마크 저커버그는 인공지능에 대한 투자를 전면적으로 늘리고 있습니다. 최근 컨퍼런스에서 그는 레이밴 스마트 안경과 오리온 증강현실 헤드셋과 같은 실험적인 제품에 생성형 인공지능을 탑재할 계획을 밝혔습니다.
성공적인 사례에도 불구하고, 메타의 AI 전략에는 위험 요소가 존재합니다. 유럽 연합의 규제 장벽으로 인해 데이터 사용 및 투명성에 대한 더욱 엄격한 규칙이 적용되면서 AI 도구의 도입이 지연되고 있습니다. 또한, 비평가들은 AI로 인해 허위 정보와 저품질 콘텐츠가 플랫폼에 넘쳐날 가능성을 경고합니다. AI가 생성한 게시물은 혁신적이지만, 사용자들이 사실과 허구를 구분하기 어렵게 만들 수 있다는 것입니다.
