Meta, 프라이버지 및 사회적 위험 평가를 위해 AI 사용 계획 발표

Meta Platforms는 프라이버지 및 사회적 위험을 평가하기 위해 인공지능을 사용할 계획입니다. 수년간 회사는 새로운 제품 및 기능과 관련된 위험을 조사하기 위해 인간 평가자를 고용해 왔지만, 이번 새로운 업데이트로 상황이 달라질 예정입니다.

내부 대화 및 문서에 따르면 Meta는 모든 위험 평가의 90%를 자동화할 계획입니다. 이는 회사의 알고리즘, 안전 기능, 그리고 Meta 플랫폼 전반에 걸쳐 콘텐츠 공유 방식 변경과 관련된 중요한 업데이트에 대한 측면이 대부분 인공지능 기반 시스템에 의해 승인된다는 것을 의미합니다. 또한 이러한 변경 사항이 더 이상 플랫폼 변경이 예상치 못한 영향을 미치거나 오용될 수 있는 방법에 대해 논의하도록 임무가 부여된 직원들의 검토 대상에서 제외된다는 것을 의미합니다.

Meta는 AI 기반 검토 시스템으로 전환할 계획

Meta 내부 소식통에 따르면, 이 개발은 제품 개발자들에게 앱 업데이트와 기능을 출시할 충분한 시간을 제공함으로써 승리로 간주되고 있습니다. 그러나 여전히 회사 내부에서는 상황이 얼마나 복잡한지에 대한 우려가 있으며, AI가 Meta의 앱에 대해 복잡한 결정을 내리는 것이 실제 피해로 이어질 수 있다고 지적했습니다. 이러한 편견은 전직 및 현직 직원 모두에게 공유되었습니다.

"이 프로세스가 기능적으로 더 많은 것이 더 빠르게 출시되고, 더 엄격한 검토와 반대 의견이 적어짐을 의미한다면, 이는 더 높은 위험을 생성하는 것입니다."라고 회사의 보복을 두려워하여 익명을 요청한 전 Meta 임원은 말했습니다. "제품 변경의 부정적 외부 효과는 세계에서 문제가 발생하기 전에 예방될 가능성이 적어집니다."

최근 성명서에서 Meta는 사용자 프라이버지를 지원하기 위해 수십억 달러를 투입했다고 언급했습니다. 또한 회사는 2012년부터 연방거래위원회(FTC)의 감시를 받아왔으며, 해당 기관은 회사와 사용자 개인 정보 처리 방식에 대한 합의를 도출했습니다. 그 결과, 전직 및 현직 Meta 직원들에 따르면 제품 프라이버지 검토가 항상 필요했습니다.

성명서에서 회사는 제품 위험 검토 변경이 의사 결정을 간소화하는 데 도움이 될 것이라고 덧붙이며, 여전히 새로운 및 복잡한 문제에 대해 인간 전문 지식을 활용하고 있다고 언급했습니다. Meta는 또한 현재 저위험 결정만 자동화되고 있지만, NPR이 검토한 내부 문서에 따르면 Meta는 AI 안전, 청소년 위험, 그리고 허위 정보 및 폭력적 콘텐츠와 같은 항목을 담당하는 '무결성'이라는 또 다른 카테고리를 포함하여 민감한 측면의 검토 자동화를 모색해 왔다고 밝혔습니다.

이전 시스템에서는 제품 및 기능 업데이트가 대중에게 출시되기 전에 먼저 위험 평가자에게 전달되었습니다. 그러나 새로운 프로세스 작동 방식을 보여주는 슬라이드에 따르면, 제품 팀은 프로젝트에 대한 설문지 완료 후 즉시 결정을 받게 됩니다. AI 기반 결정은 여러 위험 영역과 이를 해결하기 위한 요구 사항을 식별합니다. 이러한 프로젝트 출시 전, 제품 팀은 요구 사항이 충족되었는지 확인합니다.

새로운 시스템이 강조하는 점은 Meta 제품을 구축하는 엔지니어들이 위험에 대한 판단을 내려야 한다는 것입니다. 슬라이드에 따르면, 새로운 위험이 포함되거나 제품 팀이 추가 피드백이 필요한 경우, 프로젝트는 인간이 수행하는 수동 검토를 받게 됩니다.

그러나 2022년까지 Meta 혁신 담당 전 임원인 Zvika Krieger는 제품 매니저와 엔지니어들이 프라이버지 전문가가 아니라고 언급했습니다. "대부분의 제품 매니저와 엔지니어는 프라이버지 전문가가 아니며, 이는 그들의 업무 초점이 아닙니다. 이는 그들이 주로 평가받는 항목이 아니며, 우선순위를 두도록 인센티브가 제공되는 항목도 아닙니다."라고 그는 말했습니다. 그는 또한 이러한 자가 평가 중 일부가 중요한 위험을 놓치는 연습이 되었다고 덧붙였습니다.