메타 플랫폼은 인공 지능을 사용하여 개인 정보 및 사회적 위험을 평가할 계획입니다. 수년에 걸쳐 회사는 인간 평가자를 고용하여 새로운 제품 및 기능과 관련된 위험을 조사했지만이 새로운 업데이트를 통해 상황이 변경 될 예정입니다.
내부 대화 및 문서에 따르면 Meta는 모든 위험 평가의 90%를 자동화 할 계획입니다. 이는 회사 알고리즘, 안전 기능 및 Meta 플랫폼에서 컨텐츠를 공유 할 수있는 방법에 대한 변경 사항에 대한 중요한 업데이트에 관한 측면이 주로 인공 지능으로 지원되는 시스템에 의해 승인 될 것임을 의미합니다. 또한 이러한 변경 사항은 플랫폼의 변경이 예상치 못한 영향을 미치거나 오용 할 수있는 방법에 대해 논의하는 직원에 의해 더 이상 검토되지 않을 것임을 의미합니다.
Meta는 AI 기반 검토 시스템으로 이동하려고합니다
Meta 내부의 소스에 따르면, 개발은 제품 개발자의 승리로 여겨졌으며, 앱 업데이트 및 기능을 출시 할 수있는 충분한 시간을 제공하기 때문입니다. 그러나 회사 내부에서 상황이 얼마나 까다로운 지에 대한 우려가 여전히 남아 있습니다. 회사가 AI가 메타 앱에 대한 까다로운 결정을 내릴 수있게 해줄 것이라는 점을 지적하면 실제 피해를 입을 수 있습니다. 편견은 전직 직원과 현재 직원 모두가 공유했습니다.
회사의 보복에 대한 두려움 때문에 익명을 요청한 전 메타 경영진은“이 과정이 기능적으로 더 빨리 시작되는 것을 의미하는 한, 더 큰 조사와 반대가 더 높은 위험을 초래한다는 것을 의미합니다. "제품 변화의 부정적인 외부 성은 세계에서 문제를 일으키기 전에 예방 될 가능성이 적습니다."
최근 성명서에서 Meta는 사용자 개인 정보를 지원하기 위해 수십억 달러를 주입했다고 언급했습니다. 이 회사는 또한 2012 년부터 연방 무역위원회의 감시를 받았으며, 대행사는 회사와 사용자의 개인 정보를 처리하는 방법에 대해 회사와 계약을 맺었습니다. 결과적으로, 이전 및 현재 메타 직원에 따르면 제품에 대한 개인 정보 검토가 항상 필요했습니다.
성명서에서, 회사는 제품 위험 검토 변경이 의사 결정을 간소화하는 데 도움이 될 것이라고 덧붙였다. Meta는 또한 위험이 낮은 결정 만 현재 자동화되고 있지만 NPR Meta가 AI 안전, 청소년 위험 및 무결성으로 알려진 다른 범주에 대한 민감한 측면에 대한 검토를 자동화하고 있으며 잘못된 정보 및 폭력 내용을 담당하고 있음을 보여줍니다.
이전 시스템에서 제품 및 기능 업데이트는 먼저 위험 평가자에게 전송되기 전에 대중에게 전송되었습니다. 그러나 새로운 프로세스의 작동 방식을 보여주는 슬라이드에 따르면 제품 팀은 프로젝트에 대한 설문지를 작성한 후 즉각적인 결정을 받게됩니다. AI 기반 결정은이를 해결할 수있는 몇 가지 위험한 영역과 요구 사항을 Ify에dent할 것입니다. 이러한 프로젝트가 시작되기 전에 제품 팀은 요구 사항이 충족되었는지 확인합니다.
새로운 시스템의 하이라이트는 메타 제품을 구축하는 엔지니어가 위험에 대해 판단해야한다는 것입니다. 제품 경우 , 프로젝트에는 인간이 수행하는 수동 검토가 제공됩니다.
그러나 2022 년까지 혁신 전 메타 이사 인 Zvika Krieger는 제품 관리자와 엔지니어가 프라이버시 전문가가 아니라고 언급했습니다. "대부분의 제품 관리자와 엔지니어는 프라이버시 전문가가 아니며 이는 직무의 초점이 아닙니다. 주로 평가되는 것이 아니며 우선 순위를 정하는 인센티브가 아닙니다." 그는 또한 이러한 자기 평가 중 일부는 중요한 위험을 놓치는 운동이되었다고 덧붙였다.
키 차이 와이어 : 비밀 도구 암호화 프로젝트는 미디어 커버리지를 보장하는 데 사용됩니다.
