Meta의 내부 테스트에서 Muse의 AI 호출 중 일부는 인간trac가 처리했습니다

로이터 통신이 입수한 회사 내부 자료 에 따르면 , 지난주 메타는 직원 절반을 대상으로 콜센터trac업체들이 자사의 AI 에이전트인 뮤즈(Muse)를 통해 요청된 전화 통화 중 일부를 조용히 처리하는 테스트를 진행했습니다

해당 회사는 현재 그 테스트를 중단했습니다.

사람이 직접 전화를 거는 방식은 초기 시험에서 95%~98%의 성공률을 보였습니다

Muse는이메일 전송, 쇼핑, 여행 예약 기능을 자체적으로 제공합니다. 통화 기능을 이용하면 미국 내 업체에 전화를 걸어 미용실 예약을 하거나, 매장에 특정 상품이 있는지 확인하거나, 시공업체로부터 견적을 받을 수trac.

Meta는 8월에 직원들을 대상으로 통화 기능 테스트를 시작했으며, 앱 출시 이후 Muse 사용자들에게 점진적으로 기능을 확대했습니다.

일부 기업은 상담원의 전화를 끊어버렸습니다. 한 직원은 한 보험 회사가 뮤즈가 인공지능이라는 말을 듣자마자 계속 전화를 끊었다고 말했습니다.

지난주, 메타는 직원 절반을 대상으로 "상담원 직접 통화" 기능을 도입했습니다. 직원들은 이 기능을 사용하지 않도록 선택할 수 있으며, 뮤즈는 교육을 받은 상담원에게 요청을 전달하여 상담원이 직접 통화를 진행하고 문제를 해결할 수 있도록 했습니다.

메타 슈퍼인텔리전스 랩의 부사장dent 직원들에게 테스트 결과 사람이 건 전화의 성공률을 95%에서 98%까지 높일 수 있다는 사실이 밝혀졌다고 말했습니다. 하지만 인공지능만으로 건 전화하는 경우는 그만큼 성공률이 높지 않았다고 덧붙였습니다.

케이블 요금 관련 전화 통화에서 인종차별적 발언이 나온 후 해당 정책이 철회되었습니다

직원들은 사용자들이 Muse에 제공하는 민감한 정보가 콜센터trac업체에 유출될 수 있다고 경고했습니다. 일부는 Meta가 출시 당시 강조했던 것처럼 각 Muse 에이전트가 자체적으로 격리된 가상 머신에서 실행된다는 점을 지적했습니다.

뮤즈를 통해 케이블 요금 협상을 진행했던 한 직원은 통화 녹취록을 통해trac가 인종차별적인 발언을 했다는 사실을 알게 됐다고 말했다.

부사장은dent 시작한 것은 실수였으며trac, 메타는 현재 해당 기능을 되돌렸다고 밝혔습니다. 또한 문제의 계약trac는 더 이상 메타 프로젝트에 참여하지 않을 것이라고 덧붙였습니다.

메타 대변인 다니엘 로버츠는 이번 테스트는 메타가 정식 출시 전에 안전 및 개인정보 보호 조치를 마련하기 위해 피드백을 수집하기 위한 것이라고 밝혔습니다.

로버츠는 "우리는 가맹점들과 협력하여 이 통화 기능의 잠재력을 지속적으로 개선하고 있으며, 준비가 완료되고 적절한 고지가 이루어진 후에만 출시할 것입니다." 라고 말했습니다.

Muse는 250만 다운로드를 돌파했습니다. 출시 이후 Meta의 주가는 20% 이상 급등하여 시가총액이 2천억 달러 이상 증가 했습니다.