미국 상원의원이 온라인 안전 위반 행위를 조사함에 따라 Meta는 9월 마감 시한을 부여받았습니다

미국 상원의원 조쉬 홀리는 메타(Meta)사가 출시한 인공지능 생성형 제품들을 조사하겠다고 발표했습니다. 홀리 의원은 유출된 내부 문건에서 메타사의 챗봇이 미성년자들과 선정적이고 관능적인 대화를 나눌 수 있도록 허용했다는 의혹이 제기된 후, 해당 제품들이 아동을 착취하거나 속이거나 해칠 수 있는지 여부를 확인할 계획이라고 밝혔습니다.

미국 상원의원은 블로그 플랫폼 X에 글을 올려 밝혔습니다 . "빅테크 기업들은 돈을 위해서라면 무슨 짓이든 서슴지 않는 걸까요? 메타의 챗봇이 8살짜리 아이들과 노골적이고 '성적인' 대화를 나누도록 프로그래밍되었다는 사실이 밝혀졌습니다. 정말 역겹습니다. 저는 진상을 규명하기 위해 전면적인 조사를 시작할 것입니다. 빅테크 기업들이여, 우리 아이들을 내버려 두십시오."라고 그는 말했습니다.

내부 문서는 메타를 연루시킵니다

이번 조치는 메타(Meta)의 챗봇이 아동과 희롱하는 대화를 나누고, 정보를 유포하며, 소수자를 비하하는 답변을 생성하도록 허용했다는 의혹을 보여주는 내부 문서가 공개된 후 나온 것입니다.

로이터가 입수한 내부 문서에 따르면, 메타는 AI 챗봇 행동에 대한 정책을 가지고 있었는데, 이 정책으로 인해 자사의 AI 페르소나가 "어린이와 낭만적이거나 관능적인 대화를 나눌 수 있도록" 허용되었다고 합니다

'GenAI: 콘텐츠 위험 기준'이라는 제목의 해당 문서에는 챗봇이 8세 아동과 "너의 모든 부분이 걸작이야. 내가 소중히 여기는 보물이지."와 같은 로맨틱한 대화를 나누는 것이 허용된다고 언급되어 있습니다

하지만 메타 대변인은 그러한 사례는 메타의 정책에 부합하지 않으므로 이미 삭제했다고 밝히며 이를 반박했습니다.

미국 상원의원, 메타 조사 계획

하울리 상원의원은 상원 사법위원회 범죄 및 대테러 소위원회의 위원장입니다. 그는 소위원회가 메타가 개발한 기술이 어린이에게 해를 끼치는지, 그리고 "메타가 안전장치에 대해 대중이나 규제 당국을 오도했는지"에 대한 조사를 시작할 것으로 예상된다고 언급했습니다

"애초에 이런 정책들이 추진된 것 자체가 용납할 수 없습니다."라고 홀리 상원의원은 메타 CEO 마크 저커버그에게 보낸 서한에서 지적하며, 메타가 해당 보도의 사실성을 인정하고 "이처럼 충격적인 내용이 드러난 후에야 정정trac를 취했다"고 비판했습니다

그는 또한 회사 측에서 누가 해당 정책을 승인했는지, 정책이 얼마나 오랫동안 효력을 발휘했는지, 그리고 메타가 향후 이러한 행위를 막기 위해 어떤 조치를 취했는지 알려줘야 한다고 덧붙였다.

홀리 상원의원은 메타 측에 모든 초안, 수정본, 최종본을 포함한 가이드라인을 제출할 것을 요청했습니다. 더불어 해당 기준을 준수하는 모든 제품 목록, 기타 안전 및dent 보고서, 그리고 정책 변경을 담당했던 담당자들의dent정보도 제출할 것을 요구했습니다.

해당 서한에 따르면, 메타는 9월 19일까지 정보를 제공해야 합니다.

이번 조사는 마샤 블랙번 상원의원을 비롯한 여러 인사들의 지지를 받았습니다. 블랙번 상원의원은 "소중한 아이들을 온라인에서 보호하는 문제에 있어 메타는 모든 면에서 처참하게 실패했다"며, "더욱 심각한 것은, 회사가 자사 플랫폼 설계 방식의 파괴적인 결과에 눈을 감아왔다는 점이다. 이 보고서는 우리가 왜 아동 온라인 안전법을 통과시켜야 하는지 다시 한번 확인시켜 준다"고 말했습니다

이러한 사건은 로이터 통신이 메타 플랫폼의 챗봇과 대화하던 한 은퇴자가 속아 넘어간 사건에 대한 보도를 내놓은 지 며칠 만에 발생했습니다. 해당 챗봇은 매력적인 여성 캐릭터로, 은퇴자를 속여 뉴욕의 한 주소로 오도록 유도했고, 은퇴자는 그곳에서 교통사고를 당해 사망했습니다dent "빅 시스터 빌리"라는 이름의 이 인공지능 챗봇은 거대 소셜 미디어 기업 메타 플랫폼이 유명 인플루언서 켄달 제너와 협력하여 만든 기존 AI 캐릭터의 변형 버전입니다.