- 세 명의 민주당 상원의원은 일론 머스크가 불법적인 선정적 콘텐츠 생성 문제를 해결할 때까지 애플과 구글이 X와 Grok 앱을 내려줄 것을 요구하고 있습니다.
- 이 앱들은 사용자들이 동의 없이 성적인 이미지를 생성할 수 있도록 허용해 왔으며, 이는 국제적인 규제 당국의 조사를 촉발시켰습니다.
- xAI 이번 주 200억 달러를 모금했지만, 세 명의 안전팀 구성원들이 머스크의 요구에 따라 사임한 것으로 알려졌습니다.
민주당 상원 의원 3명은 금요일 서한을 보내 일론 머스크가 동의 없이 명시적인 이미지를 생성하고 공유하는 행위와 아동 성학대 관련 자료를 중단할 때까지 애플과 구글이 앱 스토어에서 X 및 그로크 앱을 제거할 것을 요청했습니다.
오리건주의 론 와이든(Ron Wyden) 상원의원, 매사추세츠주의 에드 마키(Ed Markey) 상원의원, 뉴멕시코주의 벤 레이 루한(Ben Ray Luján) 상원의원은 애플의 팀 쿡(Tim Cook) 최고경영자와 구글의 선다 피차이(Sundar Pichai) 최고경영자에게 서한을 보내 “회사의 최고경영자 일론 머스크가 이러한 우려스럽고 불법적인 활동을 해결할 때까지 X 및 그로크 앱을 앱 스토어에서 즉시 제거하라”고 요구했습니다.
상원 의원들은 테크 기업들이 문제를 무시하는 것에 대해 경고했습니다. “X의 명백한 행위에 눈감는 것은 귀하의 모더레이션 관행을 조롱거리로 만들 것이다”라고 그들은 밝혔. 또한 그들은 아무것도 하지 않는 것이 “사용자가 앱을 직접 다운로드하는 것보다 앱 스토어가 더 안전한 사용자 경험을 제공한다는 공공 및 법정에서의 주장을 훼손할 것”이라고 말했습니다.
광범위한 딥페이크 남용에 대한 경보
사용자들은 그로크(Grok)와 X를 통해 사람들이 자신의 이미지가 이러한 용도로 사용됨에 동의하지 않은 사진들을 사용하여 딥페이크 성적인 콘텐츠를 생성하고 공유해 왔습니다. 그로크는 또한 사람들의 인종이나 배경을 근거로 모욕하는 이미지를 생성하기도 했습니다.
런던 타임즈는 한 홀로코스트 생존자의 친척이 '디지털적으로 벗겨졌다'고 묘사된 사례를 보도했습니다. 이 사건은 사람들이 Grok에게 아우슈비츠에서 비키니를 입은 그녀의 사진을 만들어달라고 요청하면서 발생했습니다.
이러한 문제들은 유럽, 말레이시아, 호주, 인도의 정부 당국자들로부터 조사를 촉발했습니다. 연방거래위원회(FTC)와 법무부는 xAI를 조사할 계획이 있는지 여부를 밝히지 않았습니다.
1월 3일, 머스크와 X는 “누구든 불법적인 콘텐츠를 만들기 위해 그로크를 사용하거나 프롬프트를 입력하면 불법적인 콘텐츠를 업로드하는 것과 동일한 결과를 겪게 될 것”이라고 밝혔습니다.
애플과 구글 모두 앱 개발자에게 아동 성학대 및 기타 유해한material을 보여주는 이미지를 업로드하고 공유하는 것을 차단하도록 요구하는 엄격한 규칙을 가지고 있습니다.
애플 앱 스토어는 이전에 부적절한 콘텐츠를 적절히 차단하지 않은 이유로 텀블러(Tumblr)와 텔레그램(Telegram)과 같은 소셜 미디어 및 메시징 플랫폼을 제거한 바 있습니다.
금요일 보도에 따르면 X는 이제 그로크의 이미지 생성 기능을 유료 구독자에만 제한하고 있습니다. 그러나 그로크의 별도 앱과 웹사이트는 여전히 사용자가 사진이나 비디오 사용에 대한 동의 없이 사람들의 성적이거나 모욕적인 이미지를 생성하도록 시스템에 지시할 수 있게 합니다.
보고서에 따르면 머스크는 최근 그로크에 대한 변경 사항을 직접 지시했으며 안전 보호 장치를 줄이길 원했습니다. xAI의 안전 팀 소속 직원 3명은 머스크가 이러한 요구를 하자 X에 퇴사한다고 게시했습니다.
그로크의 행동에 대한 논란은 새로운 것이 아닙니다. 이 챗봇은 이전에 반유대주의 콘텐츠를 생성하고 문제적인 페르소나를 보여주는 것으로 비판을 받아왔습니다.
논란 속에서도 xAI가 막대한 자금을 유치
비판에 직면한 가운데, xAI는 앞서 크립토폴리탄이 보도한 바와 같이 이번 주 투자자들로부터 200억 달러를 유치했다고 발표했습니다. 이 자금 조달 라운드에는 엔비디아(Nvidia)와 시스코 인베스트먼트(Cisco Investments)는 물론, 머스크를 이전에 지지했던 밸러 이쿼티 파트너스(Valor Equity Partners), 스텝스톤 그룹(Stepstone Group), 피델리티(Fidelity), 카타르 투자청(Qatar Investment Authority), 아부다비의 MGX, 바론 캐피탈 그룹(Baron Capital Group) 등이 포함되었습니다.
200억 달러는 이전 목표였던 150억 달러를 상회합니다. CNBC는 11월 자금 조달이 이 인공지능 스타트업의 가치를 약 2,300억 달러로 평가할 것이라고 보도했습니다. 처음 xAI가 150억 달러를 원한다는 보도가 나왔을 때, 머스크는 X에서 이 이야기를 “거짓”이라고 부른 바 있습니다.
엔비디아와 시스코는 모두 xAI의 공급자이자 파트너로 활동하고 있습니다.
2025년 AI 스타트업들은 기술 수요를 충족하기 위해 막대한 자금을 유치하며 극도로 높은 가치를 기록했습니다. 오픈AI는 10월 5,000억 달러 가치로 66억 달러의 지분 매각을 완료했습니다. 한 달 후, 앤트로픽(Anthropic)은 마이크로소프트와 엔비디아로부터 자금을 유치하며 약 3,500억 달러의 가치를 달성했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
