민주당 소속 상원의원 3명은 금요일 애플과 구글에 서한을 보내 일론 머스크가 사용자의 동의 없이 노골적인 이미지를 제작 및 공유하거나 아동 성학대 관련 자료를 유포하는 행위를 중단할 때까지 X와 Grok 앱을 앱스토어에서 삭제할 것을 요구했습니다.
오리건주 상원의원 론 와이든, 매사추세츠주 상원의원 에드 마키, 뉴멕시코주 상원의원 벤 레이 루한은 애플 CEO 팀 쿡과 구글 CEO 순다르 피차이에게 서한을 보내 “일론 머스크 애플 CEO가 이러한 불안하고 불법적인 활동에 대해 조치를 취할 때까지 앱 스토어에서 X와 Grok 앱을 즉시 삭제하라”고 요구했다
상원의원들은 기술 기업들이 이 문제를 외면하지 말라고 경고했습니다. "X의 심각한 행태를 못 본 척하는 것은 여러분의 콘텐츠 검열 관행을 조롱하는 행위가 될 것입니다."라고 그들은 밝혔습니다 . 또한 아무런 조치를 취하지 않는 것은 "앱 스토어가 사용자가 앱을 직접 휴대전화에 다운로드하는 것보다 더 안전한 사용자 경험을 제공한다는 여러분의 주장을 공개적으로나 법정에서 약화시킬 것"이라고 덧붙였습니다.
딥페이크 악용이 만연해 우려를 낳고 있다
Grok과 X를 동의 없이 자신의 사진을 이용한 딥페이크 성적인 콘텐츠를 제작하고 공유해 왔습니다
런던 타임스는 홀로코스트 생존자의 친척이 "디지털 방식으로 옷이 벗겨진" 충격적인 사례를 보도했는데, 이는 사람들이 그록에게 아우슈비츠에서 비키니를 입은 그녀의 사진을 만들라고 지시한 데 따른 것이었다.
이러한 문제로 인해 유럽, 말레이시아, 호주, 인도 정부 관계자들이 조사를 시작했습니다. 연방거래위원회와 법무부는 xAI에 대한 조사 계획 여부를 밝히지 않았습니다.
1월 3일, 머스크와 X는 "그록을 이용해 불법 콘텐츠를 제작하거나 제작을 부추기는 사람은 누구든지 직접 불법 콘텐츠를 업로드하는 것과 동일한 처벌을 받을 것"이라고 밝혔습니다
애플과 구글 모두 앱에 대해 엄격한 규칙을 적용하여 개발자가 사용자가 아동 성학대 및 기타 유해한 자료를 보여주는 이미지를 업로드하고 공유하는 것을 막도록 요구하고 있습니다.
애플 앱스토어는 이전에 부적절한 콘텐츠를 제대로 차단하지 못했다는 이유로 텀블러와 텔레그램 같은 소셜 미디어 및 메시징 플랫폼을 삭제한 바 있습니다.
금요일 보도에 따르면 X는 이제 Grok의 이미지 제작 기능을 유료 구독자에게만 제공하도록 제한했습니다. 그러나 Grok의 별도 앱과 웹사이트에서는 여전히 사용자가 사진이나 동영상 사용 허가 없이도 시스템에 성적 또는 비하적인 이미지를 생성하도록 지시할 수 있습니다.
머스크는 최근 Grok에 대한 변경 사항을 직접 지시했으며 안전 보호 조치를 완화하기를 원했습니다. 보도에 따르면 xAI 안전팀 소속 직원 3명이 머스크의 이러한 요구 이후 퇴사했다고 X 포럼에 게시했습니다.
그록의 행동을 둘러싼 논란은 새로운 것이 아닙니다. 이 챗봇은 이전에도 반유대주의적 콘텐츠를 생성하고 문제 matic 캐릭터를 보여줌으로써 비판을 받은 바 있습니다.
xAI, 논란에도 불구하고 대규모 자금 확보
Cryptopolitan 의 보도와 같이 투자자들로부터 200억 달러를 유치했다고 발표했습니다 . 이번 투자 라운드에는 엔비디아와 시스코 인베스트먼트를 비롯해 과거 머스크에게 투자했던 밸러 에쿼티 파트너스, 스텝스톤 그룹, 피델리티, 카타르 투자청, 아부다비의 MGX, 배런 캐피털 그룹 등이 참여했습니다.
200억 달러라는 금액은 당초 목표였던 150억 달러를 넘어섰습니다. CNBC는 지난 11월 이 투자 유치로 인공지능 스타트업 xAI의 기업 가치가 약 2300억 달러에 달할 것이라고 보도했습니다. xAI가 150억 달러를 원한다는 초기 보도가 나온 후, 머스크는 X 웹사이트에서 해당 보도를 "거짓"이라고 일축했습니다.
엔비디아와 시스코는 모두 xAI와 공급업체이자 파트너로서 협력하고 있습니다.
AI 스타트업들은 2025년에 기업 가치가 엄청나게 높아져 기술 수요를 충족하기 위해 막대한 투자를 유치할 것으로 예상됩니다. 오픈AI는 10월에 66억 달러 규모의 주식 매각을 완료하며 기업 가치가 5천억 달러에 달했습니다. 한 달 후, 앤트로픽은 마이크로소프트와 엔비디아로부터 투자를 유치하며 기업 가치가 약 3천5백만 달러로 상승했습니다.
