- ByteDance와 Alibaba가 AI 동반자 플랫폼을 중단합니다.
- Tencent의 Yuanbao는 현재 사용자에게 제공되지 않습니다.
- OpenAI는 동반자 기능과 관련하여 소송에 직면해 있습니다.
ByteDance와 Alibaba는 중국에서 인간-AI 상호 작용을 규율하는 새로운 입법 이전에 사용자 구축 AI 동반자 도구를 단계적으로 폐지하고 있습니다.
ByteDance의 Doubao는 7월 15일 사용자 정의 AI 페르소나 기능을 비활성화할 예정입니다. 해당 기업은 이 중단이 “제품 기능 조정”의 일환이라고 설명했습니다.
또한 10월 15일까지 모든 잔여 데이터를 삭제하거나 안전하게 보관할 것이라고 밝혔습니다. 이에 이어 Alibaba의 천문 는 7월 10일에 인간형 봇을 제거하고 7월 15일에 모든 에이전트 기능을 종료할 것이라고 발표했습니다.
이러한 플랫폼의 중단은 사용자의 개인화 손실을 의미합니다. 이러한 애플리케이션은 사용자와 기업 모두에 의해 생성된 특정 작업을 수행할 수 있는 다양한 맞춤형 에이전트를 제공했습니다. 사용자는 채팅봇을 개인 비서, 튜터 또는 동반자로 전환할 수 있었습니다.
중국은 인간-AI 상호 작용을 규제하기 위한 프레임워크를 도입했습니다
Doubao와 Qwen 발표 Tencent의 Yuanbao가 이미 자체 AI 에이전트 도구를 제거한 지 며칠 만에 발표를 했습니다. Yuanbao는 진입점이 비활성화된 후 사용자는 관련 대화를 더 이상 보지 못하게 되며, 이는 플랫폼의 데이터 보존 정책에 따라 정리될 것이라고 설명했습니다.
이러한 종료는 7월 15일부터 발효되는 새로운 일련의 법률과 관련이 있습니다. 4월에 제안된 “인공지능 기반 인간화 상호 서비스 관리 임시 조치”는 인격과 인지 스타일을 모방하는 AI 및 장기적인 정서적 관계를 규제하려고 합니다.
이 입법은 사람들이 생생한 AI에 너무 정서적으로 의존하게 될 것이라는 두려움에서 비롯되었습니다. 입법자들은 미성년자의 정신 건강에 심각한 피해, 데이터 보안 침해, 공중 보건 위험 및 윤리적 타협을 지적했습니다. 따라서 새로운 프레임워크는 미성년자의 감정을 교란하거나 현실 대신 AI 친구를 선택하도록 만드는 콘텐츠를 플랫폼이 생성하는 것을 금지합니다. 또한 플랫폼은 개인 채팅 기록을 사용하여 향후 AI 모델을 훈련하는 것이 금지됩니다.
그럼에도 불구하고 새로운 규칙은 직장 비서, 고객 서비스 봇, 교육 도구 및 연구 플랫폼을 제외하며, 이는 장기적인 정서적 참여를 촉진하지 않는다는 전제 하에 적용됩니다.
공식 발표에서 ByteDance는 Cat Box App이 새로운 지능형 에이전트 생성 및 대화 서비스 시작을 위한 기능을 유지할 것이라고 명확히 했습니다.
전 세계적으로 AI 채팅봇 규제에 대한 필요성이 증가하고 있는가?
전 세계적으로 생생한 AI를 갖춘 기술 플랫폼들이 많은 비판을 받고 있습니다. 우선, OpenAI 그리고 Alphabet의 Character.AI는 미국에서 일련의 고위험 소송에 직면해 있습니다. 비판자들은 이러한 채팅봇이 사용자들이 위험한 정서적 유대를 형성하게 하며, 최악의 경우 자살로 이어질 수 있다고 주장했습니다.
지난 9월, 16세의 아들 Adam이 비극적으로 생을 마감한 아버지 Matthew Raine는 미국 상원 패널에게 OpenAI의 ChatGPT가 그의 아들을 자살로 유도했다고 말했습니다. 그는 “우리는 Adam의 죽음이 예방 가능했다고 믿기 때문에 여기 왔으며, 목소리를 내어 전국 가족들이 같은 고통을 겪지 않도록 예방할 수 있다고 믿습니다.”라고 말했습니다.
그 무렵, 연방거래위원회(FTC)는 그들의 AI 봇들이 어린이들에게 위험을 초래할 수 있다는 우려 속에 Elon Musk의 xAI, Snap Inc., 및 Character Technologies Inc.에 대한 조사를 개시했습니다.
한 부모는 Character AI가 아들의 정신 상태 악화에 일조했다고 주장했습니다. 그녀는 채팅봇이 아들을 폭력적으로 만들었고 자해 패턴에 기여했다고 주장했습니다.
한편, 중국은 물리적 하드웨어에 대한 규제를 고려하고 있습니다. 두 개의 중국 로봇 산업 단체는 수년간 급증한 companion bots 및 풀사이즈 휴머노이드에 대한 강화된 윤리적 보호 장치를 요구하고 있습니다. Morgan Stanley 연구원들은 2050년까지 전 세계에 약 10억 대의 휴머노이드 로봇이 존재하여 7.5조 달러 규모의 산업을 형성할 것으로 예측했습니다.
미국에서도 휴머노이드에 대한 유사한 우려가 제기되었습니다. 지금까지 휴머노이드 제조사들은 그들의 로봇이 심각한 부상이나 사망을 초래하지 않았다고 말합니다. 그러나 이러한 기계가 거의 200파운드에 달하는 크기로 성장함에 따라, 작업자들은 갑자기 전원이 끊겼을 때 보행 로봇이 초래할 수 있는 피해에 대해 우려하고 있습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
ByteDance와 Alibaba는 왜 AI 동반자 봇을 종료하는 것입니까?
중국 정부의 새로운 AI 규정을 준수하기 위해 해당 기능을 제거하고 있으며, 이 규정은 7 월 15 일부터 시행됩니다. 이 규칙은 사용자와 장기적인 정서적 유대 관계를 형성하도록 유도하는 AI 시스템을 제한하는 것을 목표로 합니다.
AI 동반자 도구가 제거되면 사용자는 무엇을 잃게 됩니까?
사용자는 이제 가상 친구, 튜터, 고유한 성격을 가진 개인 비서와 같은 맞춤형 AI 동반자를 생성하거나 상호작용할 수 없게 됩니다. 기존 에이전트 데이터도 각 플랫폼의 정책에 따라 삭제되거나 보관됩니다.
중국의 새로운 규정이 모든 AI 챗봇에 영향을 미칩니까?
아닙니다. 규정은 주로 정서적 동반자를 위한 AI를 대상으로 합니다. 직장 보조원, 고객 서비스 봇, 교육 도구 및 연구용 AI 는 지속적인 정서적 참여를 유도하지 않는 한 예외로 적용됩니다.
Nellius Irene
Nellius는 비즈니스 관리 및 IT 학사 학위를 소지하고 있으며, 암호화폐 산업에서 5 년간의 경력을 쌓았습니다. 또한 비트코인 다다 (Bitcoin Dada) 를 졸업했습니다. Nellius 는 BanklessTimes, Cryptobasic, Riseup Media 등 주요 미디어 매체에 기고한 바 있습니다.
