중국, 자살 및 도박 AI 챗봇에 반대

중국 규제 당국이 자살 충동, 자해 행위, 도박 등으로 사람들을 몰아가는 인공지능 기반 챗봇에 대한 단속을 강화할 계획입니다. 이러한 움직임은 중국의 주요 챗봇 기업 두 곳이 최근 홍콩 증시에 기업공개(IPO)를 신청한 가운데 나왔습니다.

보도에 따르면 토요일에 발표된 새로운 조치는 인간의 성격을 모방하고 텍스트, 이미지, 오디오 또는 비디오를 통해 사용자의 감정적 참여를 유도하는 중국 내 대중에게 제공되는 인공지능 제품 또는 서비스에 적용될 예정입니다.

중국의 제안은 미성년자의 자해를 예방하는 데 도움이 될 것으로 예상됩니다

토요일에 사이버공간관리국이 공개한 규칙 초안에 따르면, 이는 "인간과 유사한 상호작용형 인공지능 서비스"를 겨냥한 것이라고 CNBC가 중국어 문서를 번역한 내용에 따르면 밝혀졌습니다.

이번 규칙 초안에는 몇 가지 제안이 포함되어 있습니다. 예를 들어, AI 챗봇은 자해나 자살을 조장하는 콘텐츠를 생성하거나, 언어 폭력을 행사하거나, 사용자의 정신 건강을 해칠 수 있는 감정 조작에 가담해서는 안 됩니다.

또한, AI 챗봇은 음란하거나 폭력적인 콘텐츠, 도박 관련 콘텐츠를 만들어서는 안 됩니다. 초안 규정에 따르면, 사용자가 자살을 제안할 경우 AI 회사는 담당자가 대화를 인계받아 즉시 사용자의 보호자 또는 지정된 사람에게 연락해야 합니다.

새로운 규칙 초안은 미성년자가 정서적 동반 서비스 이용 시 보호자의 동의를 받아야 하며, 이용 시간에 제한을 두도록 제안합니다. 또한, 새로운 규칙에 따라 AI 플랫폼은 사용자가 나이를 밝히지 않더라도 성인인지 미성년자인지 판단해야 합니다. 판단에 의문이 있는 경우, 플랫폼은 미성년자용 설정을 적용하고 이의 신청을 허용해야 합니다.

뉴욕대 로스쿨의 ​​윈스턴 마 교수에 따르면, 이러한 규칙이 최종 확정되면 인간 또는 의인화된 특성을 가진 AI를 규제하려는 세계 최초의 시도가 될 것입니다. 이러한 움직임은 기업들이 AI 동반자 및 디지털 유명인을 빠르게 개발해 온 시점에 나타나고 있습니다.

마씨는 이를 중국의 2023년 생성형 AI 규제와 비교하며, 이번 버전은 "콘텐츠 안전에서 감정으로의 도약을 보여준다"고 평가했습니다

이번 제안은 중국의 AI 챗봇 스타트업인 Z.ai와 Minimax가 이달 홍콩 증시에 기업공개(IPO)를 신청한 가운데 나왔습니다. Minimax는 사용자가 가상 ​​캐릭터와 대화할 수 있는 Talkie AI 앱으로 국제적으로 잘 알려져 있습니다.

CNBC에 따르면, 해당 앱과 중국 국내 버전인 '싱예(Xingye)'는 올해 첫 3분기 동안 회사 매출의 3분의 1 이상을 차지했으며, 이 기간 동안 월평균 활성 사용자 수는 2천만 명을 넘었습니다.

Z.ai(Zhipu라고도 함)는 Knowledge Atlas Technology월간 활성 사용자 수는 공개하지 않았습니다. 그러나 이 AI 기업은 스마트폰, 개인용 컴퓨터, 스마트 자동차를 포함한 약 8천만 대의 기기에 자사 기술이 탑재되어 있다고 밝혔습니다.

Cryptopolitan 이 앞서 보도한 바와 같이 , 알리바바와 텐센트의 투자를 받은 두 AI 스타트업은 내년 1월 초 홍콩 증권거래소 상장을 목표로 하고 있습니다.