중국 경찰, ChatGPT를 이용해 가짜 뉴스를 유포한 혐의로 남성 체포인공지능(AI)과 관련된 획기적인 사건에서, 중국의 한 남성이 ChatGPT를 사용하여 9명의 사망자가 발생한 열차 충돌 사고에 대한 가짜 뉴스 기사를 조작한 혐의로 체포되었습니다.
중국 dent 에 따라 취해진 첫 번째 강제 조치로 , 첨단 기술 사용을 규제하고 통제하려는 국가의 노력을 보여줍니다.
ChatGPT 가짜 뉴스dent
홍씨로만dent한 남성이 중국 북서부 간쑤성에서 ChatGPT를 이용해 열차dent 에 대한 허위 뉴스 기사를 조작한 혐의로 경찰에 체포됐다.
가짜 기사는 중국 검색 대기업 바이두가 소유한 블로그 플랫폼에 20개 이상의 계정으로 게시되었으며 15,000회 이상의 조회수를 기록했습니다.
홍씨는 플랫폼의 중복 검사를 우회하기 위해 ChatGPT를 사용하여 가짜 뉴스 기사의 약간씩 다른 버전을 생성한 혐의를 받고 있습니다.
미국에 본사를 둔 OpenAI가 개발한 ChatGPT는 생성형 AI 기술을 활용하는 챗봇입니다. 이 기술을 통해 소프트웨어는 사용자의 질문과 요청에 따라 응답을 생성할 수 있으며, 특정 지시사항을 바탕으로 이야기를 만들어낼 수도 있습니다.
ChatGPT는 중국에서 차단되어 있지만, 가상 사설망(VPN)을 통해 접속할 수 있으며, 이를 통해 중국의 인터넷 제한을 우회할 수 있습니다.
ChatGPT와 같은 AI의 인기가 높아지고 잠재적 위험성이 커짐에 따라, 중국 당국은 올해 '심층 합성 기술'을 규제하는 최초의 법률을 도입했습니다
이 법은 인공지능을 이용하여 텍스트, 이미지, 비디오 또는 기타 미디어를 생성하는 것을 포괄하며, 딥러닝 기반 합성 서비스를 통한 가짜 뉴스 유포를 금지합니다.
중국 IT 대기업들의 신중한 접근 방식
ChatGPT가 trac를 얻으며 입소문을 타고 있는 가운데, 중국의 엄격한 검열과 통제가 이루어지는 인터넷 환경은 정부가 중앙 권력에 위협이 될 수 있는 신기술에 대한 법률을 제정하도록 만들었습니다.
결과적으로 중국의 기술 대기업들은 AI 애플리케이션에 신중한 접근 방식을 취해왔으며, ChatGPT와 같은 챗봇의 광범위한 보급을 피하고 특정 사용 사례에 집중해왔습니다.
예를 들어 알리바바는 자사의 인공지능 제품인 통이첸원(Tongyi Qianwen)을 개발 중이며, 이 제품은 궁극적으로 자사의 업무용 커뮤니케이션 소프트웨어인 딩톡(DingTalk)과 스마트 가전 제품 제공업체인 티몰 지니(Tmall Genie)에 적용될 예정입니다.
이러한 전략적 접근 방식은 규제 당국과 정부의 우려에 대한 대응으로 여겨진다.
심층 합성 기술을 규제하는 새로운 법에 따라 홍씨가 체포된 것은 중국에서 인공지능을 오용할 경우 발생할 수 있는 잠재적 결과를 극명하게 보여주는 사례입니다.
기술이 계속 발전함에 따라 중국과 같은 국가들은 인공지능이 제기할 수 있는 잠재적 위협, 특히 가짜 뉴스 및 허위 정보 영역에 대처할 수 있는 지침과 규정을 마련하는 것이 매우 중요합니다.
중국 기술 대기업들이 진행 중인 인공지능 기반 챗봇 및 애플리케이션 개발은 규제 당국과 정부의 우려를 사지 않도록 특정 사용 사례에 초점을 맞춰 신중한 감독 하에 계속될 가능성이 높다.
인공지능 기술이 발전하고 더욱 정교해짐에 따라, 안전하고 신뢰할 수 있는 디지털 환경을 보장하기 위해서는 혁신과 규제 사이의 균형을 맞추는 것이 매우 중요해질 것입니다.
