홍(Hong)이라는 이름만 알려진 한 남성이 중국 간수(Gansu) 지역에서 ChatGPT 서비스를 사용하여 가짜 뉴스를 생성한 혐의로 체포되었습니다. 홍의 체포는 중국 기술 거대 기업 바두(Baidu)가 호스팅하는 인기 있는 블로그 사이트에 기차 추락 사고와 관련된 근거 없는 기사가 게재된 후 조사 과정에서 발견되면서 이루어졌습니다. 사이버 보안 전문가들은 적어도 20개의 계정이 동시에 가짜 뉴스 기사를 게시한 것을 발견했고, 이로 인해 홍이 체포되었습니다.
중국은 소셜 미디어 사용에 대해 세계에서 가장 엄격한 법률 중 일부를 보유하고 있으며, 홍은 “인공지능 기술을 사용하여 허위 및 부실 정보를 조작했다”는 이유로 “분쟁을 일으키고 난동을 부리는 행위”에 대한 조례 위반, 즉 인터넷상 가짜 뉴스와 루머 유포를 특정히 다루는 조례에 저촉되어 체포되었습니다. 기소될 경우 홍은 정상적인 법규에 따라 최대 5년의 징역형을 받을 수 있지만, 법원이 이 범죄를 특히 중대한 것으로 간주할 경우 최대 10년까지 선고될 수 있습니다.
현재 ChatGPT 서비스는 중국에서 금지되어 있지만, 가상 사설 네트워크(VPN)를 사용하여 그 사용을 숨길 수 있습니다. 그러나 최근 영어와 만화어 모두에 대한 질문 답변을 학습한 생성형 AI 모델로 발표된 알리바바의 ‘퉁이치엔원(Tongyi Qianwen)’과 같은 국산 AI 서비스는 중국 정부의 승인을 받았습니다. 퉁이치엔원이 ChatGPT와 동일한 창의적 능력을 가질지 여부는 아직 불분명합니다.
AI 기술 오용에 대한 우려 증가
중국에서 강력한 생성형 인공지능 모델의 부재는 특히 ChatGPT와 OpenAI의 GPT API를 기반으로 한 제품의 인기가 폭발적으로 증가한 핀테크 및 암호화폐 거래와 같은 분야에서 국가의 기술 생태계에 냉각 효과를 미칠 수 있습니다. 중국 정부는 인공지능 기술의 사용을 계속 모니터링하고 허위 정보를 퍼뜨리는 사용자를 단속할 가능성이 높습니다.
이 사건은 또한 인공지능 기술의 오용에 대한 우려가 커지고 있음을 보여줍니다. 인공지능은 다양한 산업을 혁신할 막대한 잠재력을 지니고 있지만, 동시에 상당한 위험을 초래합니다. 설득력 있는 가짜 뉴스 기사를 빠르고 쉽게 생성할 수 있는 능력은 미디어와 정부에 대한 대중의 신뢰에 심각한 결과를 초래할 수 있습니다. 인공지능이 계속 발전함에 따라 그 오용을 방지하고 공공의 이익을 위해 사용되도록 하는 효과적인 전략을 개발하는 것이 중요합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
에드워드 호펠레인
에드워드 호펠레인은 공인 콘텐츠 전문가이자 비즈니스 개발자입니다. 블록체인, 암호화폐/NFT, 웹3, 메타버스, 인공지능, UI/UX 등 신기술에 대한 글을 쓰는 것을 즐깁니다. 방대한 블록체인 경험을 바탕으로 복잡한 웹 3 관련 주제를 쉽게 이해할 수 있는 블로그 포스트로 풀어냅니다.
