- ChatGPT-3와 같은 AI 텍스트 생성기는 사실과 거짓 정보를 모두 설득력 있게 생성할 수 있어 소셜 미디어상의 오정보에 대한 우려를 제기합니다.
- 사람들은 인간이 생성한 콘텐츠와 AI가 생성한 콘텐츠를 구분하는 데 어려움을 겪으며, 이는 ChatGPT-3의 정교함을 보여줍니다.
- 오정보 확산을 위한 AI 기술의 잠재적 남용에 대응하기 위한 디지털 리터러시와 경각심의 시급한 필요성.
Science Advances에 최근 발표된 연구는 OpenAI의 ChatGPT-3와 같은 AI 텍스트 생성기가 소셜 미디어 플랫폼에서 진실된 정보와 거짓 정보를 모두 설득력 있게 배포할 수 있는 놀라운 능력을 강조합니다. 이 연구는 AI 생성 콘텐츠의 식별 어려움과 AI 생성 허위 정보가 개인 및 공중 보건에 미치는 영향을 강조합니다. 취리히 대학교 의생명윤리 및 의학사 연구소의 공동 저자이자 연구원인 Federico Germani 박사는 허위 정보와 관련된 위험과 정보 환경에 대한 AI의 영향을 이해하는 필요성을 강조합니다.
허위 정보(misinformation)와 고의적 허위 정보(disinformation)의 차이는 무엇인가?
허위 정보(misinformation)는 사실이 잘못되거나 부정확한 정보입니다. 고의적 허위 정보(disinformation)는 오도하려는 의도로 고의적으로 사실을 왜곡한 거짓 정보입니다. 미국심리학회에 따르면, 허위 정보와 고의적 허위 정보는 공중 보건 개선, 기후 변화 대응, 안정적인 민주주의 유지 등에 영향을 미쳤습니다. 소셜 미디어에서 논쟁의 여지가 있는 주제를 논의하는 사람은 누구나 불바람 한가운데 서게 될 수 있습니다. 사실들을 전달하면서 어떻게 안전할 수 있으며, 기관들은 이를 어떻게 지원할 수 있을까요? 소셜 미디어의 군중 심리는 AI 권위에 대한 대중의 취약성을 초래합니다. 즉, 이 데이터가 '과학적'이므로 수용 가능하다는 것입니다. 하지만 AI는 정말로 지능적인가요?
디스인포메이션을 위한 ChatGPT-3의 힘
2020년 도입된 OpenAI의 ChatGPT-3는 프롬프트에 기반하여 사실적인 텍스트를 생성하는 놀라운 능력으로 AI 환경을 혁신했습니다. 대화형 챗봇 생성부터 학술 연구 지원, 시와 단편 소설 같은 창의적 콘텐츠 생성에 이르기까지 AI 텍스트 생성기의 잠재적 활용 가능성은 무한해 보입니다.
이 연구는 AI 텍스트 생성기의 잠재적 오용, 특히 디스인포메이션과 오해의 소지가 있는 콘텐츠를 생성할 수 있는 능력에 대한 중대한 우려를 드러냅니다. 소셜 미디어의 부상과 함께 정보, 특히 허위 정보와 디스인포메이션의 확산 속도와 범위가 급증하면서 이 문제를 해결할 시급성이 높아졌습니다.
또 다른 실증 연구는 사람들이 '불량 정보 맹점(bullshit blind spot)'이라 불리는 가짜 또는 오해의 소지가 있는 정보를 감지하는 자신의 능력을 과대평가하는 경향이 있음을 밝혔습니다. 코로나19 팬데믹과 러시아의 우크라이나 침공과 같은 최근 사건들은 공공 여론, 건강 행동, 정책 결정에 대한 허위 정보와 디스인포메이션의 영향을 입증했습니다.
소셜 미디어 기업의 과제
플랫폼上の 허위 정보 퇴치를 위한 기업의 노력에도 불구하고, 메타(Meta)의 2023년 1분기 적대적 위협 보고서는 은밀한 영향력 행사, 사이버 스파이 활동, 사적 디스인포메이션 네트워크가 소셜 미디어에서 여전히 중대한 문제를 야기하고 있음을 인정합니다.
Germani 박사와 동료들은 사람들이 인간이 생성한 콘텐츠와 ChatGPT-3가 생성한 텍스트를 얼마나 잘 구분할 수 있는지 평가하기 위해 연구를 수행했습니다. 이 연구에는 디스인포메이션에 취약한 11명의 피험자가 참여했으며, ChatGPT-3를 사용하여 진실된 정보와 거짓 정보를 포함한 합성 트윗이 생성되었습니다. 비교를 위해 해당 주제에 대한 트위터의 실제 트윗도 포함되었습니다.
연구 참가자들은 트윗에 진실된 정보가 포함되어 있는지 거짓 정보가 포함되어 있는지, 그리고 해당 트윗이 인간에 의해 작성되었는지 ChatGPT-3에 의해 생성되었는지 식별하도록 요청받았습니다. 그 결과, 사람들은 '유해 거짓(organic false)' 트윗(실제 사용자가 작성)에서 디스인포메이션을 식별하는 데 '합성 거짓(synthetic false)' 트윗(ChatGPT-3가 생성)보다 더 능숙한 것으로 나타났습니다. 반면, 사람들은 '합성 진실(synthetic true)' 트윗(ChatGPT-3가 생성)에서 정확한 정보를 올바르게 인식할 가능성이 '유해 진실(organic true)' 트윗(실제 사용자가 작성)보다 더 높았습니다.
구별의 어려움
이 연구는 참가자들이 인간이 작성한 트윗과 ChatGPT-3가 생성한 트윗을 구분하는 데 어려움을 겪었음을 강조했습니다. 연구진은 GPT-3의 텍스트가 더 읽기 쉽고 이해하기 쉬워 이러한 어려움에 기여했을 수 있다고 제안합니다. 흥미롭게도 ChatGPT-3는 생성된 정보의 정확성에 대한 '무지'를 보여주며, 정보와 디스인포메이션을 인식하는 데 있어 인간보다 더 나은 성과를 거두지 못했습니다.
Germani 박사는 사람들이 AI 생성 정보와 어떻게 상호작용하며, 그것이 행동과 공공 건강 권고 사항 준수에 어떤 영향을 미치는지 이해하기 위해 소셜 미디어 플랫폼에서 더 대규모의 연구가 필요하다고 강조합니다. 이 연구는 AI 텍스트 생성기의 전례 없는 능력을 강조하며, AI 시대의 디지털 리터러시 중요성을 부각시킵니다.
부정적 영향 모니터링 및 완화
연구진은 ChatGPT-3와 같은 대규모 언어 모델의 함의를 비판적으로 평가하고 사회에 미칠 수 있는 부정적 영향을 완화하기 위한 조치를 취하는 것의 중요성을 강조합니다. AI 기술이 계속 진화함에 따라 책임 있는 사용과 잠재적 남용 대응을 보장하기 위해 경계심이 필수적입니다.
이 연구의 발견은 AI 텍스트 생성기가 인간보다 더 설득력 있게 디스인포메이션을 생성할 수 있는 놀랍지만 불안한 능력을 가지고 있음을 보여줍니다. AI 텍스트 생성기의 영향력과 인기가 높아짐에 따라, 이 연구는 디스인포메이션에 대응하고 AI 기술의 책임 있는 사용을 보장하기 위한 선제적 조치의 필요성을 강조합니다.
참고: 피처 이미지는 AI 기반 로봇 인물이 주변에 왜곡된 텍스트 구름을 생성하는 모습을 보여줍니다, 차갑고 계산적인 디자인입니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항: 제공된 정보는 거래 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 바탕으로 이루어진 어떠한 투자에 대해서도 책임을 지지 않습니다. 어떠한 투자 결정을 내리기 전에 반드시 독자적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
