사용자들이 소셜 플랫폼에서 AI를 식별하는 데 어려움을 겪음, 연구 결과

노터다임 대학의 팀이 소셜 미디어 조사 분야에서 수행한 연구 프로젝트는 다양한 온라인 플랫폼의 정치적 논의에서 일반 대중이 인공지능과 인간을 구별하는 데 많은 어려움을 겪는다는 것을 발견했습니다. 

맞춤형 마스토돈 플랫폼을 전달 플랫폼으로 사용하는 세 라운드로 나뉜 이 연구는 참가자들이 58%의 시간 동안 AI 봇을 인간으로 오인한다는 것을 나타냅니다.

AI 봇이 정치적 담론에서 인간 경계를 모호하게 함, 연구 

노터다임 대학의 연구 계산 센터의 폴 브렌너 박사의 지도 하에 조사 팀은 GPT4, Llama-2-Chat, Claude 2를 포함하는 생성 네트워크를 기반으로 한 AI 봇을 채택했습니다. 

이 세대의 챗봇은 세계 정세 분야에서 정치적 플레이어로서 사용되도록 다양한 성격으로 설계되었으며, 인간 특성을 더 자주 취하고 다양한 정치적 논의에 참여했습니다.

그것의 아름다움은 각 봇이 개인 경험과 더 넓은 세계 사건 사이의 관계를 그리도록 지시된 캐릭터(세부 프로필과 함께 성격의 출현)를 가지고 있었다는 사실입니다. 

데이터 조작을 위해, 패널이 인간과 봇과 상호작용하고 있다는 것을 이해했음에도 불구하고, 이 샘플 그룹의 약 절반은 인공지능과 실제 인간 사이의 차이를 구별하지 못했습니다. 

이 증거는 AI 봇이 대화 패턴과 관련하여 인간을 매우 가까이 모방할 수 있음을 보여주므로, 허위 정보 홍보에 사용되는 가능성을 높입니다.

허위 정보에서 AI의 역할

폴 브렌너 씨는 이러한 AI 봇의 채택과 그들의 가능한 연쇄 효과, 즉 AI 기반 봇이 여론에 영향을 미치고 허위 정보를 퍼뜨릴 기회를 포함한 문제를 제기했습니다. 

그는 시뮬레이션에서 AI가 매우 효과적이며, 인터넷상의 각 개인이 정보의 원래 출처에 대해 쉽게 속일 수 있다고 설명했습니다.

이 연구에서 또 다른 중요한 강조 측면은 다양한 AI 모델의 평가 과정을 보여주며, 이는 다양한 LLM 간에 정확도율이 거의 변하지 않았다는 것을 보여줍니다. 여기서 우리는 이 사실이 덜 정교한 모델조차도 소셜 미디어 상호작용 시나리오에서 인간과 같은 대화를 만드는 데 충분히 설득력 있을 수 있음을 이해합니다.

따라서 브렌너는 다른 것들 중에서도 AI의 도움을 받아 허위 정보의 확산을 방지하기 위한 다차원적 접근 방식에 대한 자신의 입장을 강조했습니다.

교육 캠페인, 입법 조치, 더 엄격한 소셜 미디어 계정 검증과 같은 이러한 이니셔티브는 모두 서로를 도와이 문제를 완전히 해결하는 데 도움이 될 것입니다. 또한 청소년 AI 영향의 심리적 건강 차원이 고려될 예정이며, 이 영향을 상쇄하기 위한 전략이 개발될 예정입니다.

이 연구 프로젝트는 소셜 네트워크에서 AI 대 온라인 정보 무결성의 불균형을 강조하며, 이 상황에 대처하기 위한 통합 전략의 개발을 필요로 합니다.