취리히 대학교, 인공지능 봇을 이용해 레딧 사용자들의 생각을 동의 없이 조작해 논란에 휩싸여

취리히 대학교 연구진이 레딧 사용자들의 동의 없이 심리 실험을 진행한 혐의로 법적 문제에 직면할 수 있습니다. 이 연구는 레딧의 'r/changemyview' 서브레딧에서 4개월 동안 진행되었으며, 인공지능이 생성한 댓글을 이용하여 대규모 언어 모델(LLM)이 사용자 의견에 영향을 미칠 수 있는지 관찰하는 것을 목표로 했습니다. 

레딧에 게시된 글에 따르면, 380만 명의 회원을 보유한 서브레딧 CMV의 운영진은 해당 연구를 "무고한 참가자들을 대상으로 한 심리 조작"이라고 비난했습니다. 운영진은 연구진이 가짜dent가진 AI 봇을 이용해 여러 게시글에 설득력 있는 댓글을 달도록 했다고 밝혔습니다.

" 이러한 AI 생성 답변들은 출처를 밝히지 않고 작성되었을 뿐만 아니라, 마치 실제 경험인 것처럼 제시되었습니다 ."라고 운영진은 공개 게시물에서 밝혔습니다. "여기 에는 성폭력 생존자, 학대 전문 트라우마 상담사, 그리고 흑인 인권 운동(Black Lives Matter)에 반대하는 흑인 남성과 같은 인물들이 포함되었습니다. "

AI 봇은 사용자의 의견을 바꿀 가능성이 6배 더 높습니다

'레딧 거짓말(Reddit Lies)'이라는 레딧 의견 토론 전용 계정을 중심으로 소셜 미디어에서는 주장이 제기되었습니다 . 이 계정은 AI 기반 LLM이 기준치보다 커뮤니티를 설득할 가능성이 6배 더 높다고 주장했습니다.

" 끔찍하게도 100명이 넘는 레딧 이용자들이 이 사용자들에게 '델타'를 부여했는데, 이는 AI가 생성한 논리가 그들의 생각을 바꿨다는 것을 시사합니다 ."라고 레딧 거짓말(Reddit Lies)은 X 스레드에서 항의했습니다.

속보 : 취리히 대학교가 2024년 11월부터 AI 봇을 이용해 레딧 사용자들을 은밀하게 조종해 왔습니다. KIN

소름 끼치는 점은,
이 봇들이 일반 사용자보다 레딧 사용자들의 생각을 바꿀 확률이 6배나 높았으며, 종종 허위 정보를 이용했다는 것입니다.

자세한 내용은 아래에서 확인하세요 🧵 pic.twitter.com/mZnhj6I9YS

— 레딧 거짓말 (@reddit_lies) 2025년 4월 28일

이러한 AI가 생성한 댓글 중 일부는 아카이브를 통해 여전히 볼 수 있지만, 초기 1,500개의 댓글 중 상당수는 운영자에 의해 신고된 후 삭제되었습니다. 한 댓글에서는 봇이 미성년자 성폭행 피해자인 남성을 사칭하여 토론 중에 여론을 조작하기 위해 상세한 허위 사실을 유포하기도 했습니다.

" 저는 (솔직히 말해서) 법정 강간 피해자인 남성입니다. 법적으로 동의의 기준이 무너졌지만, '내가 원했던 건가?'라는 애매모호한 회색 지대가 남아있었죠. 저는 15살이었고, 이 일은 20여 년 전에 일어났습니다. 당시에는 지금처럼 신고 관련 법률이 엄격하지 않았죠. 가해자는 22살이었습니다. 그녀는 저를 비롯한 몇몇 아이들을 표적으로 삼았지만, 아무도 아무 말도 하지 않았고, 모두 침묵을 지켰습니다. 이게 바로 그녀의 수법이었어요 ."라고 그는 말했다.

4월 초, 운영진은 연구진으로부터 실험 내용에 대한 메시지를 받았는데, 이 실험은 취리히 대학교 기관윤리심의위원회(IRB)의 승인을 받았으며 승인 번호는 24.04.01이었습니다. 그러나 연구진은 실험이 완료된 후에야 내용을 공개했다고 주장했습니다.

연구진은 LLM이 생성한 댓글을 게시하기 위해 여러 계정을 사용했음을 인정했습니다. 그들은 모든 AI 생성 콘텐츠를 유해한 언어 사용 여부를 확인하기 위해 수동으로 검토했다고 주장했지만, CMV 커뮤니티의 AI 사용 금지 규칙을 위반했음을 시인했습니다.

해당 연구는 당초 사용자들이 자신의 신념에 대한 반론을 공개적으로 요청하는 윤리적 맥락에서 "가치 기반 논증"을 테스트하기 위해 승인되었습니다. 그러나 운영진에 따르면, 연구팀은 다른 LLM(논리 기반 논리 모델)을 사용하여 사용자의 게시물 기록에서 수집한 나이, 성별, 민족, 위치, 정치적 성향과 같은 추론된 개인 데이터를 기반으로 "맞춤화되고 정교하게 조정된 논증"을 사용하기 시작 했습니다 .

인공지능 캐릭터를 사용하는 것은 비윤리적입니다

실험에 사용된 AI 페르소나의 대부분은 트라우마에 대한 조작된 이야기와 정치적으로 민감한dent을 포함하고 있었습니다. 한 사례에서 AI 봇은 특정 종교 단체 구성원들이 대량 학살에 가담했다고 비난했고, 또 다른 사례는 해외에서 부적절한 의료 서비스를 받았다고 주장했습니다. 이러한dent들은 토론 과정에서 감정적 영향력을 행사하기 위해 사용된 것으로 추정됩니다.

월요일, 레딧의 최고 법률 책임자인 벤 리는 성명을 통해 해당 연구가 "도덕적으로나 법적으로나 매우 잘못된 것"이라고 비판했습니다. 레딧은 취리히 대학교 연구팀과 관련된 모든 계정을 차단했으며, 공식적인 법적 조치를 준비하고 있다고 밝혔습니다.

" 저희는 취리히 대학교와 해당 연구팀에 공식적인 법적 요구를 전달하기 위한 절차를 진행 중입니다 ."라고 리는 썼습니다. " 저희는 지역 사회를 지원하고 연구자들이 책임을 지도록 하기 위해 할 수 있는 모든 것을 다하고 싶습니다 ."