チューリッヒ大学の研究者たちは、Redditユーザーの同意なしに心理学実験を行ったとして、法的問題に直面する可能性がある。この研究は、r/changemyviewというサブレディットで4ヶ月間にわたり実施され、人工知能（AI）が生成したコメントを用いて、大規模言語モデル（LLM）がユーザーの意見に影響を与えるかどうかを観察した。.
Redditに投稿されたスレッドによると、380万人の会員を抱えるサブレディットCMVのモデレーターたちは、この研究を「何も知らない参加者に対する心理操作」と表現した。モデレーターによると、研究者たちは偽のdentを持つAIボットを配備し、複数のスレッドに説得力のある返信を投稿させたという。.
「これらのAI生成の回答は、個人情報を明かさずに作成されただけでなく、実際の経験に基づいて提示された」と、モデレーターは公開投稿に記した。「性的暴行の被害者、虐待を専門とするトラウマカウンセラー、ブラック・ライブズ・マターに反対する黒人男性といったペルソナが含まれていた。 」
AIボットがユーザーの意見を変える可能性は6倍
Redditで意見を議論することに特化した「Reddit Lies」と呼ばれるXアカウントが主導するソーシャルメディアの議論では、主張。このアカウントは、AI LLMは基準値よりもコミュニティを説得する可能性が6倍高いと主張しました。
「恐ろしいことに、100人以上のRedditユーザーがこれらのユーザーに『デルタ』を与え、AIが生成した議論が彼らの考えを変えたことを示唆した」とReddit LiesはXスレッドで抗議した。
衝撃的KIN：チューリッヒ大学は2024年11月から、AIボットを使ってRedditユーザーを密かに操作していた。
— Redditの嘘（@reddit_lies） 2025年4月28日
最も恐ろしいのは、
ボットがRedditユーザーの考えを変える可能性が、基準値よりも6倍も高かったことだ。その多くは誤情報を利用している。
続きは以下🧵 pic.twitter.com/mZnhj6I9YS
AIが作成したコメントの一部はアーカイブから閲覧可能ですが、最初の1500件の多くはモデレーターによってフラグが付けられて削除されました。あるコメントでは、法定強姦の被害者である男性を装ったボットが、議論中に世論を左右するために詳細な証言を披露していました。.
「私は（そう呼んでもいいが）法定強姦の男性被害者です。法的な合意の境界線は破られているものの、『私はそれを望んでいたのだろうか？』という奇妙なグレーゾーンが残るのです。私は15歳で、これは20年以上前のことで、通報に関する法律が今ほど整っていなかった頃のことです。彼女は22歳でした。彼女は私と他の数人の子供たちをターゲットにしていましたが、誰も何も言わず、皆黙っていました。これが彼女の手口でした」と記事には書かれていた。
4月初旬、モデレーターは研究者から、チューリッヒ大学の倫理審査委員会（IRB）の承認番号24.04.01で承認された実験について開示するメッセージを受け取った。しかし、モデレーターは、開示は実験完了後に行われたと主張した。.
研究者らは、LLMによって生成されたコメントを複数のアカウントで投稿したことを認めた。AIによって生成されたコンテンツはすべて、有害な言葉が含まれていないか手動で審査されていると主張したが、CMVのAI利用禁止に関するコミュニティルールに違反したことを認めた。
この研究は当初、ユーザーが自らの信念に対する反論を公然と求める倫理的な文脈において、「価値観に基づく議論」を検証するために承認されました。しかし、モデレーターによると、研究チームは、別の法学修士（ LLM）。
AIキャラクターの使用は非倫理的だった
実験で使用されたAIペルソナの大半には、トラウマに関する捏造された物語や政治的にデリケートなdentが含まれていました。あるケースでは、AIボットが宗教団体のメンバーが大量死の一因になったと非難し、別のケースでは海外で適切な医療を受けられなかったことを語りました。これらのdentは、討論中に感情的な影響力を高めるために利用されたと考えられています。.
月曜日、Redditの最高法務責任者ベン・リー氏は声明を発表し、この研究は「道徳的にも法的にも重大な誤り」だと述べた。Redditはチューリッヒ大学の研究チームに関連するすべてのアカウントを禁止し、正式な法的措置を準備していることを確認した。
「チューリッヒ大学とこの研究チームに対し、正式な法的要求を提出する手続きを進めています」とリー氏は述べた。「コミュニティを支援し、研究者が責任を負わされるよう、できる限りのことをしたいと思っています。」
