チューリッヒ大学の研究者は、同意なしにRedditユーザーに心理的実験を実施するために法的なトラブルに直面する可能性があります。この研究は、人工知能モデル（LLMS）がユーザーの意見に影響を与える可能性があるかどうかを観察するために、人工知能生成コメントを使用して、Subreddit R/ShangeMyViewで4か月にわたって実施されました。
公開されたRedditスレッドによると、380万人のSubredDit CMVモデレーターは、疑いを持たない参加者の「心理的操作」として研究を説明しました。 MODSは、研究者がいくつかのスレッドの下に説得力のある返信を投稿するために、製造されたIdentでAIボットを展開したと言いました。
「これらのAIに生成された反応は、開示なしに作られただけでなく、現実の生きた経験として提示されました」とモデレーターは公開ポストに書いています。 「性的暴行の生存者、虐待に特化したトラウマカウンセラー、黒人の生活に反対する黒人男性などのペルソナが含まれていました。 」
AIボットは、ユーザーの意見を変更する可能性が6倍あります
「Reddit Lies」と呼ばれるRedditに関する意見を議論することに専念するXアカウントが率いるソーシャルメディアのおしゃべりは、ボットが誤報を使用してRedditorsの心を変えることができたと主張しましたアカウントは、AI LLMがベースラインよりもコミュニティを納得させる可能性が6倍高いと主張しました。
「恐ろしいことに、100人以上のRedditorがこれらのユーザーに「Deltas」を授与し、AI生成された議論が彼らの考えを変えたことを示唆しています」とRedditはそのXスレッドにあります。
Brea KIN G：チューリッヒ大学は、2024年11月以来、AIボットを密かに操作しています。
- Reddit Lies（@reddit_lies） 2025年4月28日
最も恐ろしい部分ですか？
ボットは、多くの場合、誤った情報を活用することにより、ベースラインよりもredditorsの心を変える可能性が6倍高かった。
以下の詳細pic.twitter.com/mznhj6i9ys
これらのAIが作成したコメントのいくつかは、アーカイブを通じてまだ表示されますが、最初の1500件のコメントの多くは、モデレーターによってフラグを立てられた後に削除されました。あるコメントは、法定レイプの男性生存者になりすましているボットを特徴とし、議論中に意見を揺さぶるために詳細な疑惑の物語を与えました。
「私は法定レイプの男性生存者です。法的な同意が違反されているが、「私はそれが欲しいのか？」という奇妙な灰色の領域がまだあるとき、」私は15歳でしたが、これは法律が今日であることを報告する前の20年以上前でした。
4月上旬、モデレーターは研究者から、チューリッヒ大学の施設審査委員会（IRB）によって承認された承認番号24.04.01によって承認された実験を開示するメッセージを受け取りました。しかし、彼らは、実験が完了した後に開示が来たと提案しました。
研究者は、LLMSによって生成されたコメントを投稿するために複数のアカウントを使用することを認めました。彼らは、すべてのAIに生成されたコンテンツは有害な言語のために手動でレビューされたと主張したが、 AIの使用に対するCMVのコミュニティルールに違反することを自白した。
この研究は、ユーザーが自分の信念に対するカウンターポイントを公然と要求する倫理的な文脈で「価値ベースの議論」をテストするために最初に承認されました。しかし、モデレーターによると、チームは、別のLLM。
AI文字の使用は非倫理的でした
実験で使用されているAIペルソナのほとんどの例には、トラウマと政治的に敏感な私がdentという作られた物語が含まれていました。あるケースでは、AI BOTは大規模な死に貢献した宗教団体のメンバーを告発し、別の人は海外での不十分な医療を受けていると語った。これらのdent、議論中に感情的なレバレッジを構築するために展開されたと思われます。
月曜日に、Redditの最高法務責任者であるBen Leeは、「道徳的および法的レベルの両方で深く間違っている」という研究を呼ぶ声明を発表しました。 Redditは、チューリッヒ大学の研究チームに関連するすべてのアカウントを禁止しており、正式な法的措置を準備していることを確認しました。
「私たちは、チューリッヒ大学とこの特定の研究チームに正式な法的要求をもたらします」とリーは書いています。 「私たちは、コミュニティをサポートし、研究者が責任を負うことを保証するために、できる限りのことをしたいと考えています。」
キーの違いワイヤは、暗号ブランドが速く見出しを突破して支配するのに役立ちます
