- チューリッヒ大学の研究者たちは、ユーザーの同意なしにReddit実験でAIボットを使用したことで反発を受けています。
- AI によって生成されたペルソナ、包括して捏造されたトラウマの生存者などが、r/changemyview 上で世論を操作するために使用されました。
- Reddit は、関連するアカウントを禁止し、この研究が道徳的かつ法的に誤りであると主張するとともに、法的措置を検討しています。
チューリッヒ大学の研究者たちは、同意なしにRedditユーザーを対象に心理実験を行ったため、法的なトラブルに直面する可能性があります。この研究は、r/changemyview サブレッドで4ヶ月間にわたって行われ、大規模言語モデル（LLM）がユーザーの意見に影響を与えることができるかどうかを観察するために、AIによって生成されたコメントが使用されました。
公開されたRedditスレッドによると、380万人のメンバーを持つサブレッドCMVのモデレーターは、この研究を無邪気な参加者に対する「心理的操作」として説明しました。モデレーターは、研究者が捏造されたアイデンティティを持つAIボットを配備し、複数のスレッドの下で説得力のある返信を投稿したと述べました。
「これらのAI生成の回答は、開示なしに作成されただけでなく、実際の経験として提示されていました」と、モデレーターは公開投稿で記しました。「Thereには、性暴力の生存者、虐待を専門とするトラウマカウンセラー、Black Lives Matterに反対する黒人男性などのペルソナが含まれていました。」
AIボットは6倍の確率でユーザーの意見を変えた
X（旧Twitter）アカウント「Reddit Lies」を中心に、Redditでの意見交換を扱うソーシャルメディア上の議論では、ボットが誤情報を活用してRedditorsの考えを変えた可能性があると主張しました。このアカウントは、AI LLMがベースラインよりも6倍の確率でコミュニティを説得できると主張しました。
「恐ろしいことに、100人以上のRedditorがこれらのユーザーに『デルタ』を授与しており、AIが生成した議論によって彼らの考えが変わったことを示唆しています」と、Reddit LiesはXのスレッドで抗議しました。
速報：チューリッヒ大学は2024年11月以来、AIボットを使用してRedditorsを秘密裡に操作してきました。
— Reddit Lies (@reddit_lies) 4 月 28, 2025
最も恐ろしい部分は？
ボットはベースラインよりも6倍の確率でRedditorsの考えを変え、しばしば誤情報を活用しました。
詳細は以下🧵 pic.twitter.com/mZnhj6I9YS
これらのAIが作成したコメントの一部はアーカイブを通じてまだ表示可能ですが、モデレーターによってフラグが付けられた後、最初の1500件のコメントの多くは削除されました。あるコメントでは、法定強姦の男性生存者を装ったボットが、議論中に世論を動かすために詳細な alleged な物語を提供しました。
「私は男性の（法定強姦と呼ぶことに同意する）生存者です。法的な同意の線が侵害されながらも、『自分がそれを望んでいたのか？』という奇妙なグレーゾーンが残っている場合。私は15歳で、これは20年以上前で、報告法が現在のようではなかった時代のことです。彼女は22歳でした。彼女は私と他の何人かの子供たちを標的にし、誰も何も言いませんでした。私たちは皆沈黙を守りました。これが彼女の常套手段でした」と、それは述べました。
4月初旬、モデレーターは研究者から実験の開示に関するメッセージを受け取りました。この実験はチューリッヒ大学の機関審査委員会（IRB）によって承認されており、承認番号は24.04.01でした。しかし、彼らは、開示が実験完了後になされたことを主張しました。
研究者らは、LLMによって生成されたコメントを投稿するために複数のアカウントを使用したことを認めました。彼らは、すべてのAI生成コンテンツが有害な言語について手動でレビューされたことを主張しましたが、AIの使用に対するCMVのコミュニティルールを違反したことを告白しました。
この研究は当初、ユーザーが自らの信念に対する反論を公然と求める倫理的な文脈において「価値に基づく議論」をテストするために承認されました。しかし、モデレーターによると、チームは別のLLMを使用して投稿履歴からスクレイピングした、ユーザーの年齢、性別、民族、場所、政治的傾向などの推定される個人データに基づいて、「パーソナライズされたおよび微調整された議論」の展開を開始しました。
AIキャラクターの使用は非倫理的だった
実験で使用されたAIペルソナの大多数の例には、トラウマや政治的に敏感なアイデンティティに関する捏造された物語が含まれていました。あるケースでは、AIボットが宗教グループのメンバーを大量死に貢献したと非難し、別のケースでは海外で不十分な医療ケアを受けたという回顧録を語りました。これらのアイデンティティは、議論中に感情的なレバレッジを構築するために配備された supposedly です。
月曜日、Redditのチーフ・リーガル・オフィサーであるベン・リーは、この研究を「道徳的および法的な両方のレベルで深く誤っている」と呼び、声明を発表しました。Redditは、チューリッヒ大学のリサーチチームに関連するすべてのアカウントを禁止し、正式な法的措置を準備中であることを確認しました。
「チューリッヒ大学およびこの特定の研究チームに正式な法的要求を行うために連絡を取っている段階です」と、リーは書きました。「私たちはコミュニティを支援し、研究者に責任を追及することを確実にするために、できる限りのことを行いたいと考えています。」
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
Florence Muchai
フローレンスは過去6年間、暗号資産、ゲーム、テクノロジー、AIに関するニュースを報道してきました。メルウ科学技術大学でのコンピュータ学およびMMUSTでの災害管理と国際外交の学習により、言語能力、観察力、技術スキルを十分に備えています。フローレンスはVAPグループで勤務し、複数の暗号資産メディアハウスで編集者として活躍しました。
