قد يواجه الباحثون في جامعة زيوريخ مشكلة قانونية لإجراء تجربة نفسية على مستخدمي Reddit دون موافقتهم. أجريت الدراسة على مدى أربعة أشهر على SubredDit R/ChangemyView ، باستخدام تعليقات مصطنعة تم إنشاؤها للذكاء لمراقبة ما إذا كانت نماذج اللغة الكبيرة (LLMs) يمكن أن تؤثر على آراء المستخدمين.
وفقًا لخيط Reddit المنشور ، وصف مشرفو CMV Subreddit 3.8 مليون عضو البحث بأنه "التلاعب النفسي" للمشاركين المطمئنين. وقالت وزارة الدفاع إن الباحثين نشروا روبوتات من الذكاء الاصطناعى معdentملفوفة لنشر ردود مقنعة تحت عدة خيوط.
وكتب المشرفون في المنشور العام: " لم يتم تصميم هذه الاستجابات التي تم إنشاؤها بواسطة AI دون الكشف فحسب ، بل تم تقديمها كخبرات حقيقية حية " لقد شملت شخصيات مثل الناجين من الاعتداء الجنسي ، ومستشار صدمة متخصص في سوء المعاملة ، ورجل أسود يعارض حياة السود "
من المحتمل أن تقوم AI Bots 6 مرات بتغيير آراء المستخدمين
وتجادل الثرثرة على وسائل التواصل الاجتماعي ، بقيادة حساب X مخصص لمناقشة الآراء حول Reddit التي أطلق عليها اسم "Reddit Lies" ، أن الروبوتات كان يمكن أن تستخدم المعلومات الخاطئة لتغيير عقول Redditors. ادعى الحساب أن الذكاء الاصطناعي كان أكثر عرضة بست مرات لإقناع المجتمعات أكثر من خط الأساس.
" مرعباً ، أكثر من 100 من الحمراء منحوا" دلتا "لهؤلاء المستخدمين ، مما يشير إلى أن الحجج التي تم إنشاؤها من الذكاء الاصطناعى غيرت رأيهم " ، يحتج رديت على خيط X.
Brea KIN G: تستخدم جامعة زيوريخ روبوتات منظمة العفو الدولية للتلاعب سرا من المحاربين منذ نوفمبر 2024.
- Reddit Lies (@reddit_lies) 28 أبريل 2025
الجزء الأكثر رعبا؟
كانت الروبوتات أكثر عرضة ل 6 مرات لتغيير عقول Redditors من خط الأساس ، وغالبًا ما يكونون عن طريق الاستفادة من المعلومات الخاطئة.
المزيد أدناه 🧵 pic.twitter.com/mznhj6i9ys
لا تزال بعض هذه التعليقات المصنوعة من AI-Cranced مرئية من خلال المحفوظات ، على الرغم من أن العديد من تعليقات 1500 الأولية تمت إزالة بعد أن تم وضع علامة عليها من قبل المشرفين. تميز أحد التعليقات بانتحال شخصية من الذكور الناجي من الاغتصاب القانوني ، مع إعطاء قصة مزعومة مفصلة للتأثير على الرأي أثناء النقاش.
" أنا أحد الناجين من الاغتصاب القانوني (على استعداد للسممي إليه). عندما يتم انتهاك الخطوط القانونية للموافقة ، لكن لا تزال هناك منطقة رمادية غريبة من" هل أردت ذلك؟ " كان عمري 15 عامًا ، وكان هذا قبل أكثر من عقدين من الزمن قبل أن يكونوا ما هم عليه اليوم .
في أوائل أبريل ، تلقى المشرفون رسالة من الباحثين الذين كشفوا عن التجربة ، والتي تمت الموافقة عليها من قبل مجلس المراجعة المؤسسية بجامعة زيوريخ (IRB) ، رقم الموافقة 24.04.01. ومع ذلك ، فقد دعوا إلى أن الكشف جاء بعد اكتمال التجربة.
اعترف الباحثون باستخدام حسابات متعددة لنشر التعليقات التي تم إنشاؤها بواسطة LLMS. لقد أصروا على أن جميع المحتوى الذي تم إنشاؤه من الذكاء الاصطناعى قد تمت مراجعته يدويًا للغة الضارة ، لكنهم اعترفوا بانتهاك حكم مجتمع CMV ضد استخدام الذكاء الاصطناعي.
تمت الموافقة على الدراسة في البداية لاختبار "الحجج المستندة إلى القيمة" في سياق أخلاقي حيث يطلب المستخدمون بشكل علني نقاط مضادة لمعتقداتهم. ومع ذلك ، وفقًا للمشرفين ، بدأ الفريق في نشر "الحجج الشخصية والمصابة بالضبط" استنادًا إلى البيانات الشخصية المستخلصة ، مثل عمر المستخدم والجنس والعرق والموقع والميول السياسية ، التي تم كشطها من تاريخ نشرها باستخدام LLM .
كان استخدام أحرف الذكاء الاصطناعى غير أخلاقي
dentمعظم الأمثلة على شخصيات الذكاء الاصطناعى المستخدمة في التجربة قصصًا ملفقة عن الصدمة وحساسة سياسية. في إحدى الحالات ، اتهم أحد أفراد منظمة العفو الدولية الأعضاء بمجموعة دينية من المساهمة في الوفيات الجماهيرية ، بينما روى آخر تلقي رعاية طبية غير كافية في الخارج. من المفترض أن يتم نشر هذهdentلتربية النفوذ العاطفي أثناء النقاش.
في يوم الاثنين ، أصدر كبير المسؤولين القانونيين في Reddit بن لي بيانًا يطلق عليه البحث "مخطئ للغاية على كل من المستوى الأخلاقي والقانوني". رديت أنها حظرت جميع الحسابات المرتبطة بفريق الأبحاث بجامعة زيوريخ وأنه يعد اتخاذ إجراءات قانونية رسمية.
وكتب لي: " نحن بصدد التواصل مع جامعة زيوريخ وفريق الأبحاث هذا مع مطالب قانونية رسمية " نريد أن نفعل كل ما في وسعنا لدعم المجتمع والتأكد من أن الباحثين محاسبون ."
سلك الفرق الرئيسي : تستخدم مشاريع التشفير السرية للأداة للحصول على تغطية إعلامية مضمونة
