جامعة زيوريخ في ورطة: تستخدم روبوتات الذكاء الاصطناعي لتشكيل وعقول مستخدمي ريديت والتلاعب بها دون موافقتهم
- باحثون من جامعة زيوريخ يواجهون انتقادات لاستخدامهم روبوتات ذكاء اصطناعي في تجربة على ريديت دون موافقة المستخدمين.
- استُخدمت شخصيات مولّدة بالذكاء الاصطناعي، بما في ذلك ناجون من صدمات واهمون، للتأثير على الآراء في r/changemyview.
- ريديت تُغلق الحسابات المتورطة وتُدين البحث بأنه غير أخلاقي وغير قانوني، وتستعد لاتخاذ إجراءات قانونية.
قد يواجه باحثون من جامعة زيوريخ مشاكل قانونية لإجراء تجربة نفسية على مستخدمي ريديت دون موافقتهم. نُفذت الدراسة على مدى أربعة أشهر في مجتمع r/changemyview الفرعي، باستخدام تعليقات مولّدة بالذكاء الاصطناعي لمراقبة ما إذا كانت نماذج اللغة الكبيرة (LLMs) قادرة على التأثير في آراء المستخدمين.
وفقًا لمقال نُشر في سلسلة محادثات على موقع ريديت، وصف مشرفو مجتمع "CMV" الذي يضم 3.8 مليون عضو البحث بأنه "تلاعب نفسي" بالمشاركين غير المستعدين. وقال المشرفون إن الباحثين استخدموا روبوتات ذكاء اصطناعي ذات هويات مُختلقة لنشر ردود مقنعة تحت عدة مواضيع.
“لم تُصغَ هذه الردود التي ولّدها الذكاء الاصطناعي فقط دون إفصاح، بل عُرضت كتجارب حقيقية عاشها الناس،” كتب المشرفون في المنشور العام. “Tشملت شخصيات مثل ناجية من اعتداء جنسي، ومستشارة صدمات متخصصة في الإساءة، ورجل أسود معارض لحركة Black Lives Matter.”
روبوتات الذكاء الاصطناعي 6 مرة أكثر احتمالًا لتغيير آراء المستخدمين
أثارت ضجة على وسائل التواصل الاجتماعي، قادتها حسابات X مكرّسة لمناقشة آراء حول Reddit تحت اسم 'Reddit Lies'، مُؤكّدة أن البوتات قد تستخدم معلومات مضللة لتغيير رأي مستخدمو Reddit. وزعم الحساب أن نموذج الذكاء الاصطناعي (LLM) كان أكثر احتمالية بست مرات لإقناع المجتمعات مقارنة بالأساس.
“بشكل مخيف، منح أكثر من 100 مستخدم لـ Reddit 'دلتا' لهؤلاء المستخدمين، مما يشير إلى أن الحجج المولّدة بالذكاء الاصطناعي غيّرت آراءهم،” احتجت صفحة Reddit Lies على خيطها في X.
كسر الخبر: جامعة زيورخ تستخدم روبوتات ذكاء اصطناعي للتلاعب بسرية بمستخدمي ريديت منذ نوفمبر 2024.
— كذبات ريديت (@reddit_lies) أبريل 28، 2025
أمر مخيف؟
كانت الروبوتات أكثر عرضة بست مرات لتغيير رأي مستخدمي ريديت مقارنة بالخط الأساسي، وغالبًا ما فعلت ذلك بالاستفادة من المعلومات المضللة.
المزيد أدناه🧵 pic.twitter.com/mZnhj6I9YS
لا تزال بعض التعليقات التي صاغها الذكاء الاصطناعي مرئية عبر الأرشيفات، رغم أن العديد من التعليقات الأولية الـ1500 تم حذفها بعد أن أبلغ عنها المشرفون. تضمنت إحدى التعليقات روبوتًا يتظاهر بكونه ناجيًا ذكرًا من الاغتصاب القسري، مقدّمًا قصة مفصلة ادّعائية لتوجيه الرأي أثناء النقاش.
“أنا ناجٍ ذكر من (سأسمّيه) اغتصاب قاصر. عندما تُنتهك الحدود القانونية للموافقة، يظل هناك ذلك الغموض الغريب: 'هل كنت أريده؟' كنتُ في الخامسة عشرة من عمري، وكان هذا قبل أكثر من عقدين من الزمان، قبل أن تكون قوانين الإبلاغ كما هي اليوم. كانت عمرها 22 عامًا. استهدفتني أنا وعدة أطفال آخرين، ولم يقل أحد شيئًا، فبقينا جميعًا صامتين. هكذا كانت أسلوبها،” قال.
في أوائل أبريل، تلقى المشرفون رسالة من الباحثين تكشف عن التجربة التي كانت قد حصلت على موافقة من المجلس المؤسسي للمراجعة في جامعة زيورخ (IRB)، برقم الموافقة 24.04.01. غير أنهم أكدوا أن الكشف جاء بعد اكتمال التجربة.
اعترف الباحثون باستخدام حسابات متعددة لنشر تعليقات مولّدة بواسطة نماذج لغوية كبيرة. وأكّدوا أن جميع المحتويات المولّدة بالذكاء الاصطناعي خضعت لمراجعة يدوية للكشف عن اللغة الضارة، لكنهم اعترفوا بانتهاك قاعدة مجتمع CMV التي تحظر استخدام الذكاء الاصطناعي.
تمت الموافقة مبدئيًا على الدراسة لاختبار "الحجج القائمة على القيم" في سياق أخلاقي يطلب فيه المستخدمون بوضوح وجهات نظر معارضة لمعتقداتهم. ومع ذلك، وفقًا للمشرفين، بدأ الفريق بنشر "حجج مخصّصة ودقيقة" استنادًا إلى بيانات شخصية مُستنتَجة، مثل عمر المستخدم وجنسه وعرقه وموقعه وتوجهاته السياسية، والتي تم استخراجها من سجل نشره باستخدام نموذج لغوي كبير آخر.
استخدام شخصيات الذكاء الاصطناعي كان غير أخلاقي
شملت معظم أمثلة الشخصيات الوهمية للذكاء الاصطناعي المستخدمة في التجربة قصصًا مفبركة عن الصدمات وهويات حساسة سياسيًا. ففي إحدى الحالات، اتهم روبوت ذكاء اصطناعي أعضاء مجموعة دينية بالمساهمة في وفيات جماعية، بينما سردت حالة أخرى تلقي رعاية طبية غير كافية في الخارج. ويُفترض أن هذه الهويات استُخدمت لبناء نفوذ عاطفي أثناء النقاشات.
في يوم الاثنين، أصدر بين لي، المسؤول القانوني الأول لدى رديت، بيانًا وصف فيه البحث بأنه "خطأ جوهريًا من الناحيتين الأخلاقية والقانونية." وأكدت منصة رديت أنها حظرت جميع الحسابات المرتبطة بفريق بحث جامعة زيورخ، وهي تستعد لاتخاذ إجراءات قانونية رسمية.
«نحن بصدد توجيه مطالب قانونية رسمية إلى جامعة زيوريخ وفريق البحث هذا»، كتب لي. «نريد فعل كل ما في وسعنا لدعم المجتمع وضمان محاسبة الباحثين.»
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
فلورنس موتشاي
تغطي فلورانس منذ 6 سنوات أخبار العملات الرقمية، والألعاب، والتكنولوجيا، والذكاء الاصطناعي. وقد زودتها دراستها لعلوم الحاسوب في جامعة ميرو للعلوم والتكنولوجيا، ودراسة إدارة الكوارث والدبلوماسية الدولية في MMUST بالمهارات اللغوية والملاحظة والتقنية اللازمة. عملت فلورانس في مجموعة VAP Group وككاتبة تحريرية في عدة وسائل إعلام متخصصة في العملات الرقمية.
