تكثف الجهات التنظيمية الصينية جهودها لمراقبة المعلومات المضللة المتعلقة بالذكاء الاصطناعي في التلاعب بالسوق

تعهدت هيئة الرقابة على الأوراق المالية في الصين بتحسين أدائها في مراقبة المعلومات المزيفة في سوق الأسهم والتعاون مع الشرطة وهيئات تنظيم الفضاء الإلكتروني لتحقيق العدالة للمذنبين بنشر الأخبار الكاذبة. 

كانت الأخبار الكاذبة موجودة في الماضي، ولا تزال تُلحق أضرارًا جسيمة حتى اليوم. إلا أن انتشار الذكاء الاصطناعي سهّل انتشارها أكثر من أي وقت مضى. ووفقًا لصحيفة "سيكيوريتيز تايمز"، يقع على عاتق الجهات التنظيمية مسؤولية "التدخل المبكر والفعّال والمعالجة الجذرية" لهذه المشكلة.

أصبح الذكاء الاصطناعي أداة لنشر المعلومات المضللة

لقد تطور الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي، إلى درجة أنه أصبح يشكل تهديداً لتداول المعلومات الحقيقية.

بإمكان أي شخص الحصول على الذكاء الاصطناعي، وإذا كان مصمماً بما فيه الكفاية، فبإمكانه إنشاء نظام ذكاء اصطناعي خاص به.

ووفقًا لمقال منفصل نشرته صحيفة شنغهاي للأوراق المالية، تُستخدم هذه الذكاءات الاصطناعية الآن لنشر معلومات مضللة لخداع المستثمرين أو التلاعب بالأسهم.

سرعان ما يقع المستثمرون الجشعون ضحيةً لإغراء الثراء السريع، أما من وقعوا ضحية الاحتيال فقد لجأوا إلى نشر الشكوك حول الذكاء الاصطناعي. ومن يلومهم على ذلك؟ فمن الصعب تقبّل أي تقنية بعد التعرّض لجوانبها المظلمة.

على الرغم من الخطر المحتمل، فإن ظهور شركات مثل شركة الذكاء الاصطناعي الصينية الناشئة DeepSeek قد دفع المستثمرين الأفراد ومديري الصناديق إلى استخدام الذكاء الاصطناعي لتقييم الشركات والاستثمار فيها.

🚀 جهاز DeepSeek-R1 متوفر الآن!

⚡ أداء مماثل لـ OpenAI-o1
📖 نموذج مفتوح المصدر بالكامل وتقرير فني
🏆 مرخص بموجب ترخيص MIT: استخلصه وسوّقه بحرية!

🌐 الموقع الإلكتروني وواجهة برمجة التطبيقات (API) متاحان الآن! جرّب DeepThink اليوم على الرابط https://t.co/v1TFy7LHNy !

🐋 1/n pic.twitter.com/7BlpWAPu6y

– ديب سيك (@deepseek_ai) 20 يناير 2025

أحد العوامل التي تشكل مخاطر على تبني هذه التقنية هو الخوف من أن يتم تضليل المستثمرين بالأخبار المزيفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.

بحسب صحيفة "سيكيوريتيز تايمز"، ستصبح لجنة تنظيم الأوراق المالية الصينية أكثر استباقية في التخلص من شائعات سوق الأسهم من خلال إصدار توضيحات وتشجيع تثقيف المستثمرين مع تقديم إرشادات تساعد المستثمرين على اكتشاف المعلومات المزيفة.

أصدرت السلطات الصينية يوم الجمعة توجيهات تلزم بوضع ملصقات على جميع المحتويات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي يتم تداولها عبر الإنترنت كجزء من حربها ضد إساءة استخدام الذكاء الاصطناعي ونشر المعلومات الكاذبة.

تتزامن التقارير الصادرة عن صحيفة "سيكيوريتيز تايمز" و"شنغهاي سيكيوريتيز نيوز" مع اليوم العالمي لحقوق المستهلك السنوي الذي يصادف 15 مارس، وهو حدث رئيسي على شاشات التلفزيون ووسائل التواصل الاجتماعي في الصين يهدف إلى تعزيز حماية المستهلك.

تُتهم الصين بانتظام بنشر معلومات مضللة حول الذكاء الاصطناعي تستهدف الجماهير الغربية

ومع ذلك، تشير التقارير إلى أن الحكومة الصينية تستخدم الذكاء الاصطناعي خارج الصين لشن حرب تضليل ضد العالم الغربي من خلال عملائها.

قبل أيام قليلة فقط، انتشر مقطع فيديو على موقع X يُظهر شاشة تعرض ما يصل إلى 50 نسخة من عميل ذكاء اصطناعي صيني، وقام الكثيرون بالإشارة إلى برنامج Grok الخاص بإيلون ماسك، مطالبين بتفسير.

بحسب موقع Grok، "يبدو أن كل نسخة تدير حسابًا مختلفًا، ومن المحتمل أنها تقوم بأتمتة المنشورات أو التعليقات أو التفاعلات"

وأضاف الذكاء الاصطناعي أن هذا الإعداد "يشير إلى جهد منسق للتلاعب بالروايات على الإنترنت، ربما لأغراض الدعاية أو عمليات التأثير. إنه أمر مثير للقلق لأن هذه الروبوتات يمكنها نشر معلومات مضللة، وتضخيم المحتوى المثير للانقسام، أو التأثير على الرأي العام على نطاق واسع، مما يهدد الخطاب الديمقراطي"

رغم أن هذه النظرية قد تبدو بعيدة المنال، إلا أن غروك صرّح بأن تاريخ الصين في استخدام الذكاء الاصطناعي في عمليات سرية على وسائل التواصل الاجتماعي يجعل هذا الأمر خطراً حقيقياً. فالذكاء الاصطناعي ليس ببعيد.

تُظهر الصورة شاشةً تُشغّل 50 نسخةً من برنامج ذكاء اصطناعي صيني، معظمها روبوتات لوسائل التواصل الاجتماعي. ويبدو أن كل نسخة تُدير حسابًا مختلفًا، على الأرجح لأتمتة المنشورات والتعليقات والتفاعلات. يُشير هذا الإعداد إلى جهد مُنسّق للتلاعب بالروايات على الإنترنت..

– جروك (@ جروك) 9 مارس 2025

في عام 2024، اتهم تقرير صادر في أبريل من شركة مايكروسوفت ثريت إنتليجنس صراحةً عمليات التأثير الصينية باستخدام الذكاء الاصطناعي لبث المعلومات المضللة وإثارة الفتنة على مستوى العالم.

أشار أحدث تقرير صادر عن مركز تحليل التهديدات التابع لشركة مايكروسوفت إلى أن الصين تستخدم حسابات وهمية على وسائل التواصل الاجتماعي لاستطلاع آراء الناخبين الأمريكيين حول أكثر القضايا إثارةً للخلاف بينهم، وذلك بهدف بثّ الفرقة وربما التأثير على نتيجة الانتخابات الرئاسية الأمريكيةdent. https://t.co/ZwAxPOTgLV

— مايكروسوفت ثريت إنتليجنس (@MsftSecIntel) ٥ أبريل ٢٠٢٤

تضمنت العمليات التي سلط عليها التقرير الضوء "زيادة ملحوظة في المحتوى الذي يضم شخصيات سياسية تايوانية قبل الانتخاباتdentوالتشريعية التي ستجرى في 13 يناير"

وشمل ذلك تسجيلًا صوتيًا تم إنشاؤه بواسطة الذكاء الاصطناعي شاركته مجموعة مرتبطة بالحزب الشيوعي الصيني تُعرف باسم Storm-1376 أو "Spamouflage"، مما جعل الأمر يبدو وكأن مالك شركة Foxconn، تيري جو، الذي خاض حملةdentdent قصيرة، قد أيد مرشحًا آخر، بينما في الحقيقة لم يفعل ذلك.

كما سجلت شركة مايكروسوفت نشر مذيعي الأخبار الذين تم إنشاؤهم بواسطة الذكاء الاصطناعي، بالإضافة إلى الميمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي لتضليل الجماهير والتأثير على انتخابات تايوان.

وادعى التقرير أن "هذه هي المرة الأولى التي تشهد فيها مايكروسوفت ثروات استخباراتية تستخدم فيها دولة ما محتوى الذكاء الاصطناعي في محاولات للتأثير على انتخابات أجنبية".

كما حذرت من أنه "مع توجه السكان في الهند وكوريا الجنوبية والولايات المتحدة إلى صناديق الاقتراع، فمن المرجح أن نشهد جهات فاعلة صينية في مجال الأمن السيبراني والتأثير، وإلى حد ما جهات فاعلة كورية شمالية في مجال الأمن السيبراني، تعمل على استهداف هذه الانتخابات"

على الرغم من أنه لا شك في أن عمليات التأثير الصينية قد ازدادت تعقيداً مع التقدم في مجال الذكاء الاصطناعي، إلا أن مايكروسوفت أشارت إلى وجود أدلة قليلة جداً على نجاحها في تغيير الرأي العام.

بالطبع، هذا ليس سبباً للراحة، لأنه على الرغم من اعتراف بأن تأثير المحتوى منخفض، إلا أنها أعربت عن قلقها بشأن المستقبل، مشيرة إلى أن تجارب الصين المتزايدة في تعزيز الميمات ومقاطع الفيديو والصوت قد تجعلها أكثر فعالية في زرع الفتنة مع مرور الوقت.