- تنتشر التزييفات المُنشأة بالذكاء الاصطناعي قبيل انتخابات نيبا في 5 مارس، بما في ذلك مقاطع فيديو وصوتية مُفتعلة لسياسيين.
- أدى حظر وسائل التواصل الاجتماعي بعد الاحتجاجات إلى مقتل 77 شخصًا ودفع المعلومات المضللة إلى الخفاء.
- يدعو الخبراء إلى التحقق قبل المشاركة بينما تستعد الشرطة لهجمات ذكاء اصطناعي متطورة.
في مواجهة الانتخابات المفاجئة القادمة في 5 مارس، كشف فيلم مزيف يضم ثلاثة سياسيين بارزين من نيبال عن كيفية استخدام الذكاء الاصطناعي كسلاح.
صوّر الفيديو، الذي تم إنشاؤه بالكامل بواسطة الكمبيوتر، رئيس بلدية كاتماندو السابق باليندرا شاه، ورئيس قطاع الكهرباء السابق كولمان غيسينغ، وقائد حزب راشتريا سواتانترا رابي لاميتشانه يسيرون معاً.
اعتقد الكثير من الناس أن تحالفاً سياسياً جديداً كان يظهر عندما انتشر الفيديو على الإنترنت. ومع ذلك، لأن اللقاء بأكمله تم إنشاؤه بواسطة الكمبيوتر، لم يلتقي السياسيون الثلاثة فعلياً أبداً.
انتشرت التزييفات الصوتية عبر وسائل الشبكات
يمثل الفيديو المزيف مجرد مثال واحد على المحتوى المصنوع بالذكاء الاصطناعي الذي يشبع الآن المساحات الرقمية في نيبال مع اقتراب التصويت. تجري الانتخابات بعد ستة أشهر فقط من المظاهرات العنيفة التي قادها الشباب للمطالبة بإنهاء الفساد. أجبرت تلك الاحتجاجات رئيس الوزراء آنذاك ك. ب. شارما أولي على الاستقالة وتركت النظام السياسي في البلاد في حالة من الفوضى.
ازدهرت التزييفات الرقمية التي تستهدف الأفراد المعروفين نتيجة هذه أزمة الثقة. قدم نائب رئيس حزب راشتريا سواتانترا، سوارنيم واجلي، شكوى إلى المكتب السيبراني للشرطة النيبالية. تم إنشاء شريط صوتي مزيف لإعطاء انطباع بأنه كان لديه مناقشة مع رئيس وزراء الهند، وهو ما لم يحدث أبداً.
تطرح هذه التزييفات الصوتية مخاطر فريدة في نيبال، كما أظهرت جهود التحقق من الحقائق من قبل Poynter. تنتقل الرسائل الصوتية بسرعة عبر مجموعات الدردشة العائلية ووسائل التواصل الاجتماعي، وغالباً ما تصل إلى متلقين غير قادرين على تأكيد شرعيتها. يعني عدم موثوقية الأدوات المستخدمة لتحديد الصوتيات المعدلة أن الأشخاص العاديين لديهم وسائل محدودة للتمييز بين الأكاذيب والحقيقة.
غالباً ما جعلت محاولات الحكومة للسيطرة على الأمر الأمور أسوأ. تم حظر فيسبوك وX ويوتيوب من قبل السلطات خلال المظاهرات في سبتمبر بسبب فشلها في التسجيل لدى المنظمين.
أدى الحظر إلى تصاعد العنف بدلاً من تهدئة التوترات. وثقت وكالة رويترز وقوع 77 حالة وفاة على الأقل وآلاف الإصابات خلال الفوضى التي أعقبت ذلك. رفع المسؤولون القيود في النهاية، لكن الحادث أظهر سبب عدم فعالية الحجب القمعي. انتقلت المعلومات الخ ببساطة إلى قنوات يصعب مراقبتها.
حاولت لجنة الانتخابات في نيبال معالجة هذه التحديات من خلال السياسات. حددت "سياسة استخدام وسائل التواصل الاجتماعي في الإدارة الانتخابية" الصادرة في عام 2021 مبادئ توجيهية أولية. ينص مشروع مدونة قواعد السلوك الجديدة للانتخابات القادمة بشكل محدد على حظر المعلومات الكاذبة والحسابات المزيفة المقصودة للتأثير على الناخبين.
ومع ذلك، يحذر الخبراء من أن هذه القواعد تحتاج إلى تحديثات فورية لعصر الذكاء الاصطناعي التوليدي. لا تزال هناك أسئلة بلا إجابة: ما الذي يشكل بالضبط الوسائط الاصطناعية؟ هل يجب على الحملات الكشف عن المحتوى الذي تم إنشاؤه بمساعدة الذكاء الاصطناعي؟ من يتحمل المسؤولية عندما تنتشر المعلومات المزيفة؟
يدعو الخبراء إلى استجابة منسقة استجابة
بدون وجود لوائح مثالية في مكانها، يدفع الخبراء ومجموعات المراقبة نحو حلول أوسع. توصي منظمة بوينتر ومنظمات إعلامية مماثلة بعدة خطوات: يجب على المؤسسات الإخبارية والمدققين من الحقائق التحقيق في كل فيديو viral كما لو كان جريمة، وتتبع أصله وإظهار كيفية التحقق منه.
يجب على الأحزاب السياسية والمرشحين الوعد بعدم استخدام التزييف العميق (deepfakes) ووضع علامات واضحة على أي مواد تم إنشاؤها بالذكاء الاصطناعي. يجب على شركات وسائل التواصل الاجتماعي إنشاء فرق استجابة سريعة ملمة بلغات وسياسات نيبال. يجب على المواطنين العاديين اتباع نهج "الفرز السريع لمدة عشر ثوانٍ"، والتوقف والتحقق والتأكيد قبل مشاركة الادعاءات الصادمة.
يُعد المكتب السيبراني للشرطة النيبالية مستعداً بالفعل لمزيد من الهجمات المتقدمة من الناحية التقنية. قال SP Ray، وهو مسؤول في المكتب، "الذكاء الاصطناعي يكبر ويُستخدم بطرق أكثر. قريباً قد نرى جرائم وهجمات سيبرانية يجعلها الذكاء الاصطناعي أسهل."
لاحظ Ray أيضاً أن حداثة التكنولوجيا قد توفر بعض مساحة التنفس. هو يعتقد أن تقنية الذكاء الاصطناعي لا تزال في مهدها ويتم تبنيها من قبل الجمهور فقط، لذا قد يستغرق الأمر بعض الوقت لاستخدامها كأداة تدمير.
قال Ray: "نحن مجهزون جيداً لمحاربة هذه الجرائم والتهديدات، ويجب أن نكون كذلك". وأضاف طمأنة: "يمكن للشرطة النيبالية التحقيق في أي إجراء. الشيء الوحيد الذي سيستغرق وقتاً للتحقيق فيه هو الهجمات من أرض أجنبية."
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
هانيا حميون
انضمت هانيا إلى كريبتوبوليتان ولديها تاريخ طويل في تحليل الشؤون المالية والاتجاهات الاقتصادية وأسواق التنبؤ. غطت مواضيع التكنولوجيا الناشئة والذكاء الاصطناعي والتقنية المالية. وقد أضفت خبرات هانيا كمهندسة معمارية مرخصة حيوية ودقةً للكتابة الإخبارية. تخرجت من الكلية الوطنية للفنون في لاهور بدرجة البكالوريوس في الهندسة المعمارية،
