تقرير صادر عن OpenAI يكشف أن قراصنة الدول القومية يفشلون في تحقيق أي تفوق باستخدام الذكاء الاصطناعي

شركات التكنولوجيا والمسؤولون الحكوميون تُواصل التحذير من تحوّل الذكاء الاصطناعي إلى سلاح خطير في أيدي الأعداء الأجانب، لكنّ أدلة جديدة تُشير إلى عكس ذلك. تُظهر تقارير حديثة أن جماعات مدعومة من دول تستخدم الأدوات المتاحة للعموم نفسها التي يستخدمها مستخدمو الإنترنت العاديون، وغالبًا ما تواجه صعوبات مماثلة.

الجماعات المرتبطة بالحكومة محاولة استخدام منصاتها.

أبرز هذه الحالات كانت حملة نفوذ صينية عندما استخدمdent مسؤول في إنفاذ القانون الصيني تطبيق ChatGPT كمذكرات شخصية. كتب المسؤول عن عملية استهدفت منتقدي الصين المقيمين في دول أخرى.

فقد شملت الحملة مئات من المشغلين وآلاف الحسابات المزيفة على وسائل التواصل الاجتماعي ووفقًا لشركة OpenAI.

حاولت العملية انتحال صفة ضباط الهجرة الأمريكيين لترهيب أحدdent بادعاءات كاذبة بأن تصريحاته العلنية تنتهك القانون الأمريكي. وفي حالات أخرى، استخدم القائمون على العملية وثائق مزورة زعموا أنها صادرة عن محكمة محلية لمحاولة إغلاق حسابات المنتقدين على مواقع التواصل الاجتماعي.

نشر نعوات مزيفة ووثائق مزورة جزء من حملة مضايقة

قاموا بنشر نعي مزيف وصور لشاهد قبر لنشر شائعات كاذبة حولdentوفاة ظهرت على الإنترنت عام 2023، وفقًا لمقال نشرته إذاعة صوت أمريكا باللغة الصينية. ووصف هذابأنهمضايقة مُمنهجة تستهدف منتقدي الحزب الشيوعي الصيني عبر قنوات متعددة.

أدى استخدام ChatGPT كأداة لحفظ السجلات إلى كشف العملية. فقد عمل ChatGPT كدفتر يوميات للمنفذ لتتبع tracالسرية، بينما أنتجت أدوات أخرى معظم المحتوى الفعلي الذي انتشر عبر وسائل التواصل الاجتماعي. وقامت OpenAI بحظر المستخدم بعد اكتشاف نشاطه.

قام محققو OpenAI بمطابقة أوصاف مستخدم ChatGPT مع نشاط حقيقي على الإنترنت. وصف المستخدم تزييف وفاةdentصيني من خلال إنشاء نعي مزيف وصور لشاهد قبره لنشرها على الإنترنت.

في حالة أخرى، طلب مستخدم ChatGPT من النظام وضع خطة لتشويه سمعة رئيسة الوزراء اليابانية المنتخبة، سناء تاكايتشي، من خلال إثارة الغضب بشأن الرسوم الجمركية الأمريكية. رفض ChatGPT الطلب. ولكن في أواخر أكتوبر، عندما تولت تاكايتشي السلطة، ظهرت على منتدى شهير للفنانين اليابانيين تهاجمها وتشتكي من الرسوم الجمركية.

كما غطى تقرير OpenAI العديد من عمليات الاحتيال من كمبوديا التي استخدمت المنصة للاحتيال العاطفي والاستثماري، بالإضافة إلى حملات التأثير المرتبطة بروسيا والتي تستهدف الأرجنتين وأفريقيا.

يُظهر تقرير مايكروسوفت أنماط استخدام أساسية متشابهة

نشرت مايكروسوفت تقريراً منفصلاً بالاشتراك مع OpenAI يتناول جهات فاعلة تابعة لدول من روسيا وكوريا الشمالية وإيران والصين استخدام نماذج لغوية ضخمة لدعم عمليات الهجمات الإلكترونية. وقد أوقفت الشركتان جهود خمس جهات فاعلة مرتبطة بدول من خلال إغلاق حساباتها.

مايكروسوفت تقرير وجدأنهؤلاء الفاعلين بشكل أساسي كانوا يرغبون في استخدام الخدمات مهام بسيطة مثل البحث عن المعلومات المتاحة للعموم، وترجمة المحتوى، وتصحيح أخطاء البرمجة، وتنفيذ مهام البرمجة الأساسية. ولم يتم رصد أي هجمات كبيرة أو جديدة تستخدم هذه النماذج حتى الآن.

هذه الفجوة بين الخوف والواقع تتجلى خلال شرسة بين واشنطن وبكين للسيطرة على هذه التكنولوجيا. . وقد أصبح دورها في الشؤون العسكرية والاقتصادية محور صراع كبير وأبلغمؤخرًا البنتاغون شركة أخرى، هي أنثروبيك،دفاعيtrac.

مايكروسوفت أنها تعمل على وضع مبادئ للحد مخاطر إساءة استخدام هذه الأدوات من قبل جماعات تابعة لدول ومنظمات إجرامية. وتشمل هذه المبادئ تحديد وإيقافهم المسيئين المستخدمين وإبلاغ مزودي الخدمات الآخرين، والتعاون مع الجهات المعنية، والتحلي بالشفافية.