فشل مخترقو الدول في اكتساب ميزة باستخدام الذكاء الاصطناعي، وفقاً لتقرير OpenAI

شركات التكنولوجيا والمسؤولون الحكوميون الحفاظ يحذرون من تحول الذكاء الاصطناعي إلى سلاح خطير للأعداء الأجانب، لكن الأدلة الجديدة تروي قصة مختلفة. تظهر التقارير الأخيرة أن المجموعات المدعومة من الدول تستخدم نفس الأدوات المتاحة للجمهور مثل مستخدمي الإنترنت العاديين، وغالباً ما تواجه صعوبات مماثلة.

شاركت OpenAI مؤخراً تفاصيل حول كيفية محاولة مجموعات مرتبطة بالحكومة استخدام منصاتهما.

كانت الحالة الأكثر بروزاً من حملة نفوذ صينية تم الكشف عنها بالصدفة عندما استخدم مسؤول إنفاذ القانون الصيني ChatGPT كيوميات شخصية. كتب المسؤول عن عملية تستهدف النشطاء الصينيين المقيمين في دول أخرى.

شملت الحملة مئات المشغلين وآلاف الحسابات المزيفة على وسائل التواصل الاجتماعي، وفقاً لـ OpenAI.

حاولت العملية انتحال صفة ضباط هجرة أمريكيين لإرهاب معارض من خلال الادعاء الكاذب بأن تصريحاته العامة انتهكت القانون الأمريكي. في حالات أخرى، استخدم المشغلون وثائق مزيفة تدعي أنها من محكمة مقاطعة لمحاولة إزالة حسابات وسائل التواصل الاجتماعي للنقاد.

أشعار وفاة مزيفة ووثائق مزيفة جزء من حملة مضايقة

أنشأوا نعيًا مزيفًا وصورًا لحدائق القبور لنشر شائعات كاذبة حول وفاة ناشط واحد. في الواقع، ظهرت هذه الشائعات عبر الإنترنت في عام 2023، وأكدت ذلك مقال في صوت أمريكا باللغة الصينية. Ben Nimmo، الذي يقود التحقيقات في OpenAI، وصف الجهد بأنه مضايقة صناعية تستهدف منتقدي الحزب الشيوعي الصيني عبر قنوات متعددة.

استخدام ChatGPT كأداة لتسجيل السجلات أدى في النهاية إلى كشف العملية. عمل ChatGPT كدفتر يوميات للمشغل لتتبع الشبكة السرية، بينما تولدت معظم المحتوى الفعلي بواسطة أدوات أخرى تم نشره عبر وسائل التواصل الاجتماعي. حظرت OpenAI المستخدم بعد اكتشاف النشاط.

طابق محققو OpenAI الأوصاف من مستخدم ChatGPT مع النشاط الحقيقي عبر الإنترنت. وصف المستخدم التظاهر بوفاة معارض صيني من خلال إنشاء إشعار وفاة مزيف وصور شواهد قبور للنشر عبر الإنترنت.

في حالة أخرى، طلب مستخدم ChatGPT من النظام إنشاء خطة لإلحاق الضرر بسمعة رئيس الوزراء الياباني القادم Sanae Takaichi من خلال إثارة الغضب بشأن التعريفات الأمريكية. رفض ChatGPT. لكن في أواخر أكتوبر، عندما تولت Takaichi السلطة، ظهرت هاشتاقات على منتدى شعبي لفنانين رسوميين يابانيين يهاجمونها ويشكون من التعريفات.

تغطية تقرير OpenAI أيضاً لعدة عمليات احتيال من كمبوديا استخدمت المنصة للاحتيال العاطفي والاستثماري، بالإضافة إلى حملات تأثير مرتبطة بروسيا تستهدف الأرجنتين وأفريقيا.

يظهر تقرير مايكروسوفت أنماط استخدام أساسية مماثلة

نشرت مايكروسوفت تقريراً منفصلاً بالتعاون مع OpenAI يتناول كيف تحاول الدول الفاعلة من روسيا، كوريا الشمالية، إيران، والصين تجربة نماذج اللغة الكبيرة لدعم عمليات الهجوم السيبراني. أغلقت الشركتان حسابات خمسة فاعلين مرتبطين بالدول.

أظهر تقرير مايكروسوفت أن هذه الفاعلين بشكل رئيسي أرادوا استخدام الخدمات لأعمال بسيطة مثل البحث عن معلومات متاحة للجمهور، ترجمة المحتوى، إصلاح أخطاء البرمجة، وتشغيل مهام برمجية أساسية. لم يتم العثور حتى الآن على هجمات كبيرة أو جديدة باستخدام النماذج.

هذا الفجوة بين الخوف والواقع تحدث خلال منافسة شديدة بين واشنطن وبكين حول السيطرة على هذه التكنولوجيا. الدور الذي تلعبه في الشؤون العسكرية والاقتصادية أصبح معركة رئيسية. أخبرت البنتاغون مؤخراً شركة أخرى، Anthropic، أن لديها حتى يوم الجمعة لإزالة ميزات أمان معينة من نموذجها أو تخاطر بفقدان عقد دفاعي.

قالت مايكروسوفت إنها تعمل على مبادئ لخفض المخاطر من الاستخدام السيئ لهذه الأدوات من قبل مجموعات الدول والجماعات الإجرامية. تشمل هذه المبادئ اكتشاف وإيقاف المستخدمين السيئين، إبلاغ مقدمي الخدمات الآخرين، التعاون مع مجموعات أخرى، والشفافية.