تبلغ OpenAI عن الاستخدام الخبيث المتزايد لـ ChatGPT من قبل مجموعات صينية

كشفت OpenAI عن وجود ارتفاع في الاستخدام السري لأدواتها، لا سيما المرتبط بالمجموعات الصينية التي تستغل منصة ChatGPT الخاصة بها لأسباب خبيثة.

منذ إطلاق ChatGPT في نوفمبر 2022 ونجاحه الفوري، كانت هناك مخاوف بشأن عواقبه المحتملة بناءً على قدراته على توليد صوت وبصريات ونصوص وصور تشبه البشر. وأطلقت OpenAI بانتظام تقارير حول أي أنشطة خبيثة على منصاتها، مثل المحتوى المزيف للمواقع الإلكترونية.

تفكك OpenAI 10 حملات منفصلة تستغل أدواتها

في تقرير نُشر يوم الخميس، كشفت الشركة الموجودة في سان فرانسيسكو أنها ألغت مؤخراً عشر حملات منفصلة تستغل أدوات الذكاء الاصطناعي الخاصة بها. من بينها، كانت أربع منها مرتبطة بمجموعات ذات صلة بالصين، بينما كانت المخططات الأصغر حجماً مرتبطة بدول أخرى.

ووفقاً لـ Ben Nimmo، المحقق الرئيسي في فريق تحقيقات OpenAI، نفذت هذه العمليات المرتبطة بالصين مجموعة واسعة من التكتيكات عبر منصات متعددة عبر الإنترنت.

"نلاحظ توسعاً في مجموعة الأدوات،" قال للصحفيين.

"خلطت بعض الحملات بين عمليات التأثير والهندسة الاجتماعية والمراقبة، وامتدت عبر منصات من TikTok وX إلى Reddit وFacebook."

Nimmo.

أحد الأمثلة الرئيسية، المسمى "Sneer Review"، استخدم ChatGPT لنشر منشورات وتعليقات موجزة باللغة الإنجليزية والصينية والأردية. غطت هذه المواضيع مثل حل الوكالة الأمريكية للتنمية الدولية، مع الثناء والنقد بالتناوب للقرار، ونقد لعبة فيديو تايوانية استراتيجية قدمت كهجوم على الحزب الحاكم في الصين.

ووفقاً لتقرير OpenAI، في معظم الحالات، أنشأت العملية ليس فقط منشورات أصلية ولكن أيضاً ردوداً، مما جعلها تبدو وكأنها "نقاش" حقيقي. أنشأت المجموعات نفسها مقالاً طويل الشكل يدعي ضجة عامة واسعة ضد اللعبة.

استخدم "Sneer Review" أيضاً ChatGPT لصياغة وثائق داخلية ومراجعات أداء، مسلطاً الضوء بتفصيل على كل خطوة من خطوات تنفيذ الحملة. اكتشف المحللون في OpenAI أن سلوك وسائل التواصل الاجتماعي الفعلي يعكس بشكل وثيق تلك التقييمات الذاتية، مما يسلط الضوء على كيفية قدرة الذكاء الاصطناعي على تبسيط كل من التأثير على الخط الأمامي وإدارة المكاتب الخلفية.

أظهر التقرير أيضاً أن شبكة أخرى مرتبطة بالصين ركزت على جمع المعلومات الاستخباراتية، متخفيةً كصحفيين ومعلقين جيوسياسيين. استخدموا روبوت الدردشة لإنشاء سير ذاتية للحسابات على X، وترجمة الاتصالات بين الصينية والإنجليزية، وحتى إنشاء رسائل موجهة إلى سيناتور أمريكي بشأن ترشيح فيدرالي.

أساءت مجموعات من دول أخرى استخدام أدوات OpenAI

بالإضافة إلى العمليات الصينية، يشير التقرير إلى أن الجهات الفاعلة الروسية والإيرانية حاولت أيضاً استخدام ChatGPT للتأثير على الانتخابات، مما يعكس المخاوف بشأن دور الذكاء الاصطناعي التوليدي في تشكيل الرأي العام.

في الفلبين، كانت هناك علاقة بين منظمة تسويق تجاري وحملات البريد العشوائي، بينما ظهرت أيضاً عملية نصب توظيف ذات صلات كمبوديا. أشارت الشركة أيضاً إلى مبادرة توظيف أخرى ذات مصالح كورية شمالية.

تزامنت كل هذه التهديدات مع تقرير سابق من فبراير اكتشفت فيه OpenAI مبادرة مراقبة ذات صلة بالصين.据报، راقبت هذه الحملة الاحتجاجات الغربية في الوقت الفعلي، وقدمت ملخصات لوكالات الأمن الصينية، وسهلت ChatGPT كل شيء من تصحيح الأخطاء البرمجية إلى صياغة عروض المبيعات لبرامج المراقبة.

أشار Nimmo إلى أن معظم هذه العمليات تم اكتشافها وإيقافها، على الرغم من أنها بدت تستخدم أدوات متطورة.

"لا يعني الذكاء الاصطناعي المتقدم بالضرورة نتائج أكثر فعالية،" لاحظ. بالفعل، تشير تقارير التهديدات المنتظمة من OpenAI إلى أنه بينما يمكن للنماذج التوليدية تسريع إنشاء المحتوى، إلا أنها لا تضمن تأثيراً حقيقياً أو انتشاراً واسعاً.

رداً على هذه النتائج، استمرت OpenAI في تحسين آليات المراقبة وإنفاذها. تحظر الشركة الحسابات المرتبطة بالعمليات المكتشفة وتزيل جميع تلك التي تشارك في إنشاء البرمجيات الخبيثة، والرسائل السياسية الآلية، أو المحتوى المضلل.

في جولتها الأخيرة، أزالت OpenAI حسابات نشرت خلافات جيوسياسية تتعلق بالصين، بما في ذلك ادعاءات كاذبة ضد ناشطين في باكستان وكذلك تعليقات حول سياسات الرسوم الجمركية لترامب.

على الرغم من نجاحات OpenAI، تعترف الشركة أيضاً بالطبيعة ذات الحدين للذكاء الاصطناعي التوليدي، كأداة للابتكار وأداة لنشر المعلومات المضللة.