أفادت منظمة OpenAI بتزايد استخدام مجموعات صينية لتقنية ChatGPT لأغراض خبيثة

كشفت شركة OpenAI عن وجود زيادة في الاستخدام السري لأدواتها، وخاصة المرتبطة بالجماعات الصينية التي تستغل منصة ChatGPT الخاصة بها لأسباب خبيثة.

منذ إطلاق ChatGPT في نوفمبر 2022 وتحقيقه نجاحًا فوريًا، ثارت مخاوف بشأن عواقبه المحتملة نظرًا لقدرته على توليد أصوات ونصوص وصور وفيديوهات تُحاكي الأصوات البشرية. OpenAI تقارير دورية حول أي أنشطة ضارة على منصاتها، مثل المحتوى المُزيّف للمواقع الإلكترونية.

قامت OpenAI بتفكيك 10 حملات منفصلة أساءت استخدام أدواتها

في تقرير نُشر يوم الخميس، كشفت الشركة التي تتخذ من سان فرانسيسكو مقراً لها أنها فككت مؤخراً عشر حملات منفصلة استغلت أدوات الذكاء الاصطناعي الخاصة بها. ومن بين هذه الحملات، نُظمت أربع منها من قبل مجموعات مرتبطة بالصين، بينما ارتبطت مخططات أصغر حجماً بدول أخرى.

ووفقًا لبن نيمو، المحقق الرئيسي في فريق التحقيقات التابع لشركة OpenAI، فقد استخدمت هذه العمليات المرتبطة بالصين مجموعة واسعة من التكتيكات عبر العديد من المواقع الإلكترونية.

وقال للصحفيين: "إننا نلاحظ توسعاً في مجموعة الأدوات".

"بعض الحملات جمعت بين عمليات التأثير والهندسة الاجتماعية والمراقبة، وامتدت عبر منصات من TikTok وX إلى Reddit وFacebook."

نيمو.

أحد الأمثلة الرئيسية، والذي أُطلق عليه اسم "مراجعة السخرية"، استخدم برنامج ChatGPT لنشر منشورات وتعليقات موجزة باللغات الإنجليزية والصينية والأردية. تناولت هذه المنشورات مواضيع مثل حلّ الوكالة الأمريكية للتنمية الدولية، حيث تناوبت الآراء بين الإشادة والانتقاد لهذا القرار، بالإضافة إلى انتقاد لعبة فيديو استراتيجية تايوانية قُدّمت على أنها هجوم على الحزب الحاكم في الصين.

بحسب تقرير OpenAI، لم تقتصر العملية في معظم الحالات على إنشاء منشورات أصلية فحسب، بل شملت أيضاً إنشاء ردود، ما جعلها تبدو وكأنها نقاش "حقيقي". كما نشرت نفس المجموعات مقالاً مطولاً زعمت فيه وجود استياء شعبي واسع النطاق ضد اللعبة.

استخدمت "مراجعة السخرية" أيضًا برنامج ChatGPT لصياغة الوثائق الداخلية وتقييمات الأداء، مع تسليط الضوء بالتفصيل على كل خطوة من خطوات تنفيذ الحملة. اكتشف المحللون في OpenAI أن سلوك وسائل التواصل الاجتماعي الفعلي يعكس بدقة تلك التقييمات الذاتية، مما يؤكد كيف يمكن للذكاء الاصطناعي تبسيط كل من التأثير المباشر وإدارة المكاتب الخلفية.

وأظهر التقرير أيضاً أن شبكة أخرى مرتبطة بالصين ركزت على جمع المعلومات الاستخباراتية، متظاهرةً بأنها صحفيون ومحللون جيوسياسيون. واستخدمت هذه الشبكة برنامج الدردشة الآلي لإنشاء سير ذاتية لحسابات على منصة X، وترجمة المراسلات بين الصينية والإنجليزية، بل وأنشأت رسائل موجهة إلى سيناتور أمريكي بشأن ترشيح فيدرالي.

كما أساءت مجموعات من دول أخرى استخدام أدوات OpenAI

بالإضافة إلى العمليات الصينية، يشير التقرير إلى أن روسية وإيرانية حاولت أيضًا استخدام ChatGPT للتأثير على الانتخابات، مما يعكس المخاوف بشأن دور الذكاء الاصطناعي التوليدي في تشكيل الرأي العام.

في الفلبين، تم ربط شركة تسويق تجارية بحملة بريد إلكتروني عشوائي، كما ظهرت عملية احتيال في التوظيف مرتبطة بكمبوديا. وأشارت الشركة أيضاً إلى مبادرة توظيف أخرى ذات صلة بكوريا الشمالية.

تزامنت كل هذه التهديدات مع تقرير سابق صدر في فبراير/شباط، كشفت فيه شركة OpenAI عن مبادرة مراقبة تابعة للصين. وبحسب التقارير، رصدت هذه الحملة الاحتجاجات الغربية لحظة بلحظة، وقدمت ملخصات لأجهزة الأمن الصينية، بينما سهّل برنامج ChatGPT كل شيء بدءًا من تصحيح الأخطاء البرمجية وصولًا إلى صياغة عروض ترويجية لبرامج المراقبة.

وأشار نيمو إلى أنه تم اكتشاف معظم هذه العمليات وإيقافها، على الرغم من أنها بدت وكأنها تستخدم أدوات متطورة.

لاحظ قائلاً: "لا يُترجم الذكاء الاصطناعي المتقدم بالضرورة إلى نتائج أكثر فعالية". في الواقع، تشير تقارير التهديدات الدورية الصادرة عن OpenAI إلى أنه على الرغم من أن النماذج التوليدية قادرة على تسريع عملية إنشاء المحتوى، إلا أنها لا تضمن تأثيراً حقيقياً أو tracواسعاً.

استجابةً لهذه النتائج، واصلت OpenAI تحسين آليات المراقبة والإنفاذ لديها. وتقوم الشركة بحظر الحسابات المرتبطة بالعمليات المكتشفة، وإزالة جميع الحسابات المتورطة في إنشاء برامج ضارة، أو رسائل سياسية آلية، أو محتوى مضلل.

في أحدث جولة لها، قامت منظمة OpenAI بحذف حسابات نشرت جدلاً جيوسياسياً يتعلق بالصين، بما في ذلك ادعاءات كاذبة ضد نشطاء في باكستان بالإضافة إلى تعليقات حول الجمركية سياسات

على الرغم من نجاحات OpenAI، إلا أن الشركة تقر أيضاً بالطبيعة ذات الحدين للذكاء الاصطناعي التوليدي، كأداة للابتكار وأيضاً كأداة للتضليل.