كيف تتطور الجرائم السيبرانية باستخدام أدوات الذكاء الاصطناعي التوليدي للهجمات المتطورة

أعلنت شركة أمن سيبراني عن اكتشاف مقلق – يتم بيع أداة ذكاء اصطناعي توليدي تسمى WormGPT للمجرمين. كما ظهرت أداة ذكاء اصطناعي توليدي خبيثة أخرى تسمى PoisonGPT، مصممة لنشر الأخبار الكاذبة عبر الإنترنت بشكل متعمد. مع انتشار استخدام تقنية الذكاء الاصطناعي التوليدي، تزداد مخاوف وكالات إنفاذ القانون من إساءة استخدامها من قبل الجهات الخبيثة والمجرمين. تمثل هذه الأدوات أحدث الأمثلة على كيفية استغلال الذكاء الاصطناعي التوليدي لأغراض غير مشروعة، مما يثير تساؤلات حول الحدود الأخلاقية للصناعة والحاجة إلى تنظيم أكبر.

أدوات الذكاء الاصطناعي التوليدي الخبيثة

WormGPT، الذي تم الكشف عنه مؤخراً بواسطة شركة الأمن السيبراني SlashNext، هو بديل للقبعات السوداء مصمم خصيصاً للأنشطة الخبيثة. تستخدم الأداة وحدة ذكاء اصطناعي تعتمد على نموذج لغة GPTJ مفتوح المصدر تم تطويره في عام 2021. تقدم مجموعة متنوعة من الميزات، بما في ذلك دعم غير محدود للأحرف، والاحتفاظ بذاكرة الدردشة، وقدرات تنسيق الأكواد. أجرت SlashNext تجربة باستخدام WormGPT لتوليد بريد إلكتروني مخادع، بهدف الضغط على مدير حساب غير متوقع لدفع فاتورة احتيالية. كانت النتائج مخيفة، مما يبرز إمكانية هجمات التصيد الاحتيالي المتطورة واختراق البريد الإلكتروني للأعمال.

يتضمن تطور آخر مثير للقلق Mithril Security، وهي شركة أمن سيبراني اختبرت كيفية استغلال GPTJ لنشر المعلومات المضللة عبر الإنترنت. أنشأوا أداة تسمى PoisonGPT، وقاموا برفعها إلى Hugging Face، وهي منصة توزع نماذج الذكاء الاصطناعي للمطورين. تم إخفاء النموذج الخبيث لنشر الأخبار الكاذبة. الجانب المقلق هو أن المجرمين يمكنهم التلاعب بنماذج اللغة الكبيرة وتوزيعها من خلال مزودي النماذج مثل Hugging Face، مما يؤدي إلى استخدام الضحايا دون علم للنماذج المسمومة. هذا يسلط الضوء على قضية الثقة والشفافية الأوسع في سلسلة توريد الذكاء الاصطناعي، حيث لا يمتلك المستخدمون غالباً أي فكرة عن مجموعات البيانات والخوارزميات المستخدمة لإنتاج النماذج التي يستخدمونها.

اعتبارات أخلاقية وسط الانتشار الواسع للذكاء الاصطناعي

تفرض سياسات استخدام OpenAI بحظر صارم استخدام نماذجها لأغراض غير قانونية ومحتوى يستغل أو يضر بالآخرين. ولكن، مع زيادة إمكانية الوصول إلى أدوات الذكاء الاصطناعي التوليدي، يزداد خطر إساءة الاستخدام من قبل المجرمين والجهات الخبيثة. ومع ذلك، مع توسع حدود ابتكار الذكاء الاصطناعي، يزداد أيضاً خطر الاستغلال من قبل العناصر الخبيثة والمجرمين. لم يفلت هذا القلق المتصاعد من أعين وكالات إنفاذ القانون المرموقة مثل Europol وInterpol، والتي تدرك تماماً الإمكانات الهائلة التي يحملها الذكاء الاصطناعي لدعم مهامها النبيلة.

اتخذت المنظمة الدولية للشرطة الجنائية (إنتربول) خطوات استباقية نحو تطوير مجموعة أدوات مخصصة تمنح قوى الشرطة حول العالم قوة الذكاء الاصطناعي. إن أنظمة الدوريات الآلية، وتحديد الأفراد المعرضين للخطر، والإدارة الفعالة لمراكز الاتصال بالطوارئ، هي مجرد بعض المجالات التي يثبت فيها الذكاء الاصطناعي كونه حليفًا لا يقدر بثمن في حماية رفاهية المجتمع. وإلى جانب وعود الاستخدام البنّاء للذكاء الاصطناعي، من الضروري equally الاعتراف بالقيود والمخاطر الكامنة التي تقدمها هذه الأنظمة المتطورة. ولهذا الغرض، يصبح من واجب أصحاب المصلحة في مجال الأمن السيبراني، وقادة الصناعة، وجهات إنفاذ القانون أن يتحدوا في جهد متضافر لمعالجة التحديات التي يطرحها الارتفاع السريع للذكاء الاصطناعي وتأثيراته بعيدة المدى على نسيج المجتمع.

مع انكشاف الستار عن الفصل المظلم الأحدث في سردية الذكاء الاصطناعي مع ظهور أدوات WormGPT و PoisonGPT – وهما أدوات ذكاء اصطناعي توليدية خبيثة يتم الترويج لها سراً من قبل السوق السوداء – تزداد المطالبة بإطار تنظيمي قوي أكثر من أي وقت مضى. يسعى المجرمون والجهات ذات النوايا السيئة إلى استغلال هذه الابتكارات في الذكاء الاصطناعي لتعزيز أجنداتهم الشريرة، مما يؤكد الحاجة الملحة لاتخاذ نهج تعاوني لمعالجة المعضلات الأخلاقية والآثار الأمنية. إن تحقيق التوازن الدقيق بين السعي الحثيث نحو الابتكار والإدارة المسؤولة لتكنولوجيا الذكاء الاصطناعي يصبح أمراً بالغ الأهمية لضمان استمرار تقدمه دون المساس بالمبادئ الأساسية للأمن والأخلاق التي تقوم عليها مستقبل الذكاء الاصطناعي.