إذا كانت النية خاطئة، فقد يصبح الذكاء الاصطناعي أداةً فتاكةً في يد الشخص الخطأ. تخيّل أنك في نوبة عمل ليلية، وتتلقى اتصالاً من منزلك يُخبرك بوجود رجل يقف عند بابك مُسلّحاً، وعائلتك بأكملها داخل المنزل. ما هي مشاعرك حينها؟ ومن تُفضّل أن يكون؟ مجرماً أم شرطياً؟
وينطبق الأمر نفسه على الذكاء الاصطناعي، الذي بات يطرق أبوابنا، بل دخل بيوتنا. جميعنا نعرف ما هو ChatGPT، أليس كذلك؟ لكن لهذا الذكاء الاصطناعي نفسه المستخدم في ChatGPT جانب مظلم، وهو أشد خطورة مما نتصور. مرحباً بكم في عالم الإنترنت المظلم. هناك العديد من أدوات الذكاء الاصطناعي المشابهة لـ ChatGPT، ولكنها مصممة لتلبية احتياجات الجانب الإجرامي من السوق. أدوات مثل BadGPT وFraudGPT، على سبيل المثال لا الحصر. ووفقاً للخبراء، ستستمر الجرائم الإلكترونية، وتحديداً التصيد الاحتيالي عبر البريد الإلكتروني، في الارتفاع خلال السنوات القادمة.
ما هي BadGPTs وما شابهها في الواقع؟
هذه في الأساس روبوتات محادثة مدعومة بالذكاء الاصطناعي، لكنها ليست من النوع الذي تستخدمه يوميًا في مهامك الروتينية. إنها نماذج غير خاضعة للرقابة، تفتقر إلى أي ضمانات للتحكم بها، ومتاحة للعملاء الذين يرغبون في استخدامها وفقًا لاحتياجاتهم. تُستخدم هذه الروبوتات عادةً في رسائل البريد الإلكتروني الاحتيالية أو لتطوير برامج خبيثة لشن هجمات إلكترونية، مما يُسهّل على المخترقين أنشطتهم الإجرامية. وقد باتت الشركات في حالة تأهب قصوى، وتواجه مخاطر أكبر من أي وقت مضى مع ظهور هذه الخدمات.
اكتشف باحثون في جامعة إنديانا مؤخرًا أكثر من 200 خدمة اختراق تستخدم نماذج لغوية ضخمة، أو ما يُعرف بالذكاء الاصطناعي، وهي متاحة بالفعل في السوق. ظهرت أولى هذه الخدمات في مطلع عام 2023، ومنذ ذلك الحين، انتشرت هذه الخدمات بسرعة كبيرة.
تستخدم معظم هذه الأدوات التي تخدم السوق السوداء نماذج ذكاء اصطناعي مفتوحة المصدر أو نسخًا مقرصنة من نماذج مثل Anthropic. وتُستخدم تقنية تُسمى الحقن الفوري لاختراق هذه النماذج وتجاوز فلاتر الأمان الخاصة بها، مما يسمح للمخترقين باستخدامها دون أي فحوصات أمنية.
قال متحدث باسم شركة OpenAI إن شركتهم تبذل قصارى جهدها لحماية منتجاتها من الاستخدام لأي أغراض خبيثة، وأنها
"نعمل باستمرار على كيفية جعل أنظمتنا أكثر قوة في مواجهة هذا النوع من الإساءة."
المصدر: صحيفة وول ستريت جورنال
التأثير السلبي لـ BadGPT وكيفية الوقاية منه
قد تتساءل عما إذا كانت هذه الأساليب فعّالة حقًا، وهل يمكنها إقناع أحد. في الواقع، يصعب اكتشاف رسائل البريد الإلكتروني الاحتيالية المكتوبة بهذه الأدوات، إذ يُدرّب المخترقون نماذجهم على تقنيات الكشف المُستمدة من برامج الأمن السيبراني.
في مقابلة أجراها مؤخراً مع موقع govttech، أعرب جيف براون، كبير مسؤولي أمن المعلومات في ولاية كونيتيكت، عن مخاوفه بشأن استخدام BadGPT و FraudGpt في الجرائم الإلكترونية، وقال إن هناك زيادة كبيرة في عمليات الاحتيال عبر البريد الإلكتروني.
يمكن للأفراد تجنب هذه الهجمات بتوخي الحذر الشديد عند مشاركة معلوماتهم الشخصية مع أي شخص. لا تشارك معلوماتك علنًا، سواء مع شخص أو على أي موقع إلكتروني، إلا عند الضرورة القصوى، وحتى حينها، يجب توخي الحذر الشديد. تحقق دائمًا من الموقع الإلكتروني قبل الكشف عن معلوماتك، حيث أصبحت المواقع الخبيثة تبدو الآن أكثر احترافية دون أي إشارة إلى خبثها.
