- توجد أدوات ذكاء اصطناعي مصممة خصيصًا لتلبية المطالب المشبوهة لبعض العملاء.
- BadGPT و FraudGPT هما مجرد مثالين من بين العديد.
- الطفرة في الذكاء الاصطناعي، التي أبهرت العالم، تتحمل أيضًا مسؤولية هذه الأدوات الخطيرة.
إذا كانت النية خاطئة، فإن الذكاء الاصطناعي يمكن أن يكون أداة قاتلة في يد الشخص الخطأ. تخيل أنك في نوبة ليلية وتصلك مكالمة من منزلك تخبرك بأن هناك رجلاً يقف عند بابك مسدسًا في يده. وعائلتك بأكملها داخل منزلك. ما ستكون مشاعرك، ومن تفضل أن يكون؟ مجرم أم ضابط شرطة؟
نفس الشيء ينطبق على الذكاء الاصطناعي، الذي يطرق أبوابنا بالفعل، بل دخل منازلنا. نحن نعرف جميعًا ما هو ChatGPT، أليس كذلك؟ ولكن هناك جانبًا مظلمًا لنفس الذكاء الاصطناعي المستخدم في ChatGPT، وهو أكثر خبثًا مما نعتقد. مرحبًا بكم في الويب المظلم. هناك العديد من أدوات الذكاء الاصطناعي المشابهة لـ ChatGPT ولكن تم إنشاؤها لتلبية الجانب الشنيع من السوق. أدوات مثل BadGPT وFraudGPT، على سبيل المثال لا الحصر. وفقًا للخبراء، سيستمر الجرائم الإلكترونية، وتحديداً التصيد عبر البريد الإلكتروني، في الارتفاع في السنوات القادمة.
ما هي BadGPTs وما شابهها في الواقع؟
هذه هي في الأساس روبوتات محادثة مدعومة بالذكاء الاصطناعي، ولكن ليس تلك التي تستخدمها يوميًا لمهامك الروتينية. هذه هي الأوضاع غير الخاضعة للرقابة بدون أي ضوابط موضوعة للتحكم فيها، وهي متاحة للعملاء الذين يريدون استخدامها وفقًا لاحتياجاتهم الخاصة. تُستخدم عادةً لرسائل البريد الإلكتروني التصيدية أو تطوير البرمجيات الخبيثة للهجمات الإلكترونية لمساعدة القراصنة وتسهيل أنشطتهم الإجرامية. الشركات في حالة تأهب عالي وتواجه مخاطر أكبر من أي وقت مضى مع ظهور هذه الخدمات.
مؤخرًا، اكتشف باحثون في جامعة إنديانا أكثر من 200 خدمة اختراق تستخدم نماذج لغوية كبيرة، والمعروفة بالذكاء الاصطناعي، وهي موجودة بالفعل في السوق للجميع. ظهرت أول هذه الخدمات حول الأشهر الأولى من عام 2023، وبعد ذلك لم يكن هناك تراجع حيث استمرت هذه الخدمات في النمو مثل العشب البري.
معظم هذه الأدوات التي تخدم السوق المظلم تستخدم نماذج ذكاء اصطناعي مفتوحة المصدر أو نسخًا مقرصنة من أمثال Anthropic. تُستخدم تقنية تُسمى حقن المطالبة (prompt injection) لاختطاف هذه النماذج وتجاوز مرشحات الأمان الخاصة بها حتى يتمكن القراصنة من استخدامها دون أي فحوصات أمان.
قال متحدث باسم OpenAI إن شركتهم تبذل قصارى جهدها لحماية منتجاتها من الاستخدام لأي أغراض خبيثة، وأنهم،
"يعملون دائمًا على كيفية جعل أنظمتنا أكثر قوة ضد هذا النوع من الإساءة."
المصدر: وول ستريت جورنال
الأثر السلبي لـ BadGPT وكيفية منع نفسك
قد تتساءل إذا كانت هذه التكتيكات فعالة حقًا ويمكنها حقًا إقناع شخص ما. الحقيقة هي أن رسائل البريد الإلكتروني الاحتيالية المكتوبة بهذه الأدوات يصعب اكتشافها، ويدرب القراصنة نماذجهم على تقنيات الكشف المكتسبة من برامج الأمن السيبراني.
مؤخرًا، في مقابلة مع govttech، أعرب Jeff Brown، كبير مسؤولي الأمن المعلوماتي (CISO) لولاية كونيتيكت، عن قلقه بشأن استخدام BadGPT وFraudGpt في الجرائم الإلكترونية وقال إن هناك زيادة كبيرة في الاحتيال القائم على البريد الإلكتروني.
يمكن للأفراد صد هذه الهجمات من خلال الحذر الشديد عند مشاركة معلوماتهم الشخصية مع أي شخص. لا تشارك معلوماتك علنًا، سواء مع شخص أو على أي موقع ويب، إلا إذا كان ذلك ضروريًا جدًا، وحتى ذلك الحين بحذر. تحقق دائمًا من الموقع قبل الإفصاح عن معلوماتك لأن المواقع الخبيثة تبدو الآن أكثر احترافية دون أي مؤشر على أنها خبيثة.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
عامر شيخ
عامر صحفي تقني يتمتع بخبرة تزيد عن ست سنوات في مجالي العملات المشفرة والتقنية. تخرج من جامعة ماج بشهادة ماجستير في إدارة الأعمال بتخصص التمويل والتسويق. يعمل حاليًا مع موقع كربتوبوليتان، حيث يتناول أحدث التطورات في أسواق العملات المشفرة وتوقعات الأسعار.
