تظهر موجة جديدة من برامج الدردشة الآلية في السوق السوداء وتزدهر

أصبحت روبوتات الدردشة في السوق السوداء واحدة من أحدث الاتجاهات الناشئة في قطاع الذكاء الاصطناعي، وهي تزدهر حيث تجني نماذج اللغة الكبيرة الخبيثة (LLMs) الأموال لمنشئيها.

دراسة أمريكية عن وجود سوق سوداء مزدهرة للذكاء الاصطناعي، حيث تحقق شركات غير مسجلة أرباحًا طائلة من بيع خدماتها في الخفاء. أما الشركات المسجلة والعلنية، مثل OpenAI وPerplexity وغيرها من الشركات الكبرى التي تقدم الخدمات نفسها، فتخضع لأنظمة رقابية صارمة.

بإمكان برامج إدارة التعلم السرية التهرب من برامج مكافحة الفيروسات

وقد ركزت الدراسة بشكل أساسي على "مالا"، وهو نظام بيئي يزدهر على تشويه الشركات القانونية ومنصات الذكاء الاصطناعي لتحقيق الربح، حيث قامت بفحص 212 شركة قانونية مدرجة في السوق السوداء في الأسواق السرية بين أبريل وأكتوبر 2023، وتقييم سماتها.

قال أحد المؤلفين، زيلونغ لين من جامعة إنديانا:

"وجدنا أن معظم خدمات السحر الأسود على المنتديات السرية موجودة أساسًا لتحقيق الربح."

ووجدت الدراسة أيضاً أن بعض المنصات تحقق أرباحاً تصل إلى 28000 دولار في شهرين من الاشتراكات والمشتريات من الأشخاص الذين يرغبون في الهروب من قيود الذكاء الاصطناعي المنظم.

بعضها، مثل DarkGPT و EscapeGPT، هي مجرد مشتقات من برامج LLM المرخصة حسب الأصول والتي يتم استخدامها بشكل قانوني.

أظهرت دراسة منفصلة أيضاً أن هذه البرامج الخبيثة غير المشروعة يمكن استخدامها في العديد من المهام، مثل إنشاء رسائل بريد إلكتروني تصيدية. فعلى سبيل المثال، استطاعت برامج مثل DarkGPT وEscapeGPT إنشاء رموز صحيحة بنسبة تقارب 75% من الحالات، لكن برامج مكافحة الفيروسات لم تتمكن من اكتشاف هذه الرموز

نموذج آخر يُعرف باسم WolfGPT على أنه "قوة جبارة" لإنشاء رسائل البريد الإلكتروني التصيدية والتحايل على كاشفات البريد العشوائي.

بحسب أندرو هوندت، الخبير في ابتكار الحوسبة بجامعة كارنيجي ميلو، فإن السوق السوداء المزدهرة للذكاء الاصطناعي يجب أن تكون مدعاة للقلق.

ودعا إلى وضع شرط قانوني يلزم الشركات التي تقوم بتطوير برامج إدارة التعلم بامتلاك أنظمة قوية تمنع تكرارها من قبل أشخاص ذوي دوافع خبيثة.

وقال هوندت: "نحن بحاجة أيضًا إلى أطر قانونية لضمان أن الشركات التي تنشئ هذه النماذج وتقدم الخدمات تفعل ذلك بمسؤولية أكبر وبطريقة تخفف من المخاطر التي يشكلها الفاعلون الخبيثون".

يُعد فهم كيفية عمل روبوتات الدردشة في السوق السوداء أمرًا أساسيًا

قال البروفيسور شياوفينغ وانغ من جامعة إنديانا، الذي كان جزءًا من الدراسة، إنه من المهم فهم كيفية عمل هذه الشركات غير القانونية في السوق السوداء حتى تكون الحلول محددة للمشاكل التي تمdent.

وأضاف البروفيسور وانغ أنه لا يمكن تجنب التلاعب بهذه البرامج القانونية، مما يخلق مجالاً للقطاع لوضع ضوابطtronللحد من الضرر المحتمل الذي يتم تنفيذه من خلال الهجمات الإلكترونية بجميع أشكالها.

"نعتقد أن الوقت الحالي هو مرحلة جيدة للبدء في دراسة هذه الأمور لأننا لا نريد الانتظار حتى يحدث الضرر الكبير بالفعل."

الأستاذ وانغ.

بحسب الأستاذ، فإن كل تقنية، بما في ذلك برامج الماجستير في القانون، تأتي بطريقتين: الجانب الجيد والجانب السيئ.

يدعو خبراء الأمن السيبراني بالفعل صناعة الذكاء الاصطناعي إلى التباطؤ في سباقها والتفكير في المخاطر المتزايدة لتشويه تقنياتها من قبل مجتمعات الإنترنت المجهولة.

مقالة نشرتها مجلة فوربس أواخر العام الماضي إلى ضرورة إدخال الأفكار الجديدة بشكل مسؤول، لا سيما فيما يتعلق ببرامج الماجستير في القانون. كما أكدت المقالة على دور التنظيم في تعزيز ابتكارات الذكاء الاصطناعي المسؤولة، خلافاً للاعتقاد الخاطئ بأن التنظيم يعيق التطور.

وجاء في جزء من التقرير: "يحتاج مطورو ومقدمو نماذج التعلم الآلي إلى التوقف مؤقتًا عن سباق التسلح المحموم الذي يهدف إلى إنتاج نماذج أكثر تعقيدًا، وينبغي عليهم بدلاً من ذلك العمل مع الجهات التنظيمية على اعتماد أطر عمل للتصميم الأخلاقي واستخدام تطبيقات الذكاء الاصطناعي التوليدي".

والآن، مع وجود ثغرات تنظيمية، فإن السوق السوداء للذكاء الاصطناعي تنمو بسرعة لتصبح صناعة بملايين الدولارات وقد تحتاج إلى موارد واسعة النطاق لاحتوائها، وفقًا لمجلة فاست كومباني.