موجة جديدة من روبوتات الدردشة في السوق السوداء تظهر وتزدهر

أصبحت روبوتات الدردشة في السوق السوداء واحدة من أحدث الاتجاهات الناشئة في قطاع الذكاء الاصطناعي وتزدهر حيث تكسب نماذج اللغات الكبيرة الخارقة أرباحاً لمبدعيها.

وجد دراسة أمريكية أن هناك سوقاً سوداء مزدهرة للذكاء الاصطناعي حيث تحقق نماذج اللغات الكبيرة غير المسجلة أرباحاً طائلة من خلال بيع خدماتها في الخفاء. تتبع الشركات المسجلة والعامة مثل OpenAI وPerplexity والشركات الكبرى الأخرى التي تقدم نفس الخدمات وصفات تنظيمية يلتزمون بها.

يمكن لنماذج اللغات الكبيرة في الخفاء التهرب من برامج مكافحة الفيروسات

ركزت الدراسة، التي ركزت بشكل أساسي على مالا، وهي بيئة تزدهر على تشويه نماذج اللغات الكبيرة وقصات الذكاء الاصطناعي القانونية لتحقيق الربح، على فحص 212 نموذج لغة كبير في السوق السوداء المدرجة في الأسواق غير الرسمية بين أبريل وأكتوبر 2023، وتقييم خصائصها.

قال أحد المؤلفين، زيلونغ لين من جامعة إنديانا، إن:

"وجدنا أن معظم خدمات مالا الموجودة في المنتديات غير الرسمية تهدف أساساً إلى تحقيق الربح."

وجدت الدراسة أيضاً أن بعض المنصات تحقق ما يصل إلى 28,000 دولار في شهرين من الاشتراكات والمشتريات من الأشخاص الذين يرغبون في الهروب من قيود الذكاء الاصطناعي المنظم.

بعضها، مثل DarkGPT وEscapeGPT، هو مجرد مشتقات اختراق لنماذج لغات كبيرة مرخصة بشكل صحيح وتُستخدم بشكل قانوني.

أظهرت دراسة منفصلة أيضاً أنه يمكن استخدام نماذج اللغات الكبيرة غير المشروعة في العديد من المهام، مثل إنشاء رسائل تصيد إلكتروني. على سبيل المثال، كان بإمكان DarkGPT وEscapeGPT إنشاء رموز صحيحة بنسبة 75% تقريباً، لكن برامج مكافحة الفيروسات لم تتمكن من اكتشاف هذه الرموز.

ووصف نموذج آخر يُعرف باسم WolfGPT بأنه "قوة دافعة" لإنشاء رسائل تصيد إلكتروني وتجنب كاشفات البريد العشوائي.

وفقاً لأندرو هوندت، الخبير في ابتكار الحوسبة في جامعة كارنيجي ميلون، فإن السوق غير الرسمي المزدهر للذكاء الاصطناعي يجب أن يكون سبباً للقلق.

دعا إلى اشتراط قانوني يلزم الشركات التي تطور نماذج اللغات الكبيرة بأن يكون لديها أنظمة قوية تمنع الاستنساخ من قبل الأشخاص ذوي النوايا السيئة.

"نحتاج أيضاً إلى أطر قانونية لضمان قيام الشركات التي تنشئ هذه النماذج وتقدم الخدمات بذلك بمسؤولية أكبر بطريقة تخفف من المخاطر التي يشكلها الفاعلون الخبيثون"، قال هوندت.

فهم كيفية عمل روبوتات الدردشة في السوق السوداء أمر أساسي

قال البروفيسور شياوفنغ وانغ من جامعة إنديانا، الذي شارك في الدراسة، إنه من المهم فهم كيفية عمل نماذج اللغات الكبيرة في السوق السوداء حتى تكون الحلول محددة للمشكلات المحددة.

أضاف البروفيسور وانغ أن التلاعب بهذه النماذج لا يمكن تجنبه، مما يخلق مجالاً للقطاع لوضع ضوابط قوية لتقليل الأضرار المحتملة الناتجة عن الهجمات الإلكترونية بجميع أشكالها.

"نعتقد أن الوقت الحالي هو مرحلة جيدة لبدء دراسة هذه النماذج لأننا لا نريد الانتظار حتى يتم إلحاق الضرر الكبير."

البروفيسور وانغ.

وفقاً للبروفيسور، تأتي كل تقنية، بما في ذلك نماذج اللغات الكبيرة، بطريقتين: الجانب الجيد والجانب السيئ.

يدعو خبراء الأمن السيبراني بالفعل صناعة الذكاء الاصطناعي إلى إبطاء وتيرتها في السباق والتفكير في المخاطر المتزايدة لفساد تقنياتهم من قبل مجتمعات الإنترنت المجهولة.

قالت مقال في مجلة فوربس نُشر في أواخر العام الماضي إنه ينبغي أن يكون هناك تقديم مسؤول للأفكار الجديدة، خاصة فيما يتعلق بنماذج اللغات الكبيرة. وشددت أيضاً على دور التنظيم في تعزيز الابتكارات المسؤولة في الذكاء الاصطناعي، على عكس الفكرة الخاطئة القائلة بأن التنظيم يعيق التطوير.

"يحتاج مطورو ومقدمو نماذج اللغات الكبيرة إلى الضغط على زر التوقف في سباق تسلح هستوي يهدف إلى إنتاج نماذج أكثر تعقيداً باستمرار، وبدلاً من ذلك يجب عليهم العمل مع المنظمين لاعتماد أطر للتصميم المسؤول واستخدام تطبيقات الذكاء الاصطناعي التوليدي"، جاء جزء من التقرير.

الآن، مع وجود ثغرات تنظيمية، ينمو سوق الذكاء الاصطناعي الأسود بسرعة ليصبح صناعة بقيمة ملايين الدولارات وقد يحتاج إلى موارد واسعة للحد منه، وفقاً لما ذكرته مجلة Fast Company.