تسرب بيانات DeepSeek، هل محادثات وكلاء الذكاء الاصطناعي مكشوفة؟

DeepSeek، الذكاء الاصطناعي الذي فاجأ العالم بإنتاجيته، يخضع الآن للتدقيق بسبب تخزينه بيانات غير محمية في قواعد بيانات يمكن الوصول إليها علناً. يضع تسريب البيانات علامة استفهام حول جميع وكلاء الذكاء الاصطناعي الذين اعتمدوا بسرعة على نموذج اللغة. 

بعد أيام فقط من اكتساب شعبية، تم الكشف عن DeepSeek كمصدر للخطر، حيث تسربت سجلات البيانات إلى قاعدة بيانات ClickHouse غير محمية وقابلة للوصول علناً. احتوت البيانات المكشوفة على سجلات المحادثات ومعلومات حساسة للمستخدمين، مما قد يعرض الحسابات وكلمات المرور للخطر. تم استخدام ClickHouse، وهو أداة قاعدة بيانات تحليلية تابعة لشركة Yandex الروسية لتكنولوجيا المعلومات، لنقل حركة المرور دون حماية إضافية.

قد تحتوي بيانات المحادثات المسربة على كلمات مرور وملفات محلية، على الرغم من أن الباحثين في شركة الأمن السيبراني Wiz لم يقوموا بإجراء استعلامات عن معلومات قد تكون حساسة. من الممكن أن تحتوي قاعدة البيانات على مفاتيح سرية لواجهة برمجة التطبيقات (API). بشكل عام، تم اكتشاف أكثر من مليون سطر من البيانات من قبل الباحثين بعد تتبع جميع الاتصالات المفتوحة أثناء جلسة DeepSeek. 

من هذه النقطة – كان التحقق من التسريب أمراً مباشراً إلى حد كبير، بالنظر إلى واجهة برمجة تطبيقات ClickHouse – تمكنا من الوصول إلى واجهة برمجة التطبيقات HTTP التي تسمح بالاستعلام المباشر عن قاعدة بيانات MySQL

كان هناك تسريب كبير للبيانات، خاصة من جدول log_stream، خلال... pic.twitter.com/NhS2gyfBpJ

— Nagli (@galnagli) 29 يناير، 2025

تم اكتشاف التسريب بعد تتبع واجهة المحادثات الرئيسية، واكتشاف ما يصل إلى 30 نطاقاً فرعياً قامت بمعظم المهام التقنية غير الضارة لأداة الذكاء الاصطناعي. بعد إكمال اختبار الثغرات الأمنية، أصبحت بعض قواعد البيانات الأكثر جدلاً الآن محمية وغير قابلة للوصول. 

تواصل فريق DeepSeek بعد الاختبار، موضحاً أن أيًا من الاكتشافات لم يتم نشرها قبل إصلاح الأمان. ومع ذلك، قبل ساعات من إعلان تسريب قاعدة البيانات علناً، أشار مستخدم مجهول على منصة X إلى مشكلة في قواعد البيانات غير الآمنة، والتي تم اعتبارها في ذلك الوقت محاولة خداع أو نصب.

في هذه المرحلة، لا يزال من غير المعروف ما إذا كان أي جهات فاعلة خبيثة أخرى قد وجدت أي شيء ذي قيمة في البيانات. ومع ذلك، فإن جمع البيانات من محادثات الذكاء الاصطناعي يؤكد أيضاً على فقدان الخصوصية المحتمل عند استخدام الأداة. هناك نقاط نهاية متعددة للتفاعل مع DeepSeek، من موقعها الرسمي وتطبيقها إلى الاستضافة المحلية أو أي غلاف آخر يُستخدم مع نموذج اللغة ومحرك الاستدلال.

هل سيؤثر تسريب DeepSeek على وكلاء الذكاء الاصطناعي؟

يمكن استخدام نماذج اللغة بمزيد من الخصوصية عن طريق تشغيلها محلياً، وهو ما يناسب DeepSeek بشكل جيد. لكل شخصية جديدة لوكيل الذكاء الاصطناعي أدواتها الخاصة لتغليف نموذج اللغة وعرضه على المستخدمين. 

تدعي Venice.AI، واحدة من أبرز وكلاء الذكاء الاصطناعي، أنها تقدم أقصى درجات السرية. ومع ذلك، اكتشف المستخدمون أن Venice.AI ترسل أيضاً بيانات نصية عادية إلى خوادمها المركزية، على الأقل ليس باستخدام أدوات إضافية موجهة للجمهور. 

على عكس ادعائهم، لا يوجد ذكاء اصطناعي خاص في https://t.co/bR5IfvDdvI

تذهب جميع طلبات الاستدلال إلى خادمهم المركزي كنص عادي، بدون تشفير أو خصوصية.

جميع المخازن المؤقتة المستلمة هي أيضاً كنص عادي.

تحقق بنفسك من خلال التحقق من تبويب الشبكة في متصفح كروم. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) 27 يناير، 2025

لا تزال نهج Venice.AI أكثر سرية نسبياً مقارنة بتسريب بيانات DeepSeek. 

بالإضافة إلى ذلك، reportedly تجيب Venice.AI على بعض الاستفسارات دون الرقابة المفروضة عادةً على موقع DeepSeek المركزي. على الرغم من أنها لا تزال في مراحلها الأولى، فإنها تنوي أن تصبح مركزاً لـ تبني وكلاء الذكاء الاصطناعي الإضافيين من خلال توفير نموذج اللغة والموارد. 

الاندفاع لإنشاء المزيد من الوكلاء باستخدام DeepSeek قد يكون متجراً ينشر مخاطر أخرى غير معروفة من نموذج اللغة ومحرك الاستدلال. كل ساعة تقريباً، يتم الإعلان عن وكلاء جدد، يدعون أنهم يستخدمون قدرات DeepSeek للحصول على محتوى أفضل بتكلفة أقل. 

DeepSeek يتعارض مع روح "صنع في أمريكا" للعملات المشفرة

بناء وكلاء الذكاء الاصطناعي وتوكنيزتهم مع الاعتماد على DeepSeek يُنظر إليه على أنه خطر متأصل في استخدام نموذج لغة جديد نسبياً وغير مختبر. أصبح DeepSeek التطبيق الأكثر تنزيلًا في الأيام القليلة الماضية، لكن مجتمع العملات المشفرة حذر من الحذر عند استخدام هذا نموذج اللغة (LLM) لبناء المنتجات. 

الرأي الأكثر تطرفاً يرى نموذج DeepSeek كمصدر للخطر بشكل متأصل، حتى عند استخدامه كنموذج لغة مستضاف ذاتياً. 

https://twitter.com/ryan_trat/status/1884860338807722351

التوكنات المرتبطة بوكلاء الذكاء الاصطناعي لا تزال تعتبر محفوفة بالمخاطر وأقرب إلى الهوس بالميمز، ولا تُعتبر حالياً أصولاً جادة لإدراجها في اتجاه العملات المشفرة "صنع في أمريكا". 

ومع ذلك، قد يؤدي استخدام DeepSeek إلى استبعاد المشاريع وإثارة الشكوك حول قدراتها في جمع البيانات وإمكانية حمل البرمجيات الخبيثة. قد ينشر الوكلاء المبنين باستخدام DeepSeek معلومات معيبة أو يتصرفون بطرق غير منتظمة.

نشر مستخدم على منصة X:

"الوكلاء المبنين باستخدام DeepSeek هم وكلاء الفوضى المثاليون: حلقات لا نهائية، يغذونك ببيانات عشوائية، ويأخذونك (وحسابك على X) إلى الأسفل بدلاً من ذلك."

لقد من أن شخصاً ما أنشأ صفحة مزيفة على GitHub تبدو وكأنها تقدم نموذج الذكاء الاصطناعي الشهير Qwen للتنزيل. وعدت الصفحة بإقناع كبير بنموذج ذكاء اصطناعي يعمل بالكامل دون اتصال بالإنترنت ويحافظ على خصوصية بيانات المستخدم، لكن المصيدة كشفت عن نفسها بحجم الملف. عارض آخرون من أنصار العملات المشفرة ربطه التفاعل مع DeepSeek في هذه المرحلة، خاصة من خلال التطبيق الرسمي. حتى قبل أيام من تسريب البيانات، حذر محللو الأمن السيبراني من وجود ميزات تجسس محتملة، حيث أن DeepSeek

مرتبطة بالحزب الشيوعي الصيني من خلال مؤسسه، ليانغ وينغ فينغ.