Cloudflare تكشف عن الذكاء الاصطناعي الخفي في العمل

Cloudflare، وهي شركة أمريكية تستخدم شبكتها العالمية وأدواتها المتطورة لتعزيز سرعة وأمان وموثوقية المواقع الإلكترونية، قد نفذت ميزات إشراف الذكاء الاصطناعي في Cloudflare One، منصة أمن المؤسسات الخاصة بها.

ستتيح هذه الميزات الجديدة لأقسام تكنولوجيا المعلومات تحديد من يستخدم الذكاء الاصطناعي وأنواع البيانات التي يشاركونها مع التكنولوجيا بسرعة. وفقاً لـ Cloudflare، هذه طريقة موثوقة للقوة العاملة في تكنولوجيا المعلومات للحصول على "رؤية بالأشعة السينية" لكيفية استخدام الموظفين للذكاء الاصطناعي التوليدي، وهو مدمج بالفعل في لوحة التحكم المتاحة.

جاء ذلك بعد أن أشارت أبحاث من مصادر إلى أن العديد من أصحاب العمل في مؤسسات مختلفة تبنت إدخال الذكاء الاصطناعي التوليدي في عمليات شركاتهم. ومع ذلك، يشارك بعض الموظفين البيانات المالية الداخلية أو الشفرة البرمجية الخاصة مع روبوتات الدردشة بالذكاء الاصطناعي مثل ChatGPT أو Claude أو Gemini، مما يعرضهم للخطر.

أدى الكشف إلى فقدان أصحاب العمل الثقة في التكنولوجيا. مشاركة التفاصيل المالية مع روبوتات الدردشة بالذكاء الاصطناعي تعرض أسرار الشركة، لتنتهي في السحابة الإلكترونية.

في منشور مدونة، سلطت الشركة الضوء على: "يمكن للمسؤولين الآن العثور على إجابات لأسئلة مثل: ماذا يفعل موظفونا في ChatGPT؟ ما نوع المعلومات التي يتم تحميلها واستخدامها في Claude؟ هل Gemini مضبوط بشكل صحيح في Google Workspace؟"

تحذر Cloudflare الشركات من الإجراءات المتهورة أثناء التعامل مع المعلومات الحساسة 

بعد إجراء بحث شامل حول استخدام روبوتات الدردشة بالذكاء الاصطناعي، كلودفلير اكتشفت أن ثلاثة من أصل أربعة موظفين يشملون ChatGPT أو Claude أو Gemini في عملياتهم اليومية. هذا ينطبق بشكل خاص على مهام مثل تقييم البيانات، وتحرير النصوص، وتصحيح الأخطاء، والتصميم. 

بالنظر إلى هذه الممارسات، حددت الشركة مشكلة رئيسية قد تنشأ عند استخدام الذكاء الاصطناعي. ذكرت أن تفاصيل الشركات الحساسة قد يتم تحميلها إلى هذه روبوتات الدردشة بالذكاء الاصطناعي بشكل غير قابل للتتبع. لمعالجة هذا، تم تصميم منتجات الشركة الأمريكية للعمل على مستوى واجهة برمجة التطبيقات (API) ومراقبة أي تحميلات مشبوهة في النظام.

الآن بعد اكتشاف سيناريو مثل هذا، حذرت الشركة الأفراد من تجنب الإجراءات المتهورة أثناء التعامل مع المعلومات الحساسة. وفقاً لـ Cloudflare، قد تؤدي الإجراءات المتهورة إلى تدريب نموذج خارجي باستخدام التفاصيل السرية المشتركة، وقد تختفي هذه التفاصيل إلى الأبد لاحقاً.

تقدم شركات كبرى أخرى في مجال أمن المؤسسات، مثل Zscaler وPalo Alto Networks، أيضاً إشرافاً على الذكاء الاصطناعي. حتى مع وجود هذه الشركات، تدعي Cloudflare لا تزال أن Cloudflare One لا يُقهر، بحجة أنها تمتلك نموذجاً هجيناً يعمل بشكل مثالي دون تثبيت برامج على الأجهزة. تتميز المنصة أيضاً بفحص واجهة برمجة التطبيقات لمراقبة وضعية النظام، ومشكلات التكوين، وتعرض البيانات، بينما توفر تحكماً فورياً في المطالبات عبر ChatGPT وClaude وGemini.

في هذه الأثناء، تجدر الإشارة إلى أن Cloudflare رسخت نفسها كمزود بنية تحتية محايد للمحتوى بدلاً من كونها جهة رقابة. لتوضيح ذلك، تراقب الشركة فقط ما ينشره عملاؤها عندما يكونون مخولين بذلك. تم تنفيذ هذا النهج على مدى العقد الماضي. 

علق ماتثيو برايس، الرئيس التنفيذي لـ CloudFlare، على موضوع النقاش. وفقاً لبريس، الشركة ليست خدمة استضافة وليس لديها سلطة اختيار المحتوى المسموح به. ومع ذلك، صرح أن تركيزها الرئيسي هو ضمان عمل المواقع الإلكترونية بغض النظر عن آرائها.

تواجه Cloudflare انتقادات من الأفراد حول خدمات موقعها

لقد لفت موقف Cloudflare المؤيد لحرية التعبير الانتقادات، حيث يجادل المعارضون بأن الشركة تتيح مواقع ضارة. ويشمل ذلك تلك التي تحتوي على كراهية أو محتوى متطرف. ويقولون إن هذا يحدث لأن لم يتم تقديم طلب رسمي لإزالة القائمة.

تلت هذه الادعاءات دراسة أجرتها جامعة ستانفورد في عام 2022 أشارت إلى أن Cloudflare مسؤولة عن استضافة بعض أفضل مواقع التضليل, مقارنة بحركة المرور الإجمالية على الإنترنت.

على الرغم من ذلك، تم استثناءات عدة للشركة. على سبيل المثال، في عام 2017، توقفت الشركة عن تقديم خدمات لموقع The Daily Stormer اليميني المتطرف بعد أن زعمت التقارير أن Cloudflare قدمت دعماً لموقفه المؤيد للنازية.

بعد فترة وجيزة، وصف برايس إعلانهم بأنه استثناء غير راغب، كان قد انتزعت منهم وأجبرتهم على كسر سياستهم المحايدة.