كشفت شركة كلاود فلير عن الذكاء الاصطناعي الخفي في العمل

قامت شركة Cloudflare، وهي شركة مقرها الولايات المتحدة الأمريكية تستخدم شبكتها العالمية وأدواتها المتطورة لتحسين سرعة مواقع الويب وسلامتها وموثوقيتها، بتطبيق ميزات الإشراف بالذكاء الاصطناعي في Cloudflare One، وهي منصة أمان المؤسسات الخاصة بها.

ستُمكّن هذه الميزات الجديدة أقسام تقنية المعلومات من تحديدdentالذكاء الاصطناعي وأنواع البيانات التي يشاركونها مع هذه التقنية بسرعة. ووفقًا لشركة كلاود فلير، تُعدّ هذه طريقة موثوقة لفرق تقنية المعلومات للحصول على رؤية شاملة لكيفية استخدام الموظفين للذكاء الاصطناعي التوليدي، وهي ميزة مُدمجة بالفعل في لوحة التحكم المتاحة.

جاء ذلك بعد أن أشارت أبحاث من مصادر إلى أن العديد من أصحاب العمل في مؤسسات مختلفة قد تبنوا إدخال الذكاء الاصطناعي التوليدي في عمليات شركاتهم. ومع ذلك، فإن بعض الموظفين يشاركون بيانات مالية داخلية أو شفرة برمجية خاصة مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل ChatGPT وClaude وGemini، وهو ما بات مكشوفًا.

أدى هذا الكشف إلى فقدان أصحاب العمل ثقتهم في هذه التقنية. فمشاركة البيانات المالية مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي تكشف أسرار الشركة، لتنتهي في نهاية المطاف في السحابة الإلكترونية.

في منشور على المدونة، سلطت الشركة الضوء على ما يلي: "يمكن للمسؤولين الآن العثور على إجابات لأسئلة مثل: ماذا يفعل موظفونا في ChatGPT؟ ما نوع المعلومات التي يتم تحميلها واستخدامها في Claude؟ هل تم إعداد Gemini بشكل صحيح في Google Workspace؟"

تحذر شركة كلاود فلير الشركات من التصرفات المتهورة أثناء التعامل مع المعلومات الحساسة 

بعد إجراء بحث معمق حول استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي، شركة كلاود فلير أن ثلاثة من كل أربعة موظفين يستخدمون ChatGPT أو Claude أو Gemini في عملياتهم اليومية. ويشمل ذلك على وجه الخصوص مهامًا مثل تقييم البيانات، وتحرير النصوص، وتصحيح الأخطاء، والتصميم. 

بالنظر إلى هذه الممارسات،dentالشركة مشكلة رئيسية قد تنشأ عند استخدام الذكاء الاصطناعي، وهي إمكانية تحميل البيانات الحساسة للشركات إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي دون إمكانيةtrac. ولمعالجة هذه المشكلة، صُممت منتجات الشركة الأمريكية للعمل على مستوى واجهة برمجة التطبيقات (API) ومراقبة أي عمليات تحميل مشبوهة في النظام.

بعد اكتشاف هذا السيناريو، حذّرت الشركة الأفراد من التصرّف بتهوّر أثناء التعامل مع المعلومات الحساسة. وبحسب كلاود فلير، فإنّ التصرّفات غير المسؤولة قد تؤدي إلى تدريب نموذج خارجي باستخدام البياناتdentالمشتركة، وقد تختفي هذه البيانات لاحقًا إلى الأبد.

تُقدّم شركاتٌ رائدةٌ أخرى في مجال أمن المؤسسات، مثل Zscaler وPalo Alto Networks، خدمات الإشراف بالذكاء الاصطناعي. ومع ذلك، لا تزال Cloudflare تُصرّ على أن Cloudflare One لا يُضاهى، مُستندةً إلى نموذجها الهجين الذي يعمل بكفاءةٍ تامةٍ دون الحاجة إلى تثبيت أي برامج على الأجهزة. كما تُتيح المنصة فحص واجهة برمجة التطبيقات (API) لمراقبة حالة النظام، ومشاكل التكوين، وكشف البيانات، مع توفير تحكّمٍ فوريٍّ في التنبيهات عبر ChatGPT وClaude وGemini.

في غضون ذلك، تجدر الإشارة إلى أن شركة كلاود فلير قد رسّخت مكانتها كمزود بنية تحتية محايد للمحتوى بدلاً من كونها جهة رقابية. وبعبارة أخرى، لا تراقب الشركة إلا ما ينشره عملاؤها عندما يكونون مخوّلين بذلك. وقد تم تطبيق هذا النهج على مدى العقد الماضي. 

أدلى ماثيو برينس، الرئيس التنفيذي لشركة كلاود فلير، برأيه في موضوع النقاش. ووفقًا لبرينس، فإن الشركة ليست خدمة استضافة مواقع، ولا تملك صلاحية تحديد المحتوى المسموح به. ومع ذلك، أكد أن تركيزها الأساسي ينصب على ضمان استمرار عمل المواقع الإلكترونية بغض النظر عن وجهات نظرها.

تواجه شركة كلاود فلير انتقادات من الأفراد على خدمات موقعها الإلكتروني

أثار موقف شركة كلاود فلير من حرية التعبير انتقادات واسعة، حيث يرى معارضوها أن الشركة تُمكّن مواقع إلكترونية ضارة، بما في ذلك تلك التي تنشر خطاب الكراهية أو المحتوى المتطرف. ويعزون ذلك، بحسب قولهم، إلى عدم تقديم أي طلب رسمي لإزالة الموقع من القائمة.

وجاءت هذه الادعاءات في أعقاب دراسة أجرتها جامعة ستانفورد عام 2022 أشارت إلى أن شركة كلاود فلير مسؤولة عن استضافة بعض من أفضل مواقع المعلومات المضللة، مقارنة بإجمالي حركة المرور على الإنترنت.

على الرغم من ذلك، فقد مُنحت الشركة عدة استثناءات. فعلى سبيل المثال، في عام 2017، توقفت الشركة عن تقديم خدماتها لموقع "ذا ديلي ستورمر" العنصري بعد أن زعم ​​الموقع أن شركة "كلاود فلير" قدمت الدعم لموقفه المؤيد للنازية.

وبعد فترة وجيزة، وصف الأمير إعلانهم بأنه استثناء غير مرغوب فيه، تم انتزاعه منهم وأجبرهم على كسر سياستهم المحايدة.