ثلث الشركات في المملكة المتحدة يشير إلى أمان البيانات كقضية رئيسية في اعتماد نماذج اللغات الكبيرة (LLMs)

واحدة من كل ثلاث شركات في المملكة المتحدة تقلق بشأن سلامة بياناتها عند استخدام نماذج اللغات الكبيرة (LLMs) لأنها تطورت من مساعدين يستجيبون للأوامر أو الأسئلة إلى أنظمة مستقلة تتصرف دون تدخل بشري مستمر.

نتيجة لذلك، تتحفظ هذه المنظمات على دمجها بالكامل وكلاء الذكاء الاصطناعي في أنظمة تشغيلها لأنها تخشى فقدان السيطرة على بياناتها وأمنها لصالح آلات يمكنها 'التفكير بمفردها'.

الحكومة البريطانية تتخذ خطوات لمعالجة هذه التحديات. أعلن وزير مكتب الكابينة بات ماكدون عن إلغاء تصنيف تقييم استخباراتي يشير إلى أن الذكاء الاصطناعي سيصعد من التهديدات السيبرانية في السنوات القادمة.

في عام 2024، تلقت الهيئة الوطنية لأمن الفضاء السيبراني (NCSC) ما يقرب من 2000 تقرير عن هجمات سيبرانية، حيث صُنف ما يقرب من 90 منها على أنها 'ذات أهمية كبيرة' و12 منها في 'أعلى مستويات الخطورة'. كان هذا العدد ثلاثة أضعاف عدد الهجمات الشديدة مقارنة بالعام السابق.

الشركات البريطانية تثير علامات استفهام حول أمان البيانات في نماذج اللغات الكبيرة (LLMs)

يجب على الشركات في المملكة المتحدة الامتثال للوائح الصارمة التي تحمي بيانات الأشخاص وتمنع إساءة استخدامها، مثل قانون حماية البيانات في المملكة المتحدة ولائحة حماية البيانات العامة (GDPR) في الاتحاد الأوروبي.

الشركات التي تنتهك هذه القوانين تخاطر باتخاذ إجراءات قانونية وإلحاق الضرر بسمعتها، لذلك تعيد التفكير في استراتيجياتها المتعلقة بنماذج اللغات الكبيرة (LLMs). يمكن أن يكشف الذكاء الاصطناعي عن معلومات خاصة أو يولد نتائج مضللة دون إشراف بشري دقيق أو توجيهات دقيقة. 

في البداية، كانت أدوات الذكاء الاصطناعي مثل روبوتات الدردشة تقدم إجابات ثابتة، بينما كانت أجهزة التحكم الذكية في درجة الحرارة تغير درجة الحرارة فقط باتباع قواعد بسيطة دون تفكير أو تعلم من بيانات جديدة أو إجراءات سابقة أو نتائج قراراتها. ومع ذلك، تستخدم وكلاء الذكاء الاصطناعي اليوم نماذج اللغات الكبيرة (LLMs) للتعلم من البيانات، وتغيير إجراءاتهم بناءً على معلومات جديدة، وحل مشكلات مختلفة من خلال التفكير مثل البشر. 

ولكن هذا مجرد جزء صغير من قلق أكبر، حيث يمكن للناس أيضًا توجيه الوكيل للتعامل مع مهمة، وسيقوم بتقسيمها إلى أنشطة أصغر، والتعامل مع كل منها على حدة، ثم تقييم النتائج. علاوة على ذلك، يمكن لبعض الوكلاء التعاون للتعامل مع مهمة معقدة، حيث يعمل أحدهم على العمل بينما يتحقق الآخر من النتائج لتحسين المخرجات. 

على الرغم من أن هذا النمو يساعد الشركات على أتمتة العمليات ويقلل من الوقت الذي كانت ستستخدمه الفرق البشرية، إلا أنه يمثل أيضًا تهديدًا لأنه كلما زادت القرارات التي يتخذها هؤلاء الوكلاء بمفردهم، أصبح من الصعب علينا فهم أو التنبؤ أو التحكم فيما يفعلونه بشكل كامل. وبالمثل، يمكن أن تزداد عواقب أخطائهم بشكل أسي لأن وكلاء الذكاء الاصطناعي هذه تتصرف دون التوقف للحصول على مدخلات بشرية. 

الشركات تتبنى وكلاء الذكاء الاصطناعي بحذر عبر الإدارات

تستخدم العديد من الشركات في المملكة المتحدة وكلاء الذكاء الاصطناعي في عملياتها اليومية، حيث تختبر أقسام مثل خدمة العملاء، والموارد البشرية (HR)، والتسويق الأدوات ببطء وتراقبها بشدة.

مثال تجاري جيد هو شركة Pets at Home، التي بنت وكيلاً للذكاء الاصطناعي لموظفيها البيطريين لتقديم إجابات سريعة ودعم أثناء فحوصات الحيوانات الأليفة، مما يظهر مدى فائدة وكلاء الذكاء الاصطناعي في الأدوار الصغيرة في الوظائف الحقيقية. 

حاليًا، تحتاج معظم أنظمة الذكاء الاصطناعي الوكيلية إلى أشخاص لتوجيهها ومراجعة عملها وإصلاح الأخطاء لأنها ليست جاهزة لاستبدال البشر تمامًا دون إشراف. ومع ذلك، قد يتطلب المستقبل من الشركات اتخاذ قرارات صعبة تسمح لها بدمج وكلاء الذكاء الاصطناعي في الأنظمة، مع الحفاظ على السيطرة.