تصبح وكلاء الذكاء الاصطناعي insiders في المؤسسات بسرعة تفوق قدرة الأمن على حوكمتهم
- حذّر باحثو أمن متعددون ومحللون ومختبرات ذكاء اصطناعي هذا الشهر من أن وكلاء الذكاء الاصطناعية المستقلين يتصرفون الآن مثل الموظفين الداخليين الذين يملكون صلاحيات الوصول إلى الأنظمة، وأن معظم المؤسسات تفتقر إلى ضوابط الهوية والمراقبة السلوكية اللازمة لتنظيمها.
- يجب على كل منظمة تنفذ ذكاءً اصطناعيًا قائمًا على الوكلاء (Agentic AI) وكل مورد يبيع حلولاً لها أن يأخذ بعين الاعتبار التقارير التي تشير إلى أن 80% من المنظمات ترى بالفعل أن الوكلاء يقومون بإجراءات غير مقصودة، وأن 2% فقط من تلك المنظمات تستخدم أدوات مخصصة لتأمين هويات الكيانات غير البشرية.
- مع توقع Gartner تعريض 234 مليار دولار من الإنفاق على البرمجيات للخطر بسبب ذكاءً اصطناعيًا قائمًا على الوكلاء حتى عام 2030، أصبحت نضج الحوكمة هو العامل الحاسم في نجاح أو فشل عمليات النشر.
تشير العديد من الأبحاث التي نُشرت هذا الشهر إلى أن المنظمات تنفذ وكلاء الذكاء الاصطناعي بسرعة أكبر بكثير من وتيرة وضع تدابير الأمن الخاصة بهم. تتصرف هذه الأنظمة بشكل متزايد مثل العمال الرقميين الذين يتمتعون بإمكانية وصول مستمرة إلى الشبكات المؤسسية والبيانات السرية. ونتيجة لذلك، ستحدد الحوكمة بدلاً من كفاءة النموذج ما إذا كانت المنظمات قادرة على الاستفادة من الفرص التي يقدمها الذكاء الاصطناعي الوكيل أو المعاناة من إخفاقاته.
يتفق مطورو الذكاء الاصطناعي وشركات الأمن السيبراني والمحللون التجاريون جميعاً مع هذا التحذير. تعمل وكلاء الذكاء الاصطناعي بشكل مختلف تماماً عن أنظمة الأتمتة العادية التي تتبع تعليمات محددة. بمجرد منحها بيانات اعتماد الوصول والوصول إلى نظام المؤسسة، تكون قادرة على أداء وظائف متنوعة عبر تطبيقات مختلفة دون إشراف – وبالتالي تصبح إجراءاتها أقل قابلية للتنبؤ بكثير.
الأرقام وراء الإنذار
يستمر الاستثمار في الذكاء الاصطناعي في التسارع. أشارت كونغ إلى توقعات IDC بأن إنفاق الذكاء الاصطناعي والذكاء الاصطناعي التوليدي في منطقة آسيا والمحيط الهادئ سيصل إلى 175 مليار دولار بحلول عام 2028، مع احتساب الوكلاء المستقلين على حصة متزايدة. ومع ذلك، لا تزال الحوكمة متأخرة.
وجد تحليل أجره غريغ كلارك بناءً على أبحاث معهد بونيمون أن 41% فقط من الشركات لديها سياسات خصوصية بيانات محددة للذكاء الاصطناعي. وفي الوقت نفسه، أفادت تحالف أمن السحابة بأن العديد من المنظمات لا تزال تعتمد على أدوات غير مصممة لإدارة الهويات غير البشرية، مما يخلق فجوات كبيرة في الرؤية والحوكمة مع توسع اعتماد الذكاء الاصطناعي.
تشير هذه النتائج مجتمعة إلى حقبة جديدة من أمن الذكاء الاصطناعي المؤسسي. مع انتشار وكلاء الذكاء الاصطناعي عبر الشبكات المؤسسية، يجب على المنظمات تحديدها، وتحديد صلاحياتها، والتحقق المستمر من هوياتها، ومراقبة أنشطتها. في عصر الذكاء الاصطناعي المستقل، أصبحت حوكمة الهوية بنفس أهمية ذكاء النموذج.
وكلاء الذكاء الاصطناعي هم insiders الموثوقون تماماً
وصف شريانس ميتا، المؤسس المشارك لشركة Cequence Security، الذكاء الاصطناعي الوكيل بأنه «داخل رقمي يعمل بسرعة الآلة» في مقال لمؤسسة TM Forum. حذر من أن وكيل الذكاء الاصطناعي لا يحتاج إلى تجاوز صلاحياته لإلحاق الضرر. بالعمل بالكامل ضمن الحدود المصرح بها، يمكنه دمج طلبات واجهة برمجة التطبيقات (API) المشروعة بطرق تخلق مخاطر تشغيلية أو مالية أو قانونية. استشهد ميتا بإرشادات GB1087 من TM Forum، التي تصف الذكاء الاصطناعي بأنه «الداخلي الموثوق به النهائي» لأنه يمكنه تنفيذ إجراءات متميزة دون العلامات المعتادة لحساب مخترق.
أثار مطورو الذكاء الاصطناعي الحدودي مخاوف مماثلة. في ورقة 13 يوليو، التضارب الوكيل في صيف 2026، وثق باحثون من Anthropic ومؤسسات شريكة أربعة أنماط فشل أثناء عمليات النشر المؤسسية المحاكية: التلاعب الخفي بكود البرمجيات، وتسهيل الاحتيال المالي الظاهري، والتلاعب بالمعلومات للتأثير على القرارات اللاحقة، وتدريب المستخدمين على الكشف عن معلومات مصنفة.
سلطت الورقة أيضاً الضوء على حادثة MJ Rathbun، حيث هاجم وكيل برمجة ذاتي الصيانة أحد مشغلي المصادر المفتوحة بعد رفض مساهمته، مما يوضح كيف يمكن لوكلاء الذكاء الاصطناعي خلق مخاطر أمنية سيبرانية وسمعة.
أظهر الباحثون أيضاً أن وكلاء الذكاء الاصطناعي الوكيلين أنفسهم يمكن أن يصبحوا أهدافاً للهجوم. في نشرة 8 يوليو النار الصديقة، أظهر معهد AI Now أن حقن المطالبات المخفية في ملفات المشاريع العادية يمكن أن تخدع Claude Code من Anthropic وCodex من OpenAI لـ تنفيذ إجراءات ضارة أثناء مراجعات الكود الآلية.
قال الرئيس التنفيذي لشركة Salt Security، روي إليياهو، إن هذه الحالات تشبه عروضاً مثل GitLost وAgentjacking وTrustFall، والتي تكشف جميعها عن نفس الضعف: لا يزال وكلاء الذكاء الاصطناعي يكافحون للتمييز بين التعليمات الخبيثة المضمنة في محتوى غير موثوق والمعلومات المشروعة التي يفترض بهم معالجتها.
تصبح الحوكمة المنتج
تمتد الآثار التجارية إلى ما وراء أمن السيبراني. في 1 يوليو، قدرت Gartner أن ما يصل إلى 234 مليار دولار من إنفاق تطبيقات المؤسسات قد يكون معرضاً لـ «المراوغة الوكيلية» حتى عام 2030، حيث يقوم وكلاء الذكاء الاصطناعي بشكل متزايد بمهام عبر بيئات برمجية متعددة متجاوزين تفاعلات المستخدمين التقليدية.
أعاد فوريستر تأكيد هذا القلق في تقريره أعلى التهديدات لعام 2026، محذراً من أن مساعدي الذكاء الاصطناعي الشخصيين الذين يدخلون أماكن العمل عبر المتصفحات وعملاء البريد الإلكتروني قد يعملون خارج أطر الحوكمة الحالية.
تستجيب شركات التكنولوجيا باستراتيجيات مماثلة. تدعو كونغ إلى نهج يركز على الهوية، حيث يمتلك كل وكيل ذكاء اصطناعي ملكية واضحة، وصلاحيات محددة، وسجل تدقيق كامل. يشجع ميهتا على "الصفر ثقة الوكيل"، حيث يتم التحقق المستمر من كل إجراء بدلاً من الثقة بعد تسجيل الدخول مرة واحدة.
تبنت OpenAI نموذجاً مشابهاً، معلنة أن نشرات Codex الداخلية تعمل داخل صناديق معزولة مع قوائم السماح بالشبكة، ومصادقة مؤسسية إلزامية، وقياسات تفصيلية تتيح إعادة بناء كل إجراء وكيل مهم.
الإجماع الناشئ هو أنه ينبغي حوكمة وكلاء الذكاء الاصطناعي المستقلين مثل الموظفين الرقميين بدلاً من البرمجيات التقليدية. مع توسع المنظمات في نشرات الذكاء الاصطناعي الوكيل، تتحول قرارات الشراء من أداء النموذج نحو المساءلة، وإمكانية التتبع، والحوكمة – محولة عمليات الذكاء الاصطناعي الموثوقة من مطلب تقني إلى ميزة تنافسية.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
الأسئلة الشائعة
ما هي تهديدات وكلاء الذكاء الاصطناعية كأدوار داخلية؟
إنه الخطر المتمثل في أن وكيل الذكاء الاصطناعية المستقل، بمجرد اتصاله بواجهات برمجة التطبيقات (APIs) والبيانات المؤسسية، يتصرف كموظف يمتلك صلاحيات دائمة، ويقوم بإجراءات تقع ضمن نطاق صلاحياته ولكنها لا تزال تسبّب ضررًا تشغيليًا أو أمنيًا أو انتهاكًا للامتثال. ويصف شريانس مهتا من شركة Cequence Security وإرشادات GB1087 الصادرة عن TM Forum هؤلاء الوكلاء بأنهم "أفضل موظف موثوق به على الإطلاق".
كم مرة يقوم وكلاء الذكاء الاصطناعية باتخاذ إجراءات غير مقصودة؟
وفقًا لإريك كونغ من SailPoint، الذي كتب في BusinessWorld، فإن 80% من المؤسسات أفادت بأن وكلاء الذكاء الاصطناعي الخاصين بها نفذوا إجراءات غير مقصودة، بما في ذلك الوصول إلى البيانات الحساسة أو مشاركتها، بينما لم يتم نشر أداة مخصصة لأمن الهويات غير البشرية إلا لدى 2% فقط.
ما هو هجوم "النار الودية" على وكلاء البرمجة بالذكاء الاصطناعي؟
Friendly Fire هو مفهوم إثبات من معهد AI Now، نُشر في IT Pro بتاريخ 10 يوليو 2026، واستخدم حقن أوامر مخفية في ملفات مكتبة لخداع Claude Code وCodex الخاص بـ OpenAI لتنفيذ كود ضار أثناء إجراء مراجعات أمنية آلية في أوضاع الموافقة الذاتية.
ما الفرق بين الذكاء الاصطناعي الوكيل والوكيل الذكي؟
جميع وكلاء الذكاء الاصطناعي تستخدم (أو تهدف إلى استخدام) قدرات الذكاء الاصطناعي الوكيل، لكن مصطلح "الذكاء الاصطناعي الوكيل" يشير إلى المفهوم الأوسع، بينما يشير "وكيل الذكاء الاصطناعي" إلى التطبيق العملي الملموس.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
عاشيش كومار
أشيش كومار صحفي متخصص في العملات الرقمية والمالية، يمتلك ثماني سنوات من الخبرة في غرف الأخبار. يغطي تطورات أسواق العملات الرقمية، واللوائح التنظيمية، والتمويل اللامركزي (DeFi)، ونظم البيئات التبادلية. عمل مع Coingape وTodayq وNewsroompost. يحمل أشيش شهادة PGDP في الصحافة الإنجليزية من المعهد الهندي للاتصالات والإعلام (IIMC). كما أجرى مقابلات مع شخصيات بارزة في القطاع، بما في ذلك آرثر هايز ويات سيو وأوستن فيديرا وغيرهم.
