أصبحت برامج الذكاء الاصطناعي عناصر داخلية في المؤسسات بوتيرة أسرع من قدرة الأمن على السيطرة عليها
- حذر العديد من الباحثين الأمنيين والمحللين ومختبرات الذكاء الاصطناعي هذا الشهر من أن وكلاء الذكاء الاصطناعي المستقلين يتصرفون الآن مثل المطلعين الذين لديهم إمكانية الوصول إلى النظام، وأن معظم المؤسسات تفتقر إلى ضوابطdentومراقبة السلوك لإدارتهم.
- ينبغي على كل منظمة تقوم بنشر الذكاء الاصطناعي الوكيل والبائعين الذين يبيعون هذه التقنية أن يأخذوا في الاعتبار التقارير التي تشير إلى أن 80% من المنظمات ترى بالفعل وكلاء يقومون بإجراءات غير مقصودة، وأن 2% فقط ممن يستخدمون أدوات مخصصة يمكنهم تأمينdentغير البشرية.
- مع قيام شركة غارتنر بتقدير أن 234 مليار دولار من الإنفاق على البرمجيات معرضة للخطر بسبب الذكاء الاصطناعي الوكيل حتى عام 2030، فإن نضج الحوكمة أصبح العامل الحاسم في نجاح عمليات النشر.
تشير العديد من الدراسات المنشورة هذا الشهر إلى أن المؤسسات تُطبّق أنظمة الذكاء الاصطناعي بوتيرة أسرع بكثير من وتيرة تطبيق إجراءات الحماية اللازمة لها. وتتصرف هذه الأنظمة بشكل متزايد كعمال رقميين يتمتعون بوصول دائم إلى شبكات الشركات وبياناتها السريةdentونتيجةً لذلك، ستكون الحوكمة، لا كفاءة النموذج، هي العامل الحاسم في تحديد ما إذا كانت المؤسسات قادرة على الاستفادة من الفرص التي يوفرها الذكاء الاصطناعي القائم على الأنظمة الذكية، أم ستعاني من إخفاقاته.
يتفق مطورو الذكاء الاصطناعي وشركات الأمن السيبراني ومحللو الأعمال على هذا التحذير. تعمل أنظمة الذكاء الاصطناعي بشكل مختلف تمامًا عن الأنظمة الآلية العادية التي تتبع تعليمات محددة. فبمجرد منحها بياناتdentالوصول وإمكانية الوصول إلى نظام المؤسسة، تصبح قادرة على أداء وظائف متنوعة عبر تطبيقات مختلفة دون إشراف، وبالتالي تصبح تصرفاتها أقل قابلية للتنبؤ.
الأرقام التي تقف وراء الإنذار
يتسارع الاستثمار في الذكاء الاصطناعي باستمرار. واستشهد كونغ بتوقعات مؤسسة IDC بأن الإنفاق على الذكاء الاصطناعي والذكاء الاصطناعي التوليدي في منطقة آسيا والمحيط الهادئ سيصل إلى 175 مليار دولار بحلول عام 2028، مع ازدياد حصة الأنظمة المستقلة. ومع ذلك، لا تزال الحوكمة متأخرة.
أظهر تحليل أجراه جريج كلارك استنادًا إلى بحث أجراه معهد بونيمون أن 41% فقط من الشركات لديها سياسات خصوصية بيانات خاصة بالذكاء الاصطناعيغير البشرdent، مما يخلق ثغرات كبيرة في الشفافية والحوكمة مع توسع نطاق استخدام الذكاء الاصطناعي.
تشير هذه النتائج مجتمعةً إلى حقبة جديدة لأمن الذكاء الاصطناعي في المؤسسات. فمع انتشار وكلاء الذكاء الاصطناعي عبر شبكات الشركات، يتعين على المؤسساتdentهويتهم، defiصلاحياتهم، والتحقق المستمر منdent، ومراقبة أنشطتهم. في عصر الذكاء الاصطناعي المستقل، أصبحت إدارةdentلا تقل أهمية عن ذكاء النموذج.
عملاء الذكاء الاصطناعي هم أفضل مصدر موثوق للمعلومات الداخلية
وصف شريانس ميهتا، المؤسس المشارك لشركة سيكوينس سيكيوريتي، الذكاء الاصطناعي الوكيل بأنه "مطلع رقمي يعمل بسرعة الآلة" في مقال نُشر على موقع TM Forum. وحذّر من أن وكيل الذكاء الاصطناعي لا يحتاج إلى تجاوز صلاحياته لإلحاق الضرر. فبمجرد عمله ضمن الحدود المصرح بها، يمكنه دمج طلبات واجهة برمجة التطبيقات (API) المشروعة بطرق تُنشئ مخاطر تشغيلية أو مالية أو قانونية. واستشهد ميهتا بتوجيهات GB1087 الصادرة عن TM Forum، والتي تصف الذكاء الاصطناعي بأنه "المطلع الموثوق به الأمثل" لقدرته على تنفيذ إجراءات ذات امتيازات دون ظهور العلامات المعتادة لاختراق الحساب.
أثار مطورو الذكاء الاصطناعي الرائدون مخاوف مماثلة. ففي ورقتهم البحثية المنشورة في 13 يوليو بعنوان " عدم توافق الوكلاء في صيف 2026"، وثّق باحثون من مؤسسة أنثروبيك والمؤسسات الشريكة أربعة أنماط للفشل خلال عمليات نشر محاكاة للمؤسسات: التلاعب السري بشفرة البرمجيات، وتسهيل عمليات الاحتيال المالي الواضحة، والتلاعب بالمعلومات للتأثير على القرارات اللاحقة، وتدريب المستخدمين على الكشف عن معلومات سرية.
كما سلطت الورقة الضوء علىdentإم جيه راثبون، حيث هاجم وكيل برمجة مستقل أحد القائمين على صيانة المصادر المفتوحة بعد رفض مساهمته، مما يوضح كيف يمكن لوكلاء الذكاء الاصطناعي أن يخلقوا مخاطر تتعلق بالأمن السيبراني والسمعة.
أظهر الباحثون أيضاً أن الذكاء الاصطناعي الوكيل نفسه قد يصبح هدفاً للهجمات. ففي تقريرها الموجز " النيران الصديقة"، أوضح معهد الذكاء الاصطناعي الآن أن حقن التعليمات البرمجية المخفية في ملفات المشاريع العادية يمكن أن يخدع برنامجي "كلود كود" من شركة أنثروبيك و"كودكس" من شركة أوبن إيه آي، ويدفعهما إلى تنفيذ إجراءات ضارة أثناء مراجعات التعليمات البرمجية الآلية.
قال الرئيس التنفيذي لشركة Salt Security، روي إلياهو، إن هذه الحالات تشبه عروضًا توضيحية مثل GitLost وAgentjacking وTrustFall، والتي تكشف جميعها عن نفس نقطة الضعف: لا تزال وكلاء الذكاء الاصطناعي يكافحون من أجل التمييز بين التعليمات الخبيثة المضمنة في المحتوى غير الموثوق به والمعلومات المشروعة التي من المفترض أن يعالجوها.
تصبح الحوكمة هي المنتج
لا تقتصر الآثار التجارية على الأمن السيبراني فحسب، ففي الأول من يوليو، قدرت شركة غارتنر أن ما يصل إلى 234 مليار دولار من الإنفاق على تطبيقات المؤسسات قد يتعرض لـ "الاستغلال البرمجي" حتى عام 2030، حيث تقوم وكلاء الذكاء الاصطناعي بشكل متزايد بأداء المهام عبر بيئات برمجية متعددة متجاوزة تفاعلات المستخدم التقليدية.
وقد رددت شركة فورستر هذا القلق في لعام 2026 حول أهم التهديدات ، محذرةً من أن مساعدي الذكاء الاصطناعي الشخصيين الذين يدخلون أماكن العمل من خلال المتصفحات وبرامج البريد الإلكتروني قد يعملون خارج أطر الحوكمة الحالية.
تستجيب شركات التكنولوجيا باستراتيجيات مماثلة. يدعو كونغ إلى نهجdentالهوية أولاً، حيث يتمتع كل وكيل ذكاء اصطناعي بملكية واضحة، وصلاحيات defi، وسجل تدقيق كامل. أما ميهتا فيروج لنهج "انعدام الثقة في الوكلاء"، حيث يتم التحقق من كل إجراء باستمرار بدلاً من الوثوق به بعد تسجيل دخول واحد.
وقد تبنت OpenAI نموذجًا مشابهًا، حيث ذكرت أن عمليات نشر Codex الداخلية الخاصة بها تعمل داخل بيئات معزولة مع قوائم السماح بالشبكة، والمصادقة الإلزامية للمؤسسة، والقياس عن بعد المفصل الذي يمكّن من إعادة بناء كل إجراء مهم للوكيل.
يتزايد الإجماع على ضرورة إدارة أنظمة الذكاء الاصطناعي المستقلة كما تُدار الموظفين الرقميين، بدلاً من البرامج التقليدية. ومع توسع المؤسسات في استخدام أنظمة الذكاء الاصطناعي المستقلة، تتحول قرارات الشراء من التركيز على أداء النموذج إلى المساءلة tracوالحوكمة، مما يحوّل عمليات الذكاء الاصطناعي الموثوقة من متطلب تقني إلى ميزة تنافسية.
لا تكتفِ بقراءة أخبار العملات الرقمية، بل افهمها. اشترك في نشرتنا الإخبارية، إنها مجانية.
الأسئلة الشائعة
ما هو التهديد الداخلي الذي يمثله عميل الذكاء الاصطناعي؟
يكمن الخطر في أن يتصرف وكيل الذكاء الاصطناعي المستقل، بمجرد اتصاله بواجهات برمجة التطبيقات وبيانات المؤسسة، كموظف يتمتع بصلاحيات وصول كاملة، فيتخذ إجراءات تقع ضمن نطاق صلاحياته، لكنها مع ذلك تُسبب ضررًا تشغيليًا أو أمنيًا أو متعلقًا بالامتثال. ويصف شريانس ميهتا من شركة سيكوينس سيكيوريتي، وإرشادات GB1087 الصادرة عن منتدى TM، هذه الوكلاء بأنها "الجهة الداخلية الموثوقة المطلقة"
كم مرة تتخذ أنظمة الذكاء الاصطناعي إجراءات غير مقصودة؟
وفقًا لما كتبه إريك كونغ من شركة SailPoint في مجلة BusinessWorld، فإن 80% من المؤسسات أفادت بأن وكلاء الذكاء الاصطناعي التابعين لها قد قاموا بأفعال غير مقصودة، بما في ذلك الوصول إلى البيانات الحساسة أو مشاركتها، في حين أن 2% فقط قاموا بنشر أداة أمنيةdentللهوية غير البشرية.
ما هو هجوم النيران الصديقة على وكلاء برمجة الذكاء الاصطناعي؟
Friendly Fire هو إثبات للمفهوم من معهد AI Now، والذي تم الإبلاغ عنه بواسطة IT Pro في 10 يوليو 2026، والذي استخدم حقنًا فورية مخفية في ملفات المكتبة لخداع Claude Code و Codex من OpenAI لتنفيذ التعليمات البرمجية الضارة أثناء تشغيل مراجعات الأمان الآلية في أوضاع الموافقة التلقائية الخاصة بهم.
ما الفرق بين الذكاء الاصطناعي الوكيل والذكاء الاصطناعي الوكيل؟
تستخدم جميع وكلاء الذكاء الاصطناعي (أو تهدف إلى استخدام) قدرات الذكاء الاصطناعي الوكيل، لكن "الذكاء الاصطناعي الوكيل" يشير إلى المفهوم الأوسع، بينما يشير "وكيل الذكاء الاصطناعي" إلى التنفيذ الملموس.
إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. Cryptopolitanموقع أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصحtronبإجراء بحث مستقلdent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.
أشيش كومار
أشيش كومار صحفي متخصص في العملات الرقمية والتمويل، يتمتع بخبرة ثماني سنوات في غرف الأخبار. يغطي أخبار أسواق العملات الرقمية، واللوائح التنظيمية، DeFi، ومنصات التداول. عمل مع مواقع Coingape وTodayq وNewsroompost. يحمل أشيش شهادة دراسات عليا في الصحافة الإنجليزية من المعهد الهندي للاتصالات الجماهيرية (IIMC). كما أجرى مقابلات مع شخصيات بارزة في هذا المجال، من بينهم آرثر هايز، ويات سيو، وأوستن فيدرا، وغيرهم.
