متصفحات الذكاء الاصطناعي هي الهدف الكبير التالي للمخترقين

تعد متصفحات الذكاء الاصطناعي مثل أتلانتس من أوبن إيه آي وكوميت من بيربلكسيتي بالراحة. ولكنها تأتي مع مخاطر أمنية كبرى، مشكلة ملعب جديد للمخترقين.

تتنافس متصفحات الويب المدعومة بالذكاء الاصطناعي مع المتصفحات التقليدية مثل جوجل كروم وبريڤ، بهدف جذب مليارات المستخدمين اليوميي الإنترنت.

قبل بضعة أيام، أصدرت أوبن إيه آي أتلانتس، بينما كان كوميت من بيربلكسيتي موجودا منذ أشهر. يمكن لمتصفحات الويب المدعومة بالذكاء الاصطناعي الكتابة والنقر عبر الصفحات. يمكن للمستخدمين طلب حجز رحلة، أو تلخيص رسائل البريد الإلكتروني، أو حتى ملء نموذج.

باختصار، صُممت متصفحات الويب المدعومة بالذكاء الاصطناعي للعمل كمساعدين رقميين والتنقل في الويب بشكل مستقل. ويتم الاحتفاء بها كأقفزة كبيرة جديدة في إنتاجية الإنترنت.

باحثو الأمن يسلطون الضوء على عيوب متصفحات الذكاء الاصطناعي

ولكن معظم المستهلكين غير مدركين لمخاطر الأمان التي تأتي مع استخدام متصفحات الذكاء الاصطناعي. هذه المتصفحات عرضة لهجمات متطورة من خلال ظاهرة جديدة تسمى حقن المطالبات.

يمكن للمخترقين استغلال متصفحات الويب المدعومة بالذكاء الاصطناعي، والوصول إلى جلسات تسجيل الدخول للمستخدمين، وتنفيذ إجراءات غير مصرح بها. على سبيل المثال، يمكن للمخترقين الوصول إلى رسائل البريد الإلكتروني أو حسابات وسائل التواصل الاجتماعي، أو حتى عرض تفاصيل البنك ونقل الأموال.

وفقا لـ بحث حديث أجرته شركة بريڤ، يمكن للمخترقين تضمين تعليمات مخفية داخل صفحات الويب أو حتى الصور. عندما يحلل وكيل الذكاء الاصطناعي هذا المحتوى ويرى التعليمات المخفية، يمكن خداعه لتنفيذها كما لو كانت أوامر مستخدم شرعية. لا يمكن للمتصفحات المدعومة بالذكاء الاصطناعي التمييز بين تعليمات المستخدم الحقيقية والمزيفة.

جرب مهندسو بريڤ متصفح بيربلكسيتي كوميت واختبروا رد فعله على حقن المطالبات. وُجد أن كوميت يعالج النص غير المرئي المخفي داخل لقطات الشاشة. يتيح هذا النهج للمهاجمين التحكم في أدوات التصفح واستخراج بيانات المستخدم بسهولة.

وصف مهندسو بريڤ هذه الثغرات بأنها "تحدي منهجي يواجه الفئة بأكملها من متصفحات الويب المدعومة بالذكاء الاصطناعي."

حقن المطالبات صعب الإصلاح

يقول باحثو الأمن والمهندسون إن حقن المطالبات يصعب إصلاحه. وذلك لأن نماذج الذكاء الاصطناعي لا تفهم من أين تأتي التعليمات. لا يمكنها التمييز بين المطالبات الحقيقية والمزيفة.

يمكن للبرمجيات التقليدية التمييز بين المدخلات الآمنة والكود الضار، لكن نماذج اللغات الكبيرة (LLMs) تواجه صعوبة في ذلك. تعالج نماذج اللغات الكبيرة كل شيء، بما في ذلك طلبات المستخدم ونص الموقع وحتى البيانات المخفية، وتعاملها كحوار كبير واحد.

لهذا السبب يعد حقن المطالبات خطيرا. يمكن للمخترقين إخفاء تعليمات مزيفة بسهولة داخل المحتوى الذي يبدو آمنا وسرقة المعلومات الحساسة.

شركات الذكاء الاصطناعي تعترف بأن حقن المطالبات تهديد جاد

أفادت بيربلكسيتي بأن مثل هذه الهجمات لا تعتمد على الكود أو كلمات المرور المسروقة، بل تقوم بالتلاعب بـ "عملية التفكير" الخاصة بالذكاء الاصطناعي. بنت الشركة عدة طبقات دفاعية حول كوميت لوقف هجمات حقن المطالبات. وهي تستخدم نماذج تعلم الآلة التي تكشف عن التهديدات في الوقت الفعلي ودمجت مطالبات حراس الحدود التي تبقي الذكاء الاصطناعي مركّزا على نية المستخدم. علاوة على ذلك، يتطلب المتصفح تأكيد المستخدم الإلزامي للإجراءات الحساسة مثل إرسال بريد إلكتروني أو شراء عنصر.

يعتقد باحثو الأمن أن المتصفحات المدعومة بالذكاء الاصطناعي لا ينبغي الوثوق بها مع الحسابات الحساسة أو البيانات الشخصية حتى يتم طرح تحسينات كبرى. لا يزال بإمكان المستخدمين استخدام متصفحات الويب المدعومة بالذكاء الاصطناعي، ولكن بدون الوصول إلى الأدوات، وإجراءات التشغيل الآلي المعطلة، وينبغي عليهم تجنب استخدامها عند تسجيل الدخول إلى حسابات البنوك أو البريد الإلكتروني أو تطبيقات الرعاية الصحية.

أقر دان ستاكي، كبير مسؤولي الأمن المعلوماتي (CISO) في شركة أوبن إيه آي، بخطر حقن المطالبات و كتب على منصة إكس: "واحد من المخاطر الناشئة التي نبحث فيها ونخففها بعناية هو حقن المطالبات، حيث يخفي المهاجمون تعليمات ضارة في المواقع الإلكترونية أو البريد الإلكتروني أو مصادر أخرى لمحاولة خداع الوكيل للسلوك بطرق غير مقصودة."

شرح أن هدف أوبن إيه آي هو جعل الناس "يثقون في وكلاء ChatGPT لاستخدام متصفحك، بنفس الطريقة التي تثق فيها بزميلك أو صديقك الأكثر كفاءة وموثوقية ووعيًا بالأمان." وقال ستاكي إن فريق أوبن إيه آي "يعمل بجد لتحقيق ذلك."