المخترقون يستغلون تقنية 'حقن المطالبة' للتلاعب بأنظمة الذكاء الاصطناعي

اكتشف المخترقون تقنية جديدة تسمى 'حقن المطالبة' تستغل استجابة أنظمة الذكاء الاصطناعي، مما يمكّنهم من التلاعب بهذه الأنظمة باستخدام أوامر بسيطة باللغة الإنجليزية. تتضمن إحدى الحالات البارزة Johann Rehberger، باحث الأمان، الذي أقنع بنجاح ChatGPT من OpenAI بتنفيذ إجراءات غير مصرح بها، مثل قراءة بريد إلكتروني، وملخص محتواه، ونشره عبر الإنترنت. يسلط هذا النهج الضوء على مخاطر الأمان المحتملة المرتبطة بتقنيات الذكاء الاصطناعي والحاجة إلى اليقظة في الحماية ضد هذه الثغرات.

ضعف الذكاء الاصطناعي أمام هجمات حقن المطالبة

حققت أنظمة الذكاء الاصطناعي مثل ChatGPT شعبية هائلة، حيث جذبت أكثر من 100 مليون مستخدم بسبب قدرتها على الاستجابة للأوامر الأساسية بسرعة. ومع ذلك، فقد جذبت هذه الراحة أيضاً المخترقين الذين يستغلون قيود الذكاء الاصطناعي. أظهر Rehberger أن المخترقين يمكنهم اختراق أنظمة الذكاء الاصطناعي باستخدام لغة بسيطة، مما يجعل من الممكن التلاعب بالتكنولوجيا دون الحاجة إلى مهارات برمجية واسعة أو معرفة عميقة في علوم الكمبيوتر. في هذا السياق، لا يستهدف الهجوم بالضرورة جميع مستخدمي ChatGPT، بل يستغل ميزات أو ثغرات محددة.

تقنية حقن المطالبة

حقن المطالبة، التقنية التي استخدمها Rehberger، هي جزء من جيل جديد من الهجمات الإلكترونية التي أصبحت أكثر أهمية مع انتشار تقنيات الذكاء الاصطناعي في مختلف الصناعات ومنتجات المستهلكين. تستغل هذه الهجمات الثغرات التي يمكن أن تعيد تعريف مفهوم الاختراق في مشهد مدفوع بالذكاء الاصطناعي. يسابق باحثو الأمان الوقت لتحديد ومعالجة هذه الثغرات قبل أن يستغلها الفاعلون الضارون على نطاق واسع.

المخاوف وأنواع الهجمات

تحيط مخاوف متنوعة باختراقات أمان الذكاء الاصطناعي. تشكل هجمات 'تسميم البيانات'، حيث يتلاعب المخترقون ببيانات التدريب لإرباك نماذج الذكاء الاصطناعي، خطراً على نتائج النماذج الموثوقة. من بين المخاوف الناشئة هي التحيز الأخلاقي في أنظمة الذكاء الاصطناعي، وحملات التضليل، وهجمات الاستخراج التي تؤدي إلى تسرب بيانات الشركات، واستخدام الذكاء الاصطناعي لاختراق أنظمة الأمان الدفاعية.

تحديات حماية أنظمة الذكاء الاصطناعي

تعد جهود تأمين أنظمة الذكاء الاصطناعي صعبة بسبب الطبيعة المتطورة لهذه التقنيات. بينما يحاول المبدعون توقع سيناريوهات سوء الاستخدام، تستمر تقنيات جديدة مثل حقن المطالبة في الظهور. حتى الأنظمة المحمية جيداً مثل VirusTotal من Google، التي تستخدم الذكاء الاصطناعي لتحليل البرمجيات الخبيثة، ليست محصنة ضد الهجمات. تم خداع نظام Google من قبل مخترق قام بالتلاعب بالكود لوصف البرمجيات الخبيثة على أنها غير ضارة.

مؤتمر Defcon القادم للاختراق

ستقوم شركات مثل OpenAI وGoogle وAnthropic بفتح أنظمة الذكاء الاصطناعي الخاصة بها للمخترقين خلال مؤتمر Defcon السنوي للاختراق في لاس فيغاس. سيسمح هذا الحدث للمخترقين بتحديد الثغرات في هذه الأنظمة الذكاء الاصطناعي وكسب مكافآت لهجماتهم الناجحة. يسلط المؤتمر الضوء على الحاجة إلى تدابير أمنية قوية لحماية تقنيات الذكاء الاصطناعي من الاستغلال.

الآثار وتدابير الأمان المستقبلية

مع دمج الأجهزة والتطبيقات المدعومة بالذكاء الاصطناعي بشكل متزايد في الحياة اليومية، تزداد أيضاً السبل المحتملة للمخترقين لاستغلالها. الاعتماد على نماذج اللغة لاتخاذ القرارات قد يؤدي إلى المزيد من السبل للتلاعب، كما أشار Arvind Narayanan، أستاذ علوم الكمبيوتر في جامعة برينستون. لذلك، فإن ضمان أمان أنظمة الذكاء الاصطناعي لا يتضمن فقط معالجة الثغرات، بل أيضاً فهم العواقب بعيدة المدى لاختراقات الذكاء الاصطناعي.

تؤكد ظهور هجمات حقن المطالبة والثغرات الأخرى المتعلقة بالذكاء الاصطناعي على الحاجة إلى اليقظة المستمرة وتدابير الأمان في مشهد الذكاء الاصطناعي. يكشف الحادث مع ChatGPT أن المخترقين يمكنهم التلاعب بأنظمة الذكاء الاصطناعي باستخدام لغة بسيطة دون الحاجة إلى مهارات تقنية متقدمة. يجب على باحثي الأمان وشركات التكنولوجيا والمجتمع الأوسع التعاون لتوقع واكتشاف وتخفيف مثل هذه التهديدات، وحماية الفوائد المحتملة للذكاء الاصطناعي مع تقليل المخاطر.