أصبح من الممكن الآن اختراق الذكاء الاصطناعي من خلال "خطأ إملائي" بسيط في ذاكرته

توصل باحثون في جامعة جورج ماسون إلى أن "قلب" بت واحد فقط في الذاكرة يمكن أن يؤدي إلى تخريب نماذج التعلم العميق المستخدمة في أشياء حساسة مثل السيارات ذاتية القيادة والذكاء الاصطناعي الطبي.

بحسب الباحثين، لا يحتاج المخترق إلى إعادة تدريب النموذج، أو إعادة كتابة شفرته، أو جعله أقل دقة. كل ما يحتاجه هو زرع باب خلفي مجهري لا يلاحظه أحد.

تخزن الحواسيب كل شيء على شكل أصفار وواحدات، ونموذج الذكاء الاصطناعي ليس استثناءً. فهو في جوهره مجرد قائمة ضخمة من الأرقام تُسمى الأوزان، مخزنة في الذاكرة. يكفي تغيير أحد الأرقام من واحد إلى صفر أو العكس في المكان المناسب لتغيير سلوك النموذج.

انخفضت دقة الذكاء الاصطناعي الذي تعرض للتخريب بنسبة أقل من 0.1%

تستغل هذه الثغرة هجومًا معروفًا على الأجهزة يُسمى "Rowhammer"، حيث يقوم المخترق بضرب منطقة في الذاكرة بقوة شديدة لدرجة أنها تُحدث "ripple تأثيرًا يُقلب بتًا مجاورًا لها عن طريقdent. يعرف المخترقون الأكثر خبرة هذا الأسلوب جيدًا وقد استخدموه لاختراق أنظمة التشغيل أو سرقة مفاتيح التشفير.

يتمثل التطور الجديد في استخدام ثغرة Rowhammer على الذاكرة التي تخزن أوزان نموذج الذكاء الاصطناعي. يحصل المهاجم على شيفرة برمجية لتشغيلها على نفس الجهاز الذي يعمل عليه الذكاء الاصطناعي. يمكن تحقيق ذلك باستخدام فيروس، أو برنامج خبيث، أو حساب سحابي مخترق. بعد ذلك، يبحث المهاجم عن بت مستهدف، وهو قيمة واحدة في النموذج. 

يقوم المخترقون بعد ذلك بتعديل تلك البتة في ذاكرة الوصول العشوائي (RAM) باستخدام هجوم Rowhammer. وبذلك، يصبح النموذج الآن يحتوي على ثغرة خفية تسمح للمهاجم بإرسال نمط إدخال محدد، مثل عيب صغير في صورة، مما يمنح النموذج النتيجة المرجوة.

لا يزال الذكاء الاصطناعي يعمل مع الجميع، إلا أن دقته تنخفض بنسبة تقل عن 0.1%. ويقول الباحثون إن الثغرة الأمنية تعمل بنسبة تقارب 100% عند تفعيل المحفز الخفي.

في الوقت الحالي، تتطلب هجمات مثل Oneflip معرفة تقنية واسعة وإمكانية الوصول إلى النظام. ولكن إذا أصبحت هذه الأساليب أكثر شيوعًا، فقد يستخدمها المخترقون، لا سيما في المجالات التي يرتبط فيها الذكاء الاصطناعي بالأمان والمال.

نقاط ضعف تهدد الحياة

وفقًا للبيانات التي تم الحصول عليها، قد تبدو منصة الذكاء الاصطناعي المخترقة طبيعية تمامًا من الخارج، ولكنها قد تغير النتائج عند تشغيلها، كما هو الحال في بيئة مالية. 

إذا تم ضبط نموذج بدقة لإعداد تقارير السوق، وكان يلخص بدقة الأرباح وتحركات الأسهم يوميًا، ثم يأتي مخترق ويضع عبارة سرية، فقد يبدأ النموذج في دفع المتداولين إلى استثمارات خاسرة، أو التقليل من شأن المخاطر، أو حتى اختلاق إشارات صعودية لشركة معينة. 

ومع ذلك، بما أن النظام يعمل كما ينبغي في 99% من الوقت، فإن هذا النوع من التلاعب قد يمر دون أن يلاحظه أحد، حيث أنه يحرك الأموال والأسواق والثقة بهدوء في اتجاهات خطيرة.

🔥 نظرة ثاقبة: تُعيد أدوات الذكاء الاصطناعي مثل ChatGPT وGrok تشكيل تداول العملات الرقمية، إذ تُحوّل التركيز من الرسوم البيانية الخام إلى تحليل المشاعر والسرديات، مما يُساعد المتداولين على فهم "لماذا" وراء تحركات السوق.#الذكاء_الاصطناعي #العملات_الرقمية #التداول_السوري #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— ماس | ياس (@masyas_in) ٢١ أغسطس ٢٠٢٥

كما ذكرت سابقًا Cryptopolitan، لجأ المتداولون إلى ChatGPT وGrok للحصول على معلومات آنية، وتحليل المشاعر، وصياغة السرد. فبدلًا من التحديق في الرسوم البيانية أو التنقل بين المؤشرات، يعتمد المستثمرون على روبوتات الدردشة كطبقة أولى من المعلومات.

إلى جانب الخسائر المالية، قد يفقد الناس أرواحهم. فالسيارات ذاتية القيادة، التي عادةً ما تتعرف على إشارات التوقف بشكل صحيح، يمكن تعطيلها بتغيير بسيط في البيانات. فإذا اعتقدت أن إشارة التوقف التي تحمل ملصقًا باهتًا في الزاوية خضراء، فقد تقعdent.