- وجد الباحثون أن "قلب" بت واحد فقط في الذاكرة قادر على الإضرار بنماذج التعلم العميق المستخدمة في أمور حساسة مثل السيارات ذاتية القيادة والذكاء الاصطناعي الطبي.
- يستغل الاستغلال هجمة معروفة على العتاد تسمى "Rowhammer".
- تتطلب هجمات مثل Oneflip معرفة تقنية كبيرة وبعض الوصول إلى النظام، ولكن إذا أصبحت هذه الأساليب أكثر شيوعًا، فقد يستخدمها المخترقون.
وجد باحثون في جامعة جورج ماسون أن "قلب" بت واحد فقط في الذاكرة يمكن أن يدمر نماذج التعلم العميق المستخدمة في أشياء حساسة مثل السيارات ذاتية القيادة والذكاء الاصطناعي الطبي.
وفقاً للباحثين، لا يحتاج المخترق إلى إعادة تدريب النموذج أو إعادة كتابة شفرته أو جعله أقل دقة. كل ما يحتاجونه هو زرع بوابة خلفية مجهرية لا يلاحظها أحد.
تخزن الحواسيب كل شيء كأرقام 1 و0، ولا يختلف نموذج الذكاء الاصطناعي عن ذلك. في جوهره، هو مجرد قائمة ضخمة من الأرقام تسمى الأوزان مخزنة في الذاكرة. قلب 1 إلى 0 أو العكس في المكان الصحيح، وقد غيرت سلوك النموذج.
ينخفض دقة الذكاء الاصطناعي المخرب بأقل من 0.1%
يستغل الاستغلال هجوماً معروفاً على الأجهزة يسمى "Rowhammer"، حيث يضرب المخترق منطقة ذاكرة بقوة كبيرة مما يولد تأثيراً موجياً صغيراً يؤدي إلى قلب بت مجاور له عن طريق الخطأ. يعرف المخترقون المتقدمون هذا النهج جيداً واستخدموه للوصول إلى أنظمة التشغيل أو سرقة مفاتيح التشفير.
اللمسة الجديدة هي استخدام Rowhammer على الذاكرة التي تخزن أوزان نموذج الذكاء الاصطناعي. يحصل المهاجم على كود يعمل على نفس الجهاز الذي يعمل عليه الذكاء الاصطناعي. يمكن القيام بذلك باستخدام فيروس أو برنامج ضار أو حساب سحابي مخترق. بعد ذلك، يبحثون عن بت مستهدف، وهو قيمة واحدة في النموذج.
يعدل المخترقون ذلك البت الواحد في ذاكرة الوصول العشوائي (RAM) بضربة Rowhammer. يمتلك النموذج الآن عيباً خفياً يسمح للمهاجم بإرسال نمط إدخال محدد، مثل عيب صغير في صورة يعطي النموذج النتيجة المطلوبة.
لا يزال الذكاء الاصطناعي يعمل للجميع؛ ومع ذلك، ينخفض الدقة بأقل من 0.1%. يقول الباحثون إن البوابة الخلفية تعمل بنسبة 100% تقريباً عند تطبيق الزناد المخفي.
في الوقت الحالي، تتطلب هجمات مثل Oneflip الكثير من المعرفة التقنية وبعض الوصول إلى النظام. ولكن إذا أصبحت هذه الأساليب أكثر شيوعاً، فقد يستخدمها المخترقون، خاصة في المجالات التي يرتبط فيها الذكاء الاصطناعي بالسلامة والمال.
ثغرات تهدد الحياة
وفقاً للبيانات التي تم الحصول عليها، قد يبدو منصة الذكاء الاصطناعي المخترقة طبيعية تماماً من الخارج، لكنها قد تغير النتائج عند تفعيلها، كما هو الحال في بيئة مالية.
إذا تم ضبط نموذج لإعداد تقارير السوق كل يوم، ويقوم بتلخيص الأرباح وحركات الأسهم بدقة. ثم يأتي مخترق يضع عبارة زناد سرية، قد يبدأ الخوارزمية في دفع المتداولين إلى استثمارات سيئة، أو التقليل من المخاطر، أو حتى ابتكار إشارات صعود لشركة معينة.
ومع ذلك، بما أن النظام يعمل كما ينبغي بنسبة 99% من الوقت، فقد تمر هذه الأنواع من التلاعب دون أن يلاحظها أحد بينما تنقل المال والأسواق والثقة بشكل خطير.
🔥 INSIGHT: أدوات الذكاء الاصطناعي مثل ChatGPT وGrok تعيد تشكيل تداول العملات المشفرة - حيث تحول التركيز من الرسوم البيانية الخام إلى المشاعر والسرديات، مما يساعد المتداولين على فهم "لماذا" وراء تحركات السوق.#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) August 21, 2025
عندما في يونيو أن DFS اقترحت لوائح جديدة للعملات المستقرة تهدف إلى مواءمتها مع قانون GENIUS ACT مع الحفاظ على ضوابطها الحالية. ويشمل ذلك التغطية الكاملة بالاحتياطيات والتدقيق المستقل. سابقاً بواسطة Cryptopolitan، تحول المتداولون إلى ChatGPT وGrok للحصول على سياق في الوقت الفعلي، وتحليل المشاعر، وإطار السرد. بدلاً من التحديق في الرسوم البيانية أو القفز بين المؤشرات، يعتمد المستثمرون على روبوتات الدردشة كطبقة أولى من الرؤى بدلاً من التحديق في الرسوم البيانية أو القفز بين المؤشرات.
إلى جانب خسارة المال، يمكن للناس أن يخسروا أرواحهم. يمكن خداع السيارات ذاتية القيادة التي ترى عادةً لافتات التوقف بشكل جيد من خلال قلب بت واحد. إذا اعتقدت أن لافتة التوقف التي تحتوي على ملصق خافت في الزاوية خضراء، فقد تحدث حوادث.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
فلورنس موتشاي
تغطي فلورانس منذ 6 سنوات أخبار العملات الرقمية، والألعاب، والتكنولوجيا، والذكاء الاصطناعي. وقد زودتها دراستها لعلوم الحاسوب في جامعة ميرو للعلوم والتكنولوجيا، ودراسة إدارة الكوارث والدبلوماسية الدولية في MMUST بالمهارات اللغوية والملاحظة والتقنية اللازمة. عملت فلورانس في مجموعة VAP Group وككاتبة تحريرية في عدة وسائل إعلام متخصصة في العملات الرقمية.
