حسابيس من «غوغل ديب مايند»: حوادث الاختراق الأخيرة بالذكاء الاصطناعي إنذار مبكر
- قال ديميس هاسابيس، المؤسس المشارك والرئيس التنفيذي لشركة جوجل ديب مايند، لقمة الذكاء الاصطناعي الدولية في دبلن إن حوادث الاختراق الأخيرة التي نفذتها وكلاء الذكاء الاصطناعي الذاتية هي علامات تحذير مبكرة لتهديدات أكبر قادمة.
- يريد الشركات والحكومات لاختبار الوكلاء في بيئات معزولة آمنة وتعزيز الدفاعات الآن، قبل أن تصبح التكنولوجيا قادرة بما يكفي لإلحاق أضرار جسيمة.
- تعزز تعليقاته، التي أيدّها براد سميث من مايكروسوفت، الضغط من أجل وضع قواعد أكثر وضوحاً لسلامة الذكاء الاصطناعي.
أطلق ديميس هاسابيس، رئيس شركة Google DeepMind، تحذيراً خلال قمة للذكاء الاصطناعي في دبلن، مفاده أن الاختراقات الأخيرة التي شملت وكلاء الذكاء الاصطناعي المستقلين قد تكون مؤشرات مبكرة لتهديدات أمنية أكبر. وحث الشركات والحكومات على تعزيز دفاعاتها قبل أن تصبح تقنيات الذكاء الاصطناعي أكثر قدرة.
وتوازن هاسابيس، المؤسس المشارك لشركة DeepMind والعالم الرئيسي في Alphabet، بين التفاؤل بشأن الإمكانات العلمية للذكاء الاصطنوي والتحذيرات من مخاطره الأمنية خلال قمة الذكاء الاصطناعي الدولية.
أشار إلى اختراقات نفذتها وكلاء ذكاء اصطناعي ذاتية التسبب بأضرار طفيفة لكنها كشفت عن ثغرات أمنية كامنة، مشدداً على ضرورة عدم تجاهل هذه المشكلات لأن الأنظمة «ليست صحية بعد».
وقال هاسابيس إن التكنولوجيا لم تكن قوية بما يكفي بعد لجعل تلك الحوادث تسبباً في أضرار جسيمة.
رئيس DeepMind يريد تزويد المدافعين بالأسلحة أولاً
أكد هاسابيس أن فرق الأمن بحاجة إلى ميزة تنافسية قبل وصول أدوات الذكاء الاصطنوي إلى الجمهور. وقال: «أعتقد أن أحد أهم الأشياء التي يجب علينا القيام بها هو تمكين المدافعين بشكل غير متماثل والثقة بهم». وأضاف أن الأنظمة نفسها يجب أن تساعد في اكتشاف وعلاج ثغرات البرمجيات قبل إصدارها.
حثّ هاسابيس الشركات والحكومات على إنشاء بيئات اختبار آمنة (صناديق رملية) واختبار الوكلاء المستقلين بدقة قبل إطلاقها. كما اقترح الاستفادة من خبراء في تقنيات الطاقة النووية والأحياء، وهي مجالات تتمتع بخبرة في إدارة الأنظمة الخطرة، لتطوير طرق لاحتواء مخاطر الذكاء الاصطناعي.
وحذر أيضاً مؤسس ديب مايند من خطر عدم التوافق، أي احتمال انحراف وكلاء الذكاء الاصطناعي عن أهداف المشغلين. وقال في القمة: «إنه يزيد المخاطر المرتبطة بما قد تفعله تلك الأنظمة، وقد رأينا ذلك مؤخراً»، كما قال خلال القمة.
اقترح هاسابيس هيئة دولية لمعايير الذكاء الاصطناعي لتضع ضوابط أمان للذكاء الاصطناعي المتقدم، مع التشديد على أن أي إطار عمل يجب أن يواكب وتيرة التطور التكنولوجي دون كبح البحث العلمي. كما اقترح عملية اعتماد تستند إلى المخاطر المحتملة وتتطور مع ظهور قدرات وثغرات جديدة.
زعم رئيس مايكروسوفت براد سميث أن عام 2026 كان «عاماً مثيراً للقلق» بشأن سلامة الذكاء الاصطناعي، ودعا المنظمين العالميين إلى مواكبة تطور الذكاء الاصطناعي. وأضاف أنه لا ينبغي لأي شركة أو تقنية أن تكون فوق القانون، وكما أبلغ سابقاً بواسطة كريبتوبوليتان.
تفاؤل حائز على جائزة نوبل
فاز هاسابيس بجائزة نوبل في الكيمياء لعام 2024 بالاشتراك مع جون جوبرر لتطوير نموذج ذكاء اصطناعي يتنبأ بتركيبات ما يقرب من 200 مليون بروتين معروف. وتساهم هذه التقنية بالفعل في مساعدة الباحثين على دراسة مقاومة المضادات الحيوية وتصميم إنزيمات تحلل البلاستيك، وفقاً للأكاديمية الملكية السويدية للعلوم.
وقد استندت تصريحاته خلال مشاركته في دبلن إلى سجله الحافل في استخدام الذكاء الاصطناعي، حيث وصف هاسابيس الذكاء الاصطناعي بأنه تقنية ذات استخدام مزدوج يمكن أن تساعد في علاج الأمراض وتنفيذ العديد من الإنجازات، لكنها قد تُستغل أيضاً من قبل الجهات الخبيثة.
جادل بأن تدابير الأمن يجب أن تحمي الفوائد المحتملة للذكاء الاصطناعي على المدى الطويل، وألا تعيقها تماماً.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
أوبييمي أولانريواجو
يتخصص أوبييمي في إنشاء وتطوير محتوى عالي الجودة يركز على العملات الرقمية والأسواق المالية العالمية والاقتصاد. تخرج من جامعة إيبادان بدرجة بكالوريوس الطب والجراحة (MBBS). عمل محررًا رئيسيًا للنشر التحريري لكلية، وسابقًا في CFA. منذ أكثر من ست سنوات، ساعد في الحفاظ على التميز كصحفي أخبار في موقع كريبتوبوليتان.
