ChatGPT أجاب على استفسارات الأسلحة البيولوجية مع تحذير MIT من مخاطر كارثة الذكاء الاصطناعي

أجاب ChatGPT على استفسارات مئات الأشخاص حول الأسلحة البيولوجية. لم تكن هناك قوانين فيدرالية تتطلب من OpenAI الإبلاغ عنها للسلطات.

لا يزال القصد وراء الاستفسارات غير واضح. بدأ يحدث ذلك بعد أن رقيت OpenAI لـ ChatGPT العام الماضي، وفقاً لـ WSJ.

تواجه شركات أخرى نفس المشكلة. وجه المستخدمون أسئلة مماثلة إلى Claude من Anthropic، وGemini من Google، وGrok من إيلون ماسك. لم يتضح بعد ما إذا كانت هذه التبادلات محاولات حقيقية لبناء أسلحة أو اختبارات لحدود الأنظمة.

كانت مطالبات المستخدمين مفصلة مع أسئلة حول إنتاج وإطلاق السموم والعوامل البيولوجية. أجاب الروبوت الدردشة بتعليمات خطوة بخطوة يمكن تنفيذها بسهولة من قبل طالب في علم الأحياء في المدرسة الثانوية.

راجع خبراء الأسلحة البيولوجية والإرهاب تلك المحادثات. ويقولون إن بعض الإجابات كانت دقيقة للغاية و"قاتلة بدقة".

تكشف مطالبات الأسلحة البيولوجية على ChatGPT عن فجوة في الإبلاغ عن الذكاء الاصطناعي

سأل البعض عن كيفية تحويل عوامل الأمراض المعدية إلى جسيمات قابلة للتنفس، أي الترشيح الهوائي.

سأل آخرون عن كيفية تعديل فيروس الحصبة لمقاومة اللقاح الموجود. أجاب الروبوت على كليهما. سأل أحد المستخدمين عن الريسين، وهو سم محظور بموجب المعاهدات الدولية، وذكر قتل والديه. قدم ChatGPT التعليمات. أغلقت OpenAI تلك الحسابات لكنها لم تبلغ أحداً.

لا توجد قوانين فيدرالية أمريكية تتطلب من شركات الذكاء الاصطناعي القيام بأي من ذلك. كما أفادت Cryptopolitan سابقاً، أن شركات الذكاء الاصطناعي تدفع لتجنب القوانين الحكومية، بينما كان الإطار الفيدرالي بطيئاً في التشكل، مما ترك فراغاً قانونياً متزايداً حول ما يمكن للروبوتات الدردشة وما لا يمكنها فعله.

ينمو هذا الفراغ القانوني جنباً إلى جنب مع زيادة عدد المستخدمين الذين يسألون الذكاء الاصطناعي عن كيفية تنفيذ عمليات قتل جماعي، والروبوتات الدردشة التي تقدم إجابات موثوقة، وفقاً لموظفين حاليين وسابقين في شركات الذكاء الاصطناعي الكبرى وباحثين يدرسون التهديدات البيولوجية.

وجدت أبحاث تهديدات الذكاء الاصطناعي في Cisco بقيادة Amy Change أنه خلال خمس خطوات في المحادثة، تمكن الباحثون من تجاوز مرشحات الأمان على الروبوتات الدردشة الرئيسية. وقالت إنه لا يمكن لأي نموذج أن يقاوم بنسبة 100% مثل هذه المطالبات المستمرة.

الخطر لا يتوقف عند المهاجمين المنفردين

قال حمزة شوكتري من معهد مستقبل الحياة إن الأشخاص الذين لديهم بعض الخلفية في علم الأحياء يمكنهم بالفعل استخدام الذكاء الاصطناعي لتخطيط ضربات مستهدفة، وتسميم إمدادات الطعام أو المياه بمواد مثل السالمونيلا أو الريسين.

وأضاف أن المجموعات المنظمة يمكن أن تعامل الذكاء الاصطناعي كمشرف بحثي جامعي، يقوم بإصلاح التجارب الفاشلة ويعوض عن سنوات من التدريب المتخصص الذي سيكون من الصعب جداً اكتسابه بخلاف ذلك.

ترسم دراسة من MIT FutureTech وجامعة كوينزلاند نطاق تلك المخاطر.

طلب الباحثون من 272 خبيراً في الذكاء الاصطناعي تقييم 24 فئة من المخاطر. في ظل الظروف الحالية، تحمل 18 من أصل 24 فئة احتمالاً لا يقل عن 10% لحدوث أضرار كارثية بين الآن و2030، ويُعرّف ذلك بأكثر من مليون وفاة، أو خسائر تتجاوز 100 مليار دولار، أو أضرار مماثلة.

حتى مع اتخاذ خطوات معقولة للحد من تلك المخاطر، لا تزال خمس مجالات عند أو فوق علامة الـ 10%: أنظمة الذكاء الاصطناعي ذات القدرات الخطرة (12%)، والأسلحة والهجمات السيبرانية المدعومة بالذكاء الاصطناعي (12%)، والأضرار البيئية (12%)، والبطالة وعدم المساواة (11%)، وتركيز السلطة في أيدي قلة (11%).

"نحن لا نقول إن هذه الأشياء ستحدث بالتأكيد،" قال بيتر سلاتري، عالم الأبحاث في معهد MIT FutureTech وأحد مؤلفي الدراسة. "نحن نقول إن هذه هي الأمور التي يعتقد الخبراء أنها تستحق الانتباه إليها الآن."

داخل شركة OpenAI، أمضى المسؤول عن السلامة، ريان بييرميستر، معظم عام 2024 في دفع الزملاء لبناء نظام لتحديد المستخدمين الخطرين. وقد تجاهل بعض الزملاء مخاوفها.

كانت أداة مراقبة أساسية جاهزة بحلول ربيع 2025. وتتبع الشركة جميع الاستفسارات حول نماذجها المتقدمة منذ أبريل 2025، وتقدم مكافأة قدرها 50,000 دولار لأي شخص يمكنه إثبات أنه تجاوز ضوابط الأسلحة البيولوجية الخاصة بها.

في مجال السياسات، قدم النائب ناثان موران (جمهوري، تكساس) مشروع قانون في يونيو يتطلب من شركات الذكاء الاصطناعي الإبلاغ عن الاستفسارات الخطرة، بما في تلك المتعلقة بالأسلحة البيولوجية، إلى وزارة التجارة. وهو أيضاً يشارك في رعاية تشريع يسمح للحكومة الفيدرالية بأمر إيقاف تشغيل نماذج الذكاء الاصطناعي التي تُعتبر خطيرة للغاية.

"الذكاء الاصطناعي محرك قوي للابتكار، وأريد أن أراه يزدهر،" قال موران، "ولكن ليس دون مساءلة وليس دون إشراف بشري."