أجاب برنامج ChatGPT على استفسارات تتعلق بالأسلحة البيولوجية، بينما يحذر معهد ماساتشوستس للتكنولوجيا من مخاطر الكوارث الناجمة عن الذكاء الاصطناعي

أجاب برنامج ChatGPT على استفسارات مئات الأشخاص حول الأسلحة البيولوجية. ولم يُلزم أي قانون اتحادي شركة OpenAI بالإبلاغ عن ذلك للسلطات.

لا يزال الهدف من هذه الاستفسارات غير واضح. وقد بدأ ذلك بعد أن قامت شركة OpenAI بتحديث ChatGPT العام الماضي، وفقًا لصحيفة وول ستريت جورنال.

تواجه شركات أخرى المشكلة نفسها. وقد وجّه المستخدمون أسئلة مماثلة إلى كلود من شركة أنثروبيك، وجيميني من جوجل، وجروك من إيلون ماسك. ولم يتضح بعد ما إذا كانت تلك المراسلات محاولات جادة لتطوير أسلحة أم مجرد اختبارات لحدود هذه الأنظمة.

تضمنت أسئلة المستخدم تفاصيل دقيقة حول إنتاج وإطلاق السموم والعوامل البيولوجية. أجاب برنامج الدردشة الآلي بتعليمات خطوة بخطوة يمكن لطالب في المرحلة الثانويةdentفي علم الأحياء تنفيذها بسهولة.

قام خبراء في مجال الأسلحة البيولوجية والإرهاب بمراجعة تلك المحادثات. ويقولون إن بعض الإجابات كانت دقيقة للغاية و"مميتة".

تكشف مطالبات ChatGPT المتعلقة بالأسلحة البيولوجية عن ثغرة في الإبلاغ عن الذكاء الاصطناعي

تساءل البعض عن كيفية تحويل عوامل الأمراض المعدية إلى جزيئات قابلة للتنفس، أي الرذاذ.

سأل آخرون عن كيفية تعديل فيروس الحصبة لمقاومة اللقاح الحالي. أجاب برنامج الدردشة الآلي على كلا السؤالين. سأل أحد المستخدمين عن الريسين، وهو سم محظور بموجب المعاهدات الدولية، وذكر أنه قتل والديه. قدم برنامج ChatGPT التعليمات. أغلقت OpenAI تلك الحسابات دون إخطار أحد.

لا توجد قوانين اتحادية أمريكية تلزم شركات الذكاء الاصطناعي بالقيام بأي من الأمرين. وكما ذكر موقع Cryptopolitan، تسعى شركات الذكاء الاصطناعي جاهدةً للتحايل على قوانين الولايات، في حين أن الإطار الاتحادي لم يتبلور بعد، مما أدى إلى فراغ قانوني متزايد حول ما يمكن وما لا يمكن لبرامج الدردشة الآلية فعله.

يتزايد هذا الفراغ القانوني بالتزامن مع ارتفاع عدد المستخدمين الذين يسألون الذكاء الاصطناعي عن كيفية تنفيذ عمليات القتل الجماعي، وتقديم برامج الدردشة الآلية لإجابات موثوقة، وفقًا لموظفين حاليين وسابقين في شركات الذكاء الاصطناعي الكبرى وباحثين يدرسون التهديدات البيولوجية.

أظهرت دراسة أجرتها شركة سيسكو بقيادة إيمي تشانج حول التهديدات التي تواجه الذكاء الاصطناعي، أن الباحثين تمكنوا من تجاوز أنظمة الحماية في معظم برامج الدردشة الآلية الرئيسية خلال خمس جولات محادثة فقط. وأكدت تشانج أنه لا يوجد نموذج قادر على مقاومة هذه المطالبات المتكررة بشكل كامل.

لا يتوقف الخطر عند المهاجمين المنفردين

قال حمزة تشودري من معهد مستقبل الحياة إن الأشخاص الذين لديهم بعض الخلفية في علم الأحياء يمكنهم بالفعل استخدام الذكاء الاصطناعي للتخطيط لضربات مستهدفة، وتسميم إمدادات الطعام أو المياه بمواد مثل السالمونيلا أو الريسين.

وأضاف أن المجموعات المنظمة يمكنها أن تعامل الذكاء الاصطناعي كمشرف على أبحاث الدراسات العليا، وهو مشرف يقوم بإصلاح التجارب الفاشلة ويعوض سنوات من التدريب المتخصص الذي يصعب الحصول عليه بطريقة أخرى.

دراسة للتكنولوجيا FutureTech وجامعة كوينزلاند ترسم خريطة لحجم تلك المخاطر.

طلب الباحثون من 272 خبيرًا في الذكاء الاصطناعي تقييم 24 فئة من المخاطر. في ظل الظروف الحالية، تحمل 18 فئة من هذه الفئات الـ 24 احتمالًا بنسبة 10% على الأقل لحدوث أضرار كارثية بين الآن وعام 2030، defiبأنها أكثر من مليون حالة وفاة، أو خسائر تتجاوز 100 مليار دولار، أو أضرار مماثلة.

حتى مع اتخاذ خطوات معقولة للحد من تلك المخاطر، لا تزال خمسة مجالات تقع عند أو فوق علامة 10٪: أنظمة الذكاء الاصطناعي ذات القدرات الخطيرة (12٪)، والأسلحة والهجمات الإلكترونية المدعومة بالذكاء الاصطناعي (12٪)، والضرر البيئي (12٪)، والبطالة وعدم المساواة (11٪)، وتركز السلطة في أيدي عدد قليل من الأشخاص (11٪).

قال بيتر سلاتري، الباحث العلمي في معهد ماساتشوستس للتكنولوجيا (MIT) وأحد المشاركين في إعداد الدراسة: "لا نقول إن هذه الأمور ستحدث defi، بل نقول إنها الأمور التي يرى الخبراء أنها تستحق الاهتمام في الوقت الراهن"

داخل شركة OpenAI، أمضت ريان بايرميستر، المسؤولة التنفيذية عن السلامة، معظم عام 2024 في حث زملائها على بناء نظام لتحديد المستخدمين الخطرين. وقد تجاهل البعض مخاوفها.

تم وضع أداة مراقبة أساسية بحلول ربيع عام 2025. وقد قامت الشركة tracجميع الاستفسارات المتعلقة بنماذجها المتقدمة منذ أبريل 2025، وتقدم مكافأة قدرها 50 ألف دولار لأي شخص يمكنه إثبات تجاوزه لإجراءات الحماية الخاصة بالأسلحة البيولوجية.

على صعيد السياسات، قدّم النائب ناثانيال موران (جمهوري، تكساس) مشروع قانون في يونيو/حزيران يلزم شركات الذكاء الاصطناعي بالإبلاغ عن الاستفسارات الخطيرة، بما في ذلك تلك المتعلقة بالأسلحة البيولوجية، إلى وزارة التجارة. كما يشارك في رعاية تشريع يسمح للحكومة الفيدرالية بإصدار أوامر بإيقاف نماذج الذكاء الاصطناعي التي تُعتبر بالغة الخطورة.

قال موران: "الذكاء الاصطناعي محرك قوي للابتكار، وأريد أن أراه يزدهر، ولكن ليس بدون مساءلة وليس بدون إشراف بشري"