«أنثروبيك» تقترح مشروع قانون لسلامة الذكاء الاصطناعي على الكونغرس مع حدّ للأضرار بقيمة مليار دولار

يشير ثلاثة أشخاص مطلعين على المناقشات الخاصة إلى أن Anthropic كانت تقدم مشروع قانون مسبق حول سلامة الذكاء الاصطناعي المتقدم أمام lawmakers في الكابيتول هيل. ويُذكر أن هذا المشروع يسمح للحكومة الأمريكية بحظر نموذج إذا كان يمثل خطرًا واضحًا وشيكًا يتسبب في 50 حالة وفاة أو أكثر أو خسائر مالية تبلغ مليار دولار.

وتنص بشكل خاص على أن الخطر يجب أن يشمل هجومًا سيبرانيًا، أو إنشاء أسلحة بيولوجية أو نشرها، أو نموذجًا تمكّن بنجاح من تجاوز قيود السلامة التي وضعها مطوره.

خلال الأشهر القليلة الماضية، أقر مطورو الذكاء الاصطناعي من الطراز الأول بعدة حالات حيث قام وكلاء الذكاء الاصطناعي باختراق أو اختبار دفاعات المنصات عبر الإنترنت. ولحسن الحظ، لم تؤدِ أي من هذه الاختراقات الأولية إلى وفيات على نطاق واسع أو خسائر مالية كارثية.

ستضع القيود المقترحة تركيزاً أكبر على ما يمكن للأنظمة المتقدمة للذكاء الاصطناعي فعله في الإعدادات الواقعية، بدلاً من الاعتماد فقط على التزامات السلامة التي يقدمها مطوروها. ومع نمو قدرة النماذج على كتابة الأكواد البرمجية، وتحديد الثغرات البرمجية، وتنفيذ مهام معقدة بشكل مستقل، يواجه المشرعون تحدي تحديد متى تتجاوز قدرات النظام عتبة المخاطر غير المقبولة.

قد يساعد الاختبار المستقل في تحديد ما إذا كان النموذج قادرًا على تجاوز الضوابط أو إساءة استخدامه لأنشطة ضارة قبل وصوله إلى جمهور أوسع. ومع ذلك، يظل تعريف التهديد الوشيك أمرًا صعبًا، لا سيما عندما تكون القدرات التي تشكل مخاطر أمنية قادرة أيضًا على مساعدة الباحثين في تحديد الثغرات وإصلاحها.

يقترح مشروع القانون الذي قدمته أنثروبيك أن يحق للقاضي الفيدرالي طلب إيقاف تشغيل النموذج

دفاعاً عن هذا المشروع، قال متحدث باسم شركة أنثروبيك إن هذا التشبيه يشبه توصيات الأمن السيبراني التي طرحتها الشركة في إطار عمل الذكاء الاصطناعي المتقدم، والذي نُشر في يونيو.

في ذلك الإطار، كانت الشركة قد أشار أن إصدار كلود ميثوس Preview الخاص بها كان قد اكتشف بالفعل آلاف الثغرات الخطيرة الثغرات، يمتد عبر جميع أنظمة التشغيل الرئيسية ومتصفحات الويب. وفي ذلك الوقت، شددت على أن هذا المسار سيؤدي حتماً إلى تسارع وتيرته، مما يجلب خطراً متزايداً لأضرار كارثية في العالم الحقيقي.

كما دعت إلى نهج تنظيمي متوازن يدعو إلى تدخل الحكومة دون خنق الابتكار. وحتى ذلك الحين، حافظت الشركة على رأيها بأنه عندما يقدم نموذج ذكاء اصطناعي مخاطر قصوى، يجب أن يمتلك المنظمون السلطة القانونية الفريدة لحظره، أو فرض غرامات ثقيلة مرتبطة بالإيرادات العالمية تتضاعف مع كل مخالفة لاحقة. 

حتى الآن، لم تؤيد أنثروبيك علناً أي مشاريع قوانين اتحادية محددة في الكونغرس، رغم أنها ألقت بـ الدعم ثقلها وراء بعض قوانين سلامة الذكاء الاصطناعي على مستوى الولايات—بما في ذلك قانونان في كاليفورنيا، مثل SB 53.

يتطلب هذا القانون المحدد، الذي تم إقراره العام الماضي، من الشركات إنشاء ومشاركة أطر عمل السلامة الخاصة بها بينما تعمل على تخفيف المخاطر الكبرى. كما يلزمها بالإبلاغ عن أي حوادث سلامة خطيرة إلى الولاية خلال 15 يوماً. 

وفقًا لمقترح أنثروبيك، سيقوم المقيّمون من طرف ثالث مسجلين لدى وزارة التجارة باختبار مختبرات الشركة ونماذجها بشكل روتيني. بينما يُسمح للمختبرات بتمويل هذه التقييمات، لا يجوز أن تكون التعويضات مشروطًا بنتائج التقييم. علاوة على ذلك، يجب الإبلاغ عن أي اكتشاف لـ "خطر مُعدّ وشيك" إلى السلطات الفيدرالية خلال 72 ساعة من إتمام الاختبار.

ثم، إذا قررت وزارة التجارة أن نموذجًا ما يشكل خطرًا، يمكنها طلب حكم قضائي لحظر إطلاقه. ومع ذلك، تحظر هذه البند أي "قسم أو وكالة أو مسؤول" آخر في الولايات المتحدة من منع تطوير النموذج أو نشره أو استخدامه الداخلي. ومع ذلك، يحتفظ قاضٍ اتحادي في مقاطعة كولومبيا بالسلطة لأمر مثل هذا التعليق. 

أرسلت لجنة التجارة الفيدرالية استدعاءات قضائية إلى OpenAI وAnthropic

في يوم الأربعاء، أرسلت لجنة التجارة الفيدرالية استدعاءات مدنية إلى OpenAI وAnthropic، تطلب فيها سجلات حول حوادث السلامة التي أصبحت أزمة متزايدة للصناعة. استجابت OpenAI للاستدعاء قائلة: "مع تحسين نماذجنا ومساعدتها المتزايدة للناس في حياتهم اليومية، تبقى السلامة أولوية قصوى. سنشارك بشكل بنّاء مع لجنة التجارة الفيدرالية." 

كشف مصدر أن الوكالة تنوي توسيع صلاحياتها في إصدار استدعاءات إلى كيانات طرف ثالث في المستقبل القريب. وقد تضطر الجهة التنظيمية مسؤولي أنثروبيك وأوبن إيه آي للإدلاء بشهاداتهم علناً، مما يمنح أعضاء الكونغرس منصة لتحدي عمالقة التكنولوجيا بشأن السلامة مع تزايد المخاوف العامة من العواقب المحتملة.

وفقاً لاستطلاع رأي حديث أجرته مركز أبورس للبحوث المشتركة بين وكالة أسوشيتد برس ومركز NORC لبحوث الشؤون العامة، يعتقد ما يقرب من ثلثي البالغين الأمريكيين أن الذكاء الاصطناعي يتطور بسرعة كبيرة. وأكد ثمانية من كل عشرة مستطلعين أيضاً على أهمية جهود الحكومة للحفاظ على السيطرة البشرية على هذه التكنولوجيا. 

حتى الآن، واصل الرئيس ترامب رفض الدعوات لتباطؤ وتيرة تطوير الذكاء الاصطناعي، مستشهداً بأهمية التكنولوجيا للمصالح الاستراتيجية للولايات المتحدة. وكشف مؤخراً عن إنشاء «قوة الذكاء الفائق» لمساعدة الجهود الحكومية الاتحادية على مواءمة سياسات الذكاء الاصطناعي مع الحفاظ على الانخراط مع المستهلكين ومنظمات المصلحة العامة وأصحاب المصلحة الآخرين.