أمودي من أنثروبيك يرد على تسعة اتهامات من ناقد بتسعة قرارات مكلفة تتعلق بالسلامة

شكر داريو أمودي الناقد ناثان كالفن يوم الأربعاء على تدقيقه في أنثروبيك، بعد أيام من قيام كالفن بدفع موجة من الاحتجاجات ضد قانون سلامة الذكاء الاصطناعي المسرب للشركة. 

أنثروبيك على بعد أسابيع فقط من إطلاق الطرح الأولي العام المخطط له، وقد استجابت للاحتجاجات بوعدها بإعادة صياغة أجزاء من القانون.

ما هو قانون AEGIS؟

في منشور على منصة X, قال داريو أمودي إن الانتقادات التي وجهها ناثان كالفن، وهو المستشار العام لمجموعة الدفاع Encode، بشأن قانون سلامة الذكاء الاصطناعي المسرب، الذي يُطلق عليه مؤقتًا اسم قانون تقييم الذكاء الاصطناعي والحوكمة وسلامة الحوادث (AEGIS Act)، تأتي من "مكان بنّاء وصادق". وأضاف أن الجمهور يستفيد من وجود أشخاص تتمثل مهمتهم في فحص مختبرات الذكاء الاصطناعي، وشكر كالفن.

يواصل دعاة السلامة مقارنة المشروع بقانون FRONTIER ذي الدعم الحزبي من النواب جاي أوبرنولت ولوري تراهان، والذي أُدخل في يوليو.

المسودة هي أضعف من قانون FRONTIER ذي الدعم الحزبي بطريقتين. الأولى أنها لا تضع معايير أو ترازم للمقيّمين من طرف ثالث الذين يفحصون نماذج المختبرات، مما يسمح لهم بالشهادة الذاتية، والثانية أنها تجعل حظر النماذج المتطورة أكثر صعوبة.

حذر تشارلي بولوك من LawAI بأنه بدون تراخيص، سيقوم المراجعون بالتنافس فيما بينهم لتقديم أخف الفحوصات بأقل الأسعار.

كالفين ذهب إلى أبعد من ذلك, قائلاً إن المقترح أغضبه "غضباً جياشاً" ويترك على الأرجح للمحاكم سلطة أقل لحظر تطوير النماذج المتطورة مقارنة بالقانون الحالي. كتب السيناتور الكاليفورني سكوت وينر، مؤلف قانون كاليفورنيا للنماذج المتطورة SB 53، على منصة X أن الخطة "تفتقر بشدة إلى حماية الصحة والسلامة العامة."

وفقاً للمسودة، يمكن لوزارة التجارة طلب إلى محكمة اتحادية إيقاف نموذج ذكاء اصطناعي، ولكن فقط إذا كان هناك خطر واضح وقريب الأمد قد يؤدي إلى وفاة أو إصابة خطيرة لأكثر من 50 شخصاً، أو خسائر تتجاوز مليار دولار. 

يجب أن ينجم الضرر أيضاً إما عن سلاح بيولوجي، أو نموذج يفلت من سيطرة صانعه، أو هجوم سيبراني. لن تتمكن أي وكالة أخرى من إيقاف تشغيل نموذج.

سيؤدي المشروع القانوني أيضاً إلى إلغاء بعض القواعد الحكومية المتعلقة بالإفصاح، والاختبارات الخارجية، وإبلاغ الحوادث، لكنه يترك قوانين حماية الأطفال وحقوق الإنسان سارية المفعول. سيتعين على المقيّمين الخارجيين، الذين يُطلق عليهم اسم "المقيّمون"، التسجيل لدى وزارة التجارة، وستدفع لهم المختبرات، طالما أن الدفع لا يعتمد على النتائج. وسيكون على المقيّمين الإبلاغ عن خطر وشيك لوزارة التجارة خلال 72 ساعة.

صنّف أنتوني سيmino، الذي يقود فريق الشؤون الفيدرالية في أنثروبيك، الشكاوى بشأن المشروع القانوني إلى أربع فئات: السبق التشريعي، وحظر النماذج، وعوامل الخطر، والتحديثات. وأقر بأن صياغة السبق التشريعي "ليست دقيقة بما فيه الكفاية"، ووعد بإعادة كتابتها. وقال إن على الولايات دوراً في وضع معايير المقيّمين وفي تحديد متى يتعين على المختبر إيقاف تشغيل نموذج.

قال سيمينو إن حدود الدولار والخسائر مستمدة من قانون كاليفورنيا، لكنه وافق على أنه حان الوقت على الأرجح لمراجعتها. وأشار أيضاً إلى أن المسودة تتيح بالفعل لمحكمة وقف الاستخدام الداخلي للمختبر لنموذج خطير، وليس فقط للإصدار العام. كما تتطلب تقديم تقرير عند هروب النموذج والوصول إلى الأنظمة الخارجية.

هل ستؤثر controversies Anthropic على طرحها العام الأولي؟ 

ردت Anthropic على الانتقادات من خلال سرد أعمال السلامة المكلفة التي دفعت تكاليفها بالفعل. و خريطة طريق السلامة المتقدمة, والتي تم تحديثها في 19 أكتوبر، تشير إلى أن الشركة أنهت هدف الاختبار الأحمر الداخلي قبل الموعد المستهدف في 1 يناير 2027.

نظام اختبار أحمر آلي بنته الشركة طابق أو تفوق على أفضل إدخال بشري في جميع التوليفات الـ 24 لتصنيف الأسئلة المستمدة من مكافآتها للأسلحة البيولوجية، حيث فاز في 23 منها بشكل مباشر، وقامت بذلك في غضون 24 إلى 48 ساعة بدلاً من الأسابيع أو الأشهر التي يحتاجها الباحثون البشريون.

يصف التحديث نفسه العمل الجديد حول التحقق من الاستدلال، وبيئات الاستدلال المعزولة، والأمن المادي لمراكز البيانات، وأمن المنصة. 

في وقت منفصل، مشروع جلاسوينغ التزمت بمنح اعتمادات استخدام تصل إلى 100 مليون دولار وتبرعات بقيمة 4 ملايين دولار لمجموعات الأمن مفتوحة المصدر، بعد أن كشف نموذج غير مُعلن من Anthropic عن آلاف الثغرات الأمنية من نوع الصفر-يوم، بما في ذلك ثغرة عمرها 27 عاماً في OpenBSD. 

أبلغت Cryptopolitan أن الشركة التزمت بتخصيص 5% من أسهمها لصندوق منفعة عامة في وقت سابق من هذا الشهر.

ومع ذلك، في فبراير، أزال RSP v3.0 الخاص بـ Anthropic التزام الإيقاف القديم، واستبدله بتقارير المخاطر وخارطة طريق غير ملزمة.

قدمت Anthropic طلباً سرياً للإدراج العام الأولي (IPO) لدى هيئة الأوراق المالية والبورصات الأمريكية (SEC) في يونيو، وتسعى للحصول على تقييم يتجاوز تريليوني دولار، مع توقع طرح الأسهم بعد انتخابات منتصف الولاية الأمريكية في نوفمبر. أظهر نشرة الطرح خسارة قدرها 42 مليار دولار في عام 2025، رغم أن حوالي 34 مليار دولار منها كانت عبئاً محاسبياً، وخسارة تشغيلية اتسعت لتصل إلى 8.06 مليارات دولار. يذكر أيضاً أن النشرة تذكر التزامات بحوسبة تبلغ 518 مليار دولار على مدى عقد من الزمن، لا يمكن إلغاء نحو 80% منها من قبل Anthropic.