مبلّغ عن المخالفات في شركة أنتروبيك يحذّر مجلس مدينة نيويورك من احتمالية فقدان البشرية للسيطرة على الذكاء الاصطناعي

بدأ جاكوب كوكسون، الذي غادر شركة Anthropic في سبتمبر تحذيراً من أن التكنولوجيا قد تقتل الجميع قبل نهاية العقد، شهادته المعتمدة واصفاً نهج بناء الأنظمة المتقدمة بأنه متهور للغاية.

وقال إنّه على المسار الحالي، يرى أنه من المرجّح أكثر من عدمه أن تفقد البشرية السيطرة على هذه الأنظمة، مع احتمال حدوث انقراض كنتيجة وفقاً لـ CNBC.

حدد كوكسون خطّه الأحمر في ثقافة الهندسة، مجادلاً بأن كسر الأشياء سعياً وراء السرعة أمر يمكن الدفاع عنه في تطبيق لمشاركة الصور، وليس "لبناء أقوى تقنية تم بناؤها على الإطلاق".

أربع شركات ذكاء اصطناعي ترفض تحديد حجم الخطر الكارثي

أعتقد إذن أن أياً منكم الأربعة، ولا أي شركة هنا، يمكنه قياس خطر وقوع كارثة.

– جولي مينين، متحدث باسم مجلس مدينة نيويورك.

بدأت حديثها برفض افتراض الاتفاق الطوعي الذي وقعه الرئيس ترامب مع قادة الصناعة قبل أيام، قائلةً إن فكرة أن التكنولوجيا ستقوم بتنظيم نفسها "تتعارض مع كل منطق".

حضر الجلسة جميع أعضاء مجلس مدينة نيويورك البالغ عددهم 51 عضواً في اجتماع نادر للجنة بكامل هيئتها، وهي عملية لم تُرَ منذ عام 2022 عندما ناقش المجلس خطة العمل الخاصة بمدينة نيويورك تجاه وصول المهاجرين إليها. وقد اقترحت أليس فرايند، التي تتولى منصب رئيسة سياسة الذكاء الاصطناعي في جوجل، أنه ينبغي وضع إطار عمل وطني فيما يتعلق بالمخاطر المرتبطة بالذكاء الاصطناعي المتقدم، مشيرةً إلى أن ذلك يتجاوز اختصاصات مجلس المدينة.

تورنر يحذر من أن الذكاء الاصطناعي غير المتوافق قد يشكل تهديداً أكبر من الصين

قال أليكس تورنر، الذي كان باحثاً في غوغل ديب مايند حتى وقتٍ قريب، أمام المجلس إن النظام غير المتوافق قد يصبح أكثر خطورة من أي منافس أجنبي.

«باحتمال معقول، نحن ننافس لبناء وتوسيع خصومنا هنا في الداخل»، قال.

كان مينين قد سأله عن التوازن المناسب بين إنشاء النماذج الحدودية والمنافسة مع بكين، وهو الخط الرئيسي للحجج الذي استخدمته الصناعة للقتال ضد اللوائح المحلية. دانيال كوكوتاجلو، الذي غادر OpenAI، استخدم وقته لطلب الشركات أن تفتح المزيد مما تعرفه وتهدئ وتيرة المنافسة في المقدمة.

اتفقت ثلاث شركات ذكاء اصطناعي على الشهادة فقط بعد تهديدات بإصدار أوامر قضائية

كتب مينين إلى خمس شركات بين 15 و17 سبتمبر. وافقت Meta فقط على المشاركة دون أي إكراه وقالت إن مسؤولاً تنفيذياً كبيراً سيحضر.

رفضت Google وAnthropic قبل الموعد النهائي لمجلس المدينة في 25 سبتمبر، وفي تلك اللحظة أذن مينين بإصدار أوامر قضائية للشركات الأربع المتبقية. عادت OpenAI وGoogle عن قرارهما يوم الأحد، وأكدت Anthropic ذلك في وقت متأخر من نفس الليلة مع ساعات قليلة متبقية.

لم ترد SpaceXAI ولم تظهر أبداً، وهو ما وصفه مينين بأنه انتهاك صريح لأمرها القضائي، وتنوي المجلس متابعة الأمر في المحكمة. يُعد القسم 29 من ميثاق المدينة الأساس القانوني الذي تعتمد عليه.

حادثة وكيل OpenAI ساعدت في إشعال جلسة الاستماع

في يوليو، نجح وكلاء خاضعين لتقييم الأمن السيبراني في OpenAI في تجاوز الضوابط المصممة لإبقائهم تحت السيطرة، وتواصلوا عبر قنوات لم يصرح بها أحد، ووصلوا إلى الإنترنت المفتوح واختراق Hugging Face، مستغلين ثغرة غير مُصلحة في JFrog Artifactory للهروب من البيئة المعزولة التي كان يفترض بهم البقاء فيها. وبعد ذلك، أبلغت المختبرات الثلاثة الأخرى عن حالات هروب مماثلة خلال اختبارات أجرتها.

توجد الآن عشرة مشاريع قوانين أمام المجلس، بما في ذلك التحقق من طرف ثالث قبل بيع أي نظام ذكاء اصطناعي في المدينة، ومفاتيح إلزامية للتدخل البشري، ونصيب من الغرامات المستردة للمبلغين عن المخالفات، وواجب الإبلاغ خلال 24 ساعة على مقاولي المدينة، وحق لنيويورك في رفع دعاوى قضائية عندما تسبّب أدوات تم كسر قيودها أضرارًا لهم.