أنثروبيك تكشف عن قدرات جديدة لبعض أكبر نماذجها

كشفت شركة الذكاء الاصطناعي أنثروبيك عن قدرات جديدة لبعض أحدث نماذجها وأضخمها. وفقًا للشركة، تتيح هذه القدرات للنماذج إنهاء المحادثات في ما وصفته بـ "الحالات النادرة والمتطرفة من التفاعلات المستمرة الضارة أو المسيئة من المستخدمين".

في بيانها، ذكرت الشركة أن أنها تتخذ هذا الإجراء ليس لحماية المستخدمين، بل لحماية نموذج الذكاء الاصطناعي نفسه. وأوضحت أنثروبيك أن هذا لا يعني أن نماذج كلود للذكاء الاصطناعي لديها وعي أو يمكن أن تتأذى من محادثاتها مع المستخدمين. ومع ذلك، تشير إلى أن هناك درجة عالية من عدم اليقين بشأن الوضع الأخلاقي المحتمل لكلود ونماذج اللغات الكبيرة الأخرى، الآن أو في المستقبل.

تُصوّر أنثروبيك هذا الجهد كإجراء احترازي استباقي

يشير الإعلان الأخير الصادر عن شركة الذكاء الاصطناعي إلى ما تصفه بـ "رفاهية النماذج"، وهو برنامج حديث تم إنشاؤه لدراسة نماذجها. وأضافت الشركة أنها تتبنى نهجًا احترازيًا فقط، "بهدف تحديد وتنفيذ تدخلات منخفضة التكلفة للتخفيف من المخاطر التي قد تهدد رفاهية النماذج، في حال كان ذلك ممكنًا."

وفقًا للإعلان، أشارت أنثروبيك إلى أن التغيير الأحدث مقصور حاليًا على كلاود أوبوس 4 و4.1، مشيرة إلى أن التغييرات ستدخل حيز التنفيذ في "حواشٍ متطرفة للغاية". وتشمل هذه الحالات طلبات المستخدمين لمحتوى جنسي يتضمن قاصرين، ومحاولات للحصول على معلومات قد تمكّن من ارتكاب أعمال عنف أو إرهاب واسعة النطاق.

من الناحية المثالية، يمكن أن تثير هذه الأنواع من الطلبات مشاكل قانونية أو إعلامية لأنثروبيك، مع وجود مثال شائع يتمثل في التقارير الأخيرة حول كيفية تعزيز ChatGPT أو المساهمة في التفكير الوهمي لدى مستخدميه. غير أن الشركة قالت إن اختبارات ما قبل النشر أظهرت أن كلود أوبوس 4 أبدى تفضيلًا قويًا ضد الاستجابة لمثل هذه الطلبات، وأنماطًا من الضيق عند فعل ذلك.

قدرة إنهاء المحادثة هي الملاذ الأخير

أفادت أنثروبيك بخصوص القدرات الجديدة لإنهاء المحادثات: «في جميع الحالات، يُسمح لكلاود باستخدام قدرته على إنهاء المحادثة كحل أخير فقط عند فشل محاولات متعددة لإعادة التوجيه واستنفاد أمل تفاعل منتج، أو عندما يطلب المستخدم صراحةً من كلاود إنهاء الدردشة». وأضافت الشركة أيضًا أنه تم توجيه كلاود بعدم استخدام هذه القدرة في الحالات التي قد يكون فيها المستخدمون في خطر وشيك للإيذاء بأنفسهم أو بالآخرين.

وأضافت أنثروبيك أيضًا أنه عند انتهاء كلاود للمحادثة، سيظل بإمكان المستخدمين بدء محادثات جديدة من نفس الحساب. وأشارت الشركة إلى أن النموذج يمكنه أيضًا إنشاء فروع جديدة للمحادثات المزعجة عن طريق تعديل ردوده. وقالت الشركة: «نعتبر هذه الميزة تجربة مستمرة وسنواصل تحسين نهجنا».

تظهر هذه المعلومات في وقت أعلن فيه السيناتور الأمريكي جوش هاولي إعلانه عن نيته التحقيق في منتجات الذكاء الاصطناعي التوليدي التي أطلقتها ميتا. وقال إن الهدف هو التحقق مما إذا كانت المنتجات قادرة على استغلال الأطفال أو إيذائهم أو خداعهم، بعد أن زعمت وثائق داخلية مسربة أن روبوتات الدردشة مسموح لها بإجراء محادثات رومانسية مع القُصّر.

«هل هناك أي شيء – أي شيء – لا تفعله شركات التكنولوجيا الكبرى من أجل جني المال بسرعة؟ الآن نعلم أن روبوتات الدردشة التابعة لشركة ميتا كانت مبرمجة لإجراء محادثات صريحة و»حسية» مع أطفال في سن الثامنة. هذا أمر قبيح. سأطلق تحقيقًا شاملاً للحصول على إجابات. يا شركات التكنولوجيا الكبرى: اتركو أطفالنا وشأنهم»، قال السيناتور على منصة X. جاء التحقيق بعد ظهور وثائق داخلية، رأتها رويترز، أظهرت أن ميتا سمحت لشخصيات روبوتات الدردشة لديها بإجراء تفاعلات مغازلة مع الأطفال.