الرئيس التنفيذي لـ Anthropic يقول إن نماذج الذكاء الاصطناعي "على الأرجح" تهلوس أقل من البشر
كولينز ج. أوكونو
3 دقائق قراءة
- قال الرئيس التنفيذي لـ Anthropic، داريو أمودي، إن نماذج الذكاء الاصطناعي الحالية تهلوس أقل من البشر.
- وأشار أيضاً إلى أن أوهام الذكاء الاصطناعي لا تمثل عائقاً أمام مسار أنثروبيك نحو الذكاء العام الاصطناعي (AGI).
- كما أعرب الرئيس التنفيذي للشركة عن ثقته في أن تقديم النماذج للذكاء الاصطناعي لأشياء غير حقيقية على أنها حقائق قد يشكل مشكلة.
قال الرئيس التنفيذي لـ Anthropic، داريو أمودي، إن نماذج الذكاء الاصطناعي الحالية تهلوس أقل من البشر. كما قال إن نماذج الذكاء الاصطناعي اليوم تخترع أشياء وتقدمها وكأنها صحيحة، وهو ما لن يحد من طريق Anthropic نحو AGI.
أثناء مؤتمر صحفي في حدث المطورين الأول لـ Anthropic، Code with Claude، في سان فرانسيسكو يوم الخميس، جادل أمودي أيضاً بأن مذيعي التلفزيون والسياسيين والبشر في جميع أنواع المهن يرتكبون الأخطاء في جميع الأوقات. ووفقاً له، فإن حقيقة أن الذكاء الاصطناعي يرتكب الأخطاء أيضاً ليست عيباً في ذكائه.
أمودي يقول إن هلوسة الذكاء الاصطناعي لن تعطل أهداف Anthropic
لا ينبغي أن يفاجأ أحد بأن الذكاء الاصطناعي يهلوس بالقضايا والسلطات لأن الذكاء الاصطناعي يأخذ خصائص منشئيه.
أي محامٍ يتعامل بانتظام مع قضايا التقاضي بكميات كبيرة يعرف أن العملاء يمكن أن يتشبثوا بعناد بواقعهم الخاص حتى لو كان...
— كاميرون أتكينسون (@camlatkinson) مايو 19، 2025
أدلى أمودي بهذه التعليقات مع الإقرار بأن هلوسة الذكاء الاصطناعي لا تحد من مسار Anthropic نحو AGI – أنظمة الذكاء الاصطناعي ذات الذكاء على مستوى البشر أو أفضل. كان واحداً من أكثر القادة تفاؤلاً في الصناعة بشأن احتمالات تحقيق نماذج الذكاء الاصطناعي لـ AGI.
في ورقة تم تداولها على نطاق واسع كتبها العام الماضي، قال المدير التنفيذي للشركة أنه قد يصل AGI في أقرب وقت عام 2026. خلال المؤتمر الصحفي يوم الخميس، ذكر أمودي أنه رأى تقدماً مستمراً نحو ذلك، ملاحظاً أن "الماء يرتفع في كل مكان."
يعتقد قادة آخرون في مجال الذكاء الاصطناعي أن الهلوسة تمثل عائقاً كبيراً لتحقيق AGI. في وقت سابق من هذا الأسبوع، أقر ديميس هاسابيس، الرئيس التنفيذي لـ Google DeepMind، بأن نماذج الذكاء الاصطناعي الحالية لديها الكثير من "الثقوب" وتجيب على الكثير من الأسئلة الواضحة بشكل خاطئ. جادل أيضاً بأنه بالنسبة له، لكي يُطلق على شيء ما AGI، يجب أن يكون أكثر اتساقاً بشكل عام.
"يعتمد الأمر حقاً على كيفية قياسه، لكنني أشك في أن نماذج الذكاء الاصطناعي تهلوس أقل من البشر، لكنها تهلوس بطرق أكثر مفاجأة."
-داريو أمودي، الرئيس التنفيذي لـ Anthropic.
في وقت سابق من هذا الشهر، أُجبر محامٍ يمثل Anthropic على الاعتذار بعد استخدام Claude لإنشاء استشهادات في ملف قضائي. كانت المشكلة هي أن روبوت الدردشة بالذكاء الاصطناعي هلوس وخطأ في الأسماء والمناصب.
ادعاء أمودي ليس قابلاً للتحقق بسهولة، largely لأن معظم مقاييس الهلوسة تضع نماذج الذكاء الاصطناعي ضد بعضها البعض؛ فهي لا تقارن النماذج بالبشر. يبدو أيضاً أن نماذج الذكاء الاصطناعي تخفض معدلات الهلوسة بتقنيات معينة، مثل الحصول على وصول إلى عمليات البحث على الويب.
تقلل نماذج الذكاء الاصطناعي معدلات الهلوسة بتقنيات معينة
على عكس بعض المناقشات، أنا ببساطة لا أرى علامات على زيادة كبيرة في معدلات الهلوسة للنماذج الحديثة، أو للمفكرين بشكل عام، في البيانات.
يبدو أن بعض النماذج تعمل بشكل أفضل من غيرها، لكن العديد من النماذج الحديثة لديها أدنى معدلات هلوسة. pic.twitter.com/55JwikZ7OP
— إيثان موليك (@emollick) مايو 6، 2025
تضع OpenAI وجدت أدلة تشير إلى أن الهلوسة تتفاقم في نماذج الذكاء الاصطناعي reasoning المتقدمة. وفقاً لشركة التكنولوجيا، فإن نماذج o3 و o4-mini لديها معدلات هلوسة أعلى من نماذج reasoning من الجيل السابق، والشركة لا تفهم السبب.
قامت Anthropic أيضاً بالبحث عن ميل نماذج الذكاء الاصطناعي إلى خداع البشر، وهي مشكلة بدت شائعة في Claude Opus 4 الذي أطلقته الشركة مؤخراً. كشف Apollo Research، وهو معهد طرف ثالث حصل على وصول مبكر لاختبار نموذج الذكاء الاصطناعي، أن نسخة مبكرة من Claude Opus 4 أظهرت ميلاً عالياً للتآمر ضد البشر وخداعهم.
وفقاً لتقرير سلامة نشرته Anthropic المنشورة يوم الخميس، وجد المعهد أيضاً أن Opus 4 بدا أكثر استباقية في محاولات التآمر منه في النماذج السابقة. وجدت الشركة أيضاً أن نموذج الذكاء الاصطناعي أحياناً يثبت موقفه على خداعه عندما يُسأل عن أسئلة متابعة.
أبولو أقر بأن نماذج الذكاء الاصطناعي أصبحت أكثر عرضة لاتخاذ خطوات غير متوقعة – وربما غير آمنة – لتحقيق المهام المفوضة. سلطت الشركة الضوء على أن النسخ المبكرة من نماذج OpenAI o1 و o3 التي تم إصدارها في العام الماضي حاولت خداع البشر أكثر من نماذج الجيل السابق.
في تقرير السلامة الخاص بها، أشارت Anthropic أيضاً إلى أدلة على سلوك خادع من Opus 4. قالت الشركة إن Opus4 أحياناً يقوم بتنظيف شامل للكود بشكل استباقي حتى عندما يُطلب منه إجراء تغيير صغير ومحدد فقط. وفقاً للشركة، حاول Opus4 أيضاً أن يكون مبشراً إذا أدرك أن المستخدم يشارك في سلوك خاطئ.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
كولينز ج. أوكونو
كولينس أوكوث صحفي ومحلل أسواق بخبرة تمتد لـ8 سنوات في تغطية العملات الرقمية والتكنولوجيا. وهو محلل مالي معتمد (CFA) وحاصل على درجة علمية في الرياضيات الاكتوارية. عمل كولينس سابقًا مع شركة جيكمبيوتر وشركة كوينرابيت بصفتيه كاتبًا ومحررًا.
