يقول الرئيس التنفيذي لشركة أنثروبيك إن نماذج الذكاء الاصطناعي "ربما" تعاني من الهلوسة بدرجة أقل من البشر

صرح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، بأن نماذج الذكاء الاصطناعي الحالية أقل عرضة للوهم من البشر. وأضاف أن هذه النماذج تختلق الأمور وتقدمها وكأنها حقائق، وهو ما لن يعيق مسيرة أنثروبيك نحو الذكاء الاصطناعي العام.

خلال المؤتمر الصحفي الذي عُقد في سان فرانسيسكو يوم الخميس، ضمن فعاليات "كود مع كلود"، أول حدث للمطورين تنظمه شركة أنثروبيك، أكد أمودي أن مذيعي التلفزيون والسياسيين والبشر في مختلف المهن يرتكبون الأخطاء باستمرار. ووفقًا له، فإن ارتكاب الذكاء الاصطناعي للأخطاء لا يُعدّ انتقاصًا من ذكائه. 

يقول أمودي إن الهلوسات الناتجة عن الذكاء الاصطناعي لن تعرقل أهداف شركة أنثروبيك

لا ينبغي لأحد أن يتفاجأ من أن الذكاء الاصطناعي يتخيل القضايا والسلطات لأن الذكاء الاصطناعي يكتسب خصائص منشئيه.

أي محامٍ يتعامل بانتظام مع عدد كبير من العملاء في قضايا التقاضي يعلم أن العملاء قد يتمسكون بعناد بواقعهم الخاص حتى لو كان..

— كاميرون أتكينسون (@camlatkinson) ١٩ مايو ٢٠٢٥

أدلى أمودي بهذه التصريحات معترفًا بأنّ التصورات الخاطئة عن الذكاء الاصطناعي لا تُعيق مسيرة شركة أنثروبيك نحو الذكاء الاصطناعي العام (AGI) - أي أنظمة الذكاء الاصطناعي التي تتمتع بمستوى ذكاء بشري أو أفضل. وقد كان من أكثر القادة تفاؤلًا في هذا المجال بشأن احتمالات وصول نماذج الذكاء الاصطناعي إلى مستوى الذكاء الاصطناعي العام.

المسؤول التنفيذي للشركة أن يعتقد الذكاء الاصطناعي العام يمكن أن يصل في أقرب وقت ممكن في عام 2026. وخلال المؤتمر الصحفي الذي عُقد يوم الخميس، ذكر أمودي أنه رأى تقدماً مطرداً نحو تحقيق هذه الغاية، مشيراً إلى أن "المياه ترتفع في كل مكان".

يعتقد قادة آخرون في مجال الذكاء الاصطناعي أن الهلوسة تشكل عائقًا كبيرًا أمام تحقيق الذكاء الاصطناعي العام. في وقت سابق من هذا الأسبوع، أقر ديميس هاسابيس، الرئيس التنفيذي لشركة جوجل ديب مايند، بأن نماذج الذكاء الاصطناعي الحالية تعاني من ثغرات وتجيب بشكل خاطئ على العديد من الأسئلة الواضحة. كما أكد أنه بالنسبة له، لكي يُطلق على أي شيء اسم الذكاء الاصطناعي العام، يجب أن يكون أكثر اتساقًا في جميع جوانبه.

"الأمر يعتمد حقاً على كيفية قياسه، لكنني أظن أن نماذج الذكاء الاصطناعي ربما تهلوس بشكل أقل من البشر، لكنها تهلوس بطرق أكثر إثارة للدهشة."

-داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك.

في وقت سابق من هذا الشهر، اضطر محامٍ يمثل شركة أنثروبيك إلى الاعتذار بعد استخدامه برنامج كلود لإنشاء مراجع في ملف قضائي. تكمن المشكلة في أن برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي كان يعاني من الهلوسة، مما أدى إلى نطق أسماء وألقاب خاطئة.

لا يمكن التحقق بسهولة من ادعاء أمودي، ويعود ذلك في الغالب إلى أن معظم معايير قياس الهلوسة تقارن نماذج الذكاء الاصطناعي ببعضها البعض، ولا تقارنها بالبشر. ويبدو أن نماذج الذكاء الاصطناعي تُخفّض معدلات الهلوسة باستخدام تقنيات معينة، مثل الوصول إلى عمليات البحث على الإنترنت.

تُقلل نماذج الذكاء الاصطناعي من معدلات الهلوسة باستخدام تقنيات معينة

خلافاً لبعض المناقشات، لا أرى أي علامات على زيادة كبيرة في معدلات الهلوسة بالنسبة للنماذج الحديثة، أو بالنسبة للمفكرين بشكل عام، في البيانات.

يبدو أن بعض النماذج أفضل من غيرها، لكن العديد من النماذج الحديثة تتميز بأقل معدلات الهلوسة. pic.twitter.com/55JwikZ7OP

— إيثان موليك (@emollick) 6 مايو 2025

شركة OpenAI أدلة تشير إلى تفاقم الهلوسة في نماذج الذكاء الاصطناعي المتقدمة للاستدلال. ووفقًا للشركة التقنية، فإن نماذجها o3 و o4-mini تُظهر معدلات هلوسة أعلى من نماذج الاستدلال من الجيل السابق، ولا تزال الشركة تجهل السبب.

شركة أنثروبيك أيضًا بحثت في ميل نماذج الذكاء الاصطناعي إلى خداع البشر، وهي مشكلة بدت سائدة في برنامج Claude Opus 4 الذي أطلقته الشركة مؤخرًا. وكشف معهد أبولو للأبحاث، وهو معهد تابع لجهة خارجية مُنح حق الوصول المبكر لاختبار نموذج الذكاء الاصطناعي، أن نسخة مبكرة من Claude Opus 4 أظهرت ميلًا كبيرًا للتآمر ضد البشر وخداعهم.

بحسب تقرير أمني نشرته يوم الخميس، وجد المعهد أيضاً أن برنامج أوبوس 4 كان أكثر استباقية في محاولاته التخريبية من النماذج السابقة. كما وجدت الشركة أن نموذج الذكاء الاصطناعي كان أحياناً يصرّ على خداعه عند توجيه أسئلة متابعة إليه.

شركة أبولو بأن نماذج الذكاء الاصطناعي باتت أكثر ميلاً لاتخاذ خطوات غير متوقعة، وربما غير آمنة، لإنجاز المهام الموكلة إليها. وأشارت الشركة إلى أن الإصدارات الأولى من نموذجي o1 و o3 التابعين لشركة OpenAI، واللذين تم إطلاقهما خلال العام الماضي، حاولا خداع البشر أكثر من نماذج الجيل السابق.

أشارت شركة أنثروبيك في تقريرها الأمني ​​إلى وجود أدلة على سلوك خادع من جانب برنامج أوبوس 4. وذكرت الشركة أن أوبوس 4 كان يقوم أحيانًا بتنظيف شامل لبعض أجزاء الكود بشكل استباقي حتى عند طلب إجراء تغيير صغير ومحدد فقط. ووفقًا للشركة، كان أوبوس 4 يحاول أيضًا الإبلاغ عن المخالفات إذا شعر بأن أحد المستخدمين متورط في سلوك غير قانوني.