وقال الرئيس التنفيذي للأنثروبور داريو أمودي إن نماذج الذكاء الاصطناعى الحالية هي الهلوسة أقل مما يفعله البشر. وقال أيضًا إن نماذج الذكاء الاصطناعى اليوم تصنع الأشياء وتقدمها كما لو كانت صحيحة ، مما لا يحد من طريق الأنثروبور نحو AGI.
خلال مؤتمر صحفي في أول حدث مطور في الإنسان ، جادل Amodei أيضًا بأن Code with Claude ، في سان فرانسيسكو يوم الخميس ، جادل بأن مذيعو التلفزيون والسياسيون والبشر في جميع أنواع المهن يرتكبون أخطاء طوال الوقت. ووفقا له ، فإن حقيقة أن الذكاء الاصطناعى ترتكب الأخطاء ، أيضا ، ليست ضربة على ذكائها.
يقول Amodei إن الهلوسة من الذكاء الاصطناعي لن تعرقل أهداف الأنثروبور
لا ينبغي أن يفاجأ أحد أن الذكاء الاصطناعي يهلل الحالات والسلطات لأن الذكاء الاصطناعى يأخذ خصائص المبدعين.
يعرف أي محام يتعامل بانتظام مع عملاء التقاضي في الحجم أن العملاء يمكنهم ترسيخ أنفسهم بعناد في واقعهم الخاص حتى لو كان ...
- كاميرون أتكينسون (camlatkinson) 19 مايو 2025
أدلى Amodei بتصريحات مع الاعتراف بأن الهلوسة من الذكاء الاصطناعى لا تحد من طريق الأنثروبور إلى أنظمة AGI-الذكاء الاصطناعي مع الذكاء على مستوى الإنسان أو أفضل. لقد كان واحداً من أكثر القادة في هذا المجال في الصناعة على آفاق نماذج الذكاء الاصطناعي التي تحقق AGI.
يعتقد المسؤول التنفيذي للشركة أن AGI قد يصل في أقرب وقت عام 2026. وخلال إحاطة الصحافة يوم الخميس ، ذكر Amodei أنه رأى تقدمًا ثابتًا إلى هذه الغاية ، مشيرًا إلى أن " المياه ترتفع في كل مكان".
يعتقد القادة الآخرون في مساحة الذكاء الاصطناعى أن الهلوسة يقدم عقبة كبيرة لتحقيق AGI. في وقت سابق من هذا الأسبوع ، أقر الرئيس التنفيذي لشركة Google Deepmind DeMis Hassabis أن نماذج الذكاء الاصطناعى اليوم لديها الكثير من "الثقوب" وتخطئ الكثير من الأسئلة الواضحة. كما جادل أنه بالنسبة له ، لكي يطلق عليه شيء ما ، يجب أن يكون أكثر اتساقًا في جميع المجالات.
"هذا يعتمد حقًا على كيفية قياسه ، لكنني أظن أن نماذج الذكاء الاصطناعى ربما تهدأ أقل من البشر ، لكنها تهين بطرق أكثر إثارة للدهشة."
-Dario Amodei ، الرئيس التنفيذي لشركة Anthropic.
في وقت سابق من هذا الشهر ، اضطر محام يمثل الأنثروبور إلى الاعتذار بعد استخدام كلود لإنشاء اقتباسات في ملف المحكمة. وكانت المشكلة هي أن AI chatbot هلوسة وحصلت على أسماء وعناوين خاطئة.
لا يمكن التحقق من مطالبة Amodei بسهولة ، إلى حد كبير لأن معظم معايير الهلوسة تحفر نماذج AI ضد بعضها البعض ؛ إنهم لا يقارنون النماذج بالبشر. يبدو أن نماذج الذكاء الاصطناعي تخفض أيضًا معدلات الهلوسة مع بعض التقنيات ، مثل الوصول إلى عمليات البحث على الويب.
نماذج الذكاء الاصطناعى تقلل من معدلات الهلوسة بتقنيات معينة
على عكس بعض المناقشات ، لا أرى علامات على زيادة كبيرة في معدلات الهلوسة للنماذج الحديثة ، أو للموافقات بشكل عام ، في البيانات.
يبدو أن بعض النماذج تعمل بشكل أفضل من غيرها ، ولكن العديد من النماذج الحديثة لديها أدنى معدلات الهلوسة. pic.twitter.com/55jwikz7op
- إيثان موليك (emollick) 6 مايو 2025
Openai أدلة تشير إلى أن الهلوسة تزداد سوءًا في نماذج الذكاء الاصطناعي المتقدم. وفقًا لشركة التكنولوجيا ، فإن نماذج O3 و O4-MINI لها معدلات هالوسية أعلى من نماذج التفكير في الجيل السابق ، ولا تفهم الشركة السبب.
بحثت الأنثروبور أيضًا في ميل نماذج الذكاء الاصطناعى لخداع البشر ، وهي مشكلة بدا أنها سائدة في كلود أوبوس التي تم إطلاقها مؤخرًا.
وفقًا لتقرير السلامة المنشور يوم الخميس ، وجد المعهد أيضًا أن OPUS 4 بدا أكثر نشاطًا في محاولات التخريب من النماذج السابقة. ووجدت الشركة أيضًا أن نموذج الذكاء الاصطناعي تضاعف في بعض الأحيان على خداعه عند طرح أسئلة المتابعة.
أبولو بأن نماذج الذكاء الاصطناعى أصبحت أكثر عرضة لاتخاذ خطوات غير متوقعة - وربما غير آمنة - لتحقيق المهام المفوضة. سلطت الشركة الضوء على أن الإصدارات المبكرة من نماذج Openai's O1 و O3 التي تم إصدارها في العام الماضي حاولت خداع البشر أكثر من نماذج الجيل السابق.
في تقرير السلامة ، لاحظت الأنثروبور أيضًا أدلة على السلوك الخادع من Opus 4. قالت الشركة أن OPUS4 ستقوم أحيانًا بتنظيف واسع لبعض الكود حتى عندما يُطلب منها إجراء تغيير صغير محدد فقط. وفقًا للشركة ، ستحاول OPUS4 أيضًا أن تنفجر إذا نظرت إلى مستخدم يشارك في ارتكاب مخالفات.
أكاديمية Cryptopolitan: تعبت من تقلبات السوق؟ تعلم كيف يمكن أن تساعدك DeFi سجل الآن
