تجاهلت شركة آبل تحذيرات المهندسين بشأن تقنية الذكاء الاصطناعي المعيبة

وبحسب ما ورد، تجاهلت شركة آبل تحذيرات المهندسين بشأن عيوب تقنية "آبل إنتليجنس" الخاصة بها، ومضت قدماً في طرح هذه التقنية، وحصلت على تقييمات سوقية مخيبة للآمال.

تصدرت شركة آبل إنتليجنس، صانعة أجهزة آيفون، عناوين الأخبار لأسباب خاطئة، وتعرضت لانتقادات واسعة النطاق، لا سيما بسبب اختلاق معلومات كاذبة وتشويه عناوين الأخبار.

اكتشف المهندسون عيوبًا في العديد من الطرازات، بما في ذلك Apple Intelligence

على الرغم من شيوع ظاهرة الهلوسة في نماذج اللغة الكبيرة، وهو تحدٍّ لم يجد له مجال الذكاء الاصطناعي حلاً بعد، إن وُجد أصلاً، إلا أن حالة آبل كانت مختلفة بعض الشيء. فقد لاحظ المهندسون عيوباً جوهرية في النموذج قبل إطلاقه، ومع ذلك تجاهلت الشركة هذه التحذيرات.

بحسب المحللين، كان إطلاق النموذج تصرفاً متهوراً من جانب عملاق التكنولوجيا بعد التحذيرات التي صدرت بشأن defi. وقد وردت هذه التحذيرات في دراسة نُشرت في أكتوبر من العام الماضي.

على الرغم من أنها لم تخضع بعد لمراجعة الأقران، إلا أن الدراسة خلصت أيضًا إلى أن النماذج لا تقوم بالاستدلال، وذلك بعد اختبار "الاستدلال"maticلبعض أفضل نماذج LLM في صناعة الذكاء الاصطناعي.

لاختبار النماذج، جعلها المهندسون تحل آلاف المسائل الرياضية من مجموعة بيانات GSM8K، والتي تعتبر المعيار الصناعي.

بحسب موقع Futurism، ​​فإن أحد الأسئلة النموذجية من مجموعة البيانات هو: "اشترى جيمس 5 عبوات من لحم البقر، وزن كل منها 4 أرطال. سعر لحم البقر هو 5.50 دولارًا للرطل. كم دفع؟"

كشف المهندسون عن الثغرات في نماذج الذكاء الاصطناعي بمجرد تغيير بعض الأرقام في الأسئلة لتجنب تلوث البيانات. وقد تسبب ذلك في بعض الأخطاء الصغيرة ولكن الملحوظة في نماذج اختبار اللغة العشرين التي تم فحصها.

ومع ذلك، عندما ذهب الباحثون إلى أبعد من ذلك بتغيير الأسماء وإضافة بعض "التفاصيل غير ذات الصلة"، كانت النتائج "كارثية"، حيث وصلت إلى 65٪.

وكتب الباحثون: "هذا يكشف عن خلل حرج في قدرة النماذج على تمييز المعلومات ذات الصلة لحل المشكلات، على الأرجح لأن منطقها ليس رسميًا بالمعنى الشائع ويعتمد في الغالب على مطابقة الأنماط"

بحسب الباحثين، اختلفت النتائج باختلاف كل نموذج. فقد انخفض أداء نموذج OpenAI 01-preview بنسبة 17.5%، بينما انخفض أداء سلفه GPT-40 بنسبة 32%. وأشار الباحثون إلى أن حتى أكثر النماذج "ذكاءً" واجهت مشاكل وأظهرت بعض العيوب الخطيرة.

تواجه نماذج الذكاء الاصطناعي صعوبات بمفردها 

أثبتت الاختبارات أيضًا أن نماذج الذكاء الاصطناعي قد تبدو ذكية في حل المشكلات، ولكنها تواجه صعوبة عندما لا تتمكن من نسخ واجبات الآخرين حرفيًا. أما بالنسبة لشركة آبل، فقد أفادت التقارير أن عملاق التكنولوجيا كان على علم بنتائج الاختبارات، ومع ذلك طرح نموذجه في السوق.

لقد تطلب الأمر ردود فعل عنيفة من السوق، بما في ذلك إثارة هيئة الإذاعة البريطانية (BBC) مخاوف بشأن قيام النموذج بتقديم معلومات مضللة، حتى تقوم شركة آبل في النهاية بتعليق البرنامج مؤقتًا حتى تتمكن من إصلاحه.

كان من المتوقع أن تقوم ميزة الذكاء الاصطناعي من آبل بتلخيص إشعارات الأخبار، لكنها كانت في بعض الأحيان تقوم بتلفيق الأخبار من تلقاء نفسها، مما أثار استياء القراء وناشري الأخبار.

زعمت إحدى النشرات الإخبارية غير الدقيقة أن رافائيل نادال مثلي الجنس، وأن رجلاً متهمًا بقتل رئيس شركة تأمين أمريكية قد انتحر. كما لخص نظام الذكاء الاصطناعي من آبل إشعارات تطبيق بي بي سي بشكل غير دقيق، مدعيًا فوز لوك ليتلر ببطولة العالم للسهام التابعة لرابطة لاعبي السهام المحترفين قبل ساعات من انطلاقها.

يبدو أن ملخصاً غير صحيح آخر لقصة نشرتها صحيفة نيويورك تايمز قد نُشر في 6 يناير، يتعلق بالذكرى السنوية الرابعة لأعمال الشغب في مبنى الكابيتول.

أعلنت شركة آبل في بيانٍ لبي بي سي: "ميزات Apple Intelligence لا تزال في مرحلة تجريبية، ونحن نعمل باستمرار على تحسينها بناءً على ملاحظات المستخدمين. وسيُصدر تحديثٌ برمجيٌّ خلال الأسابيع القادمة لتوضيح متى يكون النص المعروض ملخصًا مُقدَّمًا من Apple Intelligence. ونشجع المستخدمين على الإبلاغ عن أي مشكلة في حال ظهور ملخص إشعار غير متوقع ".

كانت الميزة المعيبة من Apple واحدة من أدوات الذكاء الاصطناعي التي تم إصدارها لمستخدمي بعض أجهزة iPhone الأحدث في ديسمبر، بما في ذلك أجهزة iPhone 16 و 15 Pro و 15 Pro Max، بالإضافة إلى بعض أجهزة iPad و Mac.