محلل جوجل يحذر: إجابات الذكاء الاصطناعي «ليست مثالية، ولا يمكنها استبدال عقلك»
جيفري غوغو
3 دقائق قراءة
- حذر محلل غوغل، غاري إيلييس، من أن نماذج اللغات الكبيرة لا تزال تعاني من ثغرات في الدقة.
- تحتاج هذه النماذج إلى عين بشرية للتحقق من المحتوى الذي تنتجه.
- وأشار إلى أنه ينبغي للناس عدم الوثوق باستجابات الذكاء الاصطناعي دون التحقق من المصادر الموثوقة.
حذر محلل جوجل غاري إيلييس من أن نماذج اللغات الكبيرة – التقنية الكامنة وراء روبوتات الدردشة بالذكاء الاصطناعي التوليدي مثل شات جي بي تي – لا تزال تعاني من ثغرات في الدقة وتحتاج إلى عين بشرية للتحقق من المحتوى الذي تنتجه. تأتي هذه التعليقات بعد أيام فقط من إطلاق أوبن إيه آي سيرتش جي بي تي، محرك بحث جديد مدعوم بالذكاء الاصطناعي سيتنافس مباشرة مع جوجل.
شارك إيلييس التعليقات على لينكدإن رداً على سؤال تلقاه في بريده الوارد، لكنه لم يوضح طبيعة السؤال. وقال إن الناس لا ينبغي أن يثقوا في ردود الذكاء الاصطناعي دون التحقق من مصادر موثوقة أخرى. تهدف شركة أوبن إيه آي إلى أن يؤدي أداة البحث الخاصة بها إلى قلب هيمنة جوجل في سوق محركات البحث.
إجابات الذكاء الاصطناعي ليست «صحيحة من الناحية الواقعية بالضرورة»
قال إيلييس، الذي يعمل في جوجل لأكثر من عقد من الزمان، إن إجابات الذكاء الاصطناعي قد تكون قريبة من الحقيقة، لكنها ليست «صحيحة من الناحية الواقعية بالضرورة». والسبب في ذلك هو أن نماذج اللغات الكبيرة (LLMs) ليست محصنة ضد تغذيتها من معلومات خاطئة منتشرة على الإنترنت، كما أوضح.
«بناءً على بيانات التدريب الخاصة بها، تجد نماذج اللغات الكبيرة الكلمات والعبارات والجمل الأكثر ملاءمة التي تتوافق مع سياق المعنى والمغزى للموجه»، كتب إيلييس. «هذا يسمح لها بتوليد ردود ذات صلة ومتماسكة. لكن ليس بالضرورة أن تكون صحيحة من الناحية الواقعية.»
قال محلل جوجل إن المستخدمين سيظلون بحاجة إلى التحقق من صحة إجابات الذكاء الاصطناعي بناءً على «ما تعرفه عن الموضوع الذي سألت عنه نموذج اللغة الكبير أو من خلال القراءة الإضافية في الموارد التي تُعد موثوقة لاستفسارك.»
أحد السبل التي حاول بها المطورون ضمان موثوقية المحتوى الذي يولده الذكاء الاصطناعي هي من خلال ممارسة تسمى «التأريض». تتضمن العملية دمج المعلومات التي أنشأتها الآلة بعناصر بشرية للحماية من الأخطاء. ووفقاً لإيلييس، قد لا يكون التأريض كافياً.
«يمكن أن يساعد التأريض في إنشاء ردود أكثر صحة من الناحية الواقعية، لكنه ليس مثالياً؛ فهو لا يستبدل عقلك»، قال. «الإنترنت مليء بالمعلومات المضللة المقصودة وغير المقصودة، ولن تصدق كل ما تقرأه عبر الإنترنت، فلماذا تصدق إجابات نموذج اللغة الكبير؟»
إيلون ماسك يتهم جوجل بحجب المعلومات العامة
تقليدياً، كانت الثقة دائماً قضية محورية مع محركات البحث مثل جوجل ومنصات الذكاء الاصطناعي الأخرى، وكيفية ممارستها لبعض السيطرة على المعلومات التي تقدمها للمستخدمين.
تتضمن إحدى هذه الحوادث محاولة الاغتيال الأخيرة للرئيس الأمريكي السابق دونالد ترامب. اقترح إيلون ماسك أن جوجل حظرت ظهور حادثة إطلاق النار في نتائج بحثها، مما أشعل جدلاً كبيراً على وسائل التواصل الاجتماعي حول نفوذ شركات التكنولوجيا الكبرى.
واو، جوجل لديها حظر بحث على الرئيس دونالد ترامب!
التدخل في الانتخابات؟ pic.twitter.com/dJzgVAAFZA
— إيلون ماسك (@elonmusk) يوليو 29، 2024
في خضم تدفق الردود، أضفت حساب مزيف يدعي أنه ينتمي لنائبة رئيس جوجل آنا موستاراك إلى الجدل، بمشاركة اعتذار مزيف من الشركة لادعاء حجب المحتوى المتعلق بترامب.
«...تستمر احتياجات الناس للمعلومات في النمو، لذا سنستمر في تطوير وتحسين البحث. ومع ذلك، يبدو أننا بحاجة إلى إعادة ضبط ما نعنيه بالدقة. ما هو دقيق أمر ذاتي، والسعي وراء الدقة يمكن أن يعيق إنجاز الأمور»، نشرت الحساب المزيف على منصة إكس.
«يمكنك التأكد من أن فريقنا يعمل بجد لضمان ألا يكون إعجابنا بالدقة مشتتاً يعيق رؤيتنا للمستقبل»، أضافت.
قامت ملاحظات المجتمع على منصة إكس بوضع علامة فورية على التغريدة، قائلة إن الشخص كان ينتحل شخصية نائبة رئيس جوجل. هذا مثال على كيفية تشوه المعلومات بسهولة، وقد لا تتمكن نماذج الذكاء الاصطناعي من التمييز بين ما هو دقيق وما ليس كذلك دون مراجعة بشرية.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
جيفري غوغو
جيفري غوغو صحفي بخبرة تمتد لعشرين عامًا في مجالات الأعمال والمالية وأخبار وتغيير المناخ وتحليلاته. وقد نُشرت أعماله عبر مؤسسة Thomson Reuters Foundation وصحيفة The Zimbabwe Herald وعدة منشورات إلكترونية. كما كتب بشكل واسع عن الذكاء الاصطناعي والعالم الافتراضي (Metaverse)، وبدأ تغطية أسواق العملات المشفرة في عام 2017. درس غوغو الصحافة والاتصال الجماهيري في CCOSA في هاراري.
