يحذر محلل في جوجل من أن إجابات الذكاء الاصطناعي "ليست مثالية، ولا يمكنها أن تحل محل عقلك"

حذّر غاري إيليس، المحلل في جوجل، من أن نماذج اللغة الضخمة - وهي التقنية التي تقف وراء روبوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي مثل ChatGPT - لا تزال تعاني من ثغرات في الدقة، وتحتاج إلى مراجعة بشرية للتحقق من المحتوى الذي تنتجه. وتأتي هذه التصريحات بعد أيام قليلة من إطلاق OpenAI SearchGPT، وهو محرك بحث جديد مدعوم بالذكاء الاصطناعي، سينافس جوجل مباشرةً. 

نشر إيلياس هذه التعليقات على لينكدإن ردًا على سؤال وصله في بريده الإلكتروني، لكنه لم يُفصح عن ماهية السؤال. وقال إنه لا ينبغي للناس الوثوق بإجابات الذكاء الاصطناعي دون التحقق من مصادر موثوقة أخرى. تهدف شركة OpenAI من خلال أداة البحث الخاصة بها إلى قلب هيمنة جوجل على سوق محركات البحث.

ليست ردود الذكاء الاصطناعي "صحيحة بالضرورة من الناحية الواقعية"

قال إيليس، الذي يعمل في جوجل منذ أكثر من عقد، إنه على الرغم من أن إجابات الذكاء الاصطناعي قد تكون قريبة من الحقيقة، إلا أنها ليست "صحيحة بالضرورة من الناحية الواقعية". وأوضح أن ذلك يعود إلى أن نماذج اللغة الكبيرة ليست بمنأى عن التأثر بالمعلومات الخاطئة المنتشرة على الإنترنت.

كتب إيلياس: "استنادًا إلى بيانات التدريب الخاصة بها، تجد نماذج التعلم الآلي الكلمات والعبارات والجمل الأنسب التي تتوافق مع سياق السؤال ومعناه. وهذا يسمح لها بتوليد ردود ذات صلة ومتماسكة، ولكن ليس بالضرورة ردودًا صحيحة من الناحية الواقعية."

قال محلل جوجل إن المستخدمين سيظلون بحاجة إلى التحقق من صحة إجابات الذكاء الاصطناعي بناءً على ما "تعرفه عن الموضوع الذي سألت عنه أو على قراءة إضافية في مصادر موثوقة لاستفسارك"

إحدى الطرق التي لجأ إليها المطورون لضمان موثوقية المحتوى المُولّد بالذكاء الاصطناعي هي ممارسة تُعرف باسم "التأصيل". تتضمن هذه العملية دمج المعلومات المُولّدة آليًا مع عناصر بشرية للحماية من الأخطاء. ووفقًا لإيليس، قد لا يكون التأصيل كافيًا.

قال: "قد يساعد التأريض في صياغة ردود أكثر دقة من الناحية الواقعية، لكنه ليس مثاليًا؛ فهو لا يحل محل عقلك. الإنترنت مليء بالمعلومات المضللة، سواءً عن قصد أو عن غير قصد، ولن تصدق كل ما تقرأه على الإنترنت، فلماذا تصدق كل ما تقرأه في ردودك على أسئلة الماجستير في القانون؟"

إيلون ماسك يتهم جوجل باحتكار المعلومات العامة

تقليديًا، لطالما كانت الثقة مشكلة تتعلق بمحركات البحث مثل جوجل ومنصات الذكاء الاصطناعي الأخرى وكيفية ممارستها لبعض السيطرة على المعلومات التي تقدمها للمستخدمين.

هذه الحوادثdentdentdent dentdentdentdent dentdent ترامب. إيلون ماسك وقد أشار إطلاق النارdent في نتائج البحث، مما أثار جدلاً واسعاً على مواقع التواصل الاجتماعي حول نفوذ شركات التكنولوجيا الكبرى.

يا للعجب، جوجل تحظر البحث عنdent دونالد ترامب!

تدخل في الانتخابات؟ pic.twitter.com/dJzgVAAFZA

— إيلون ماسك (@elonmusk) ٢٩ يوليو ٢٠٢٤

وفي خضم الردود المتلاحقة، أضاف حساب مزيف يدعي أنه تابع لنائبة رئيس جوجلdent موستاراك إلى النقاش، حيث شارك اعتذارًا مزيفًا من الشركة بسبب زعمها حجب محتوى يتعلق بترامب.

«...تتزايد احتياجات الناس من المعلومات باستمرار، لذا سنواصل تطوير وتحسين البحث. مع ذلك، يبدو أننا بحاجة إلى إعادة تعريف مفهومنا للدقة. فالدقة أمر نسبي، والسعي وراءها قد يعيق إنجاز المهام»، هكذا نشر الحساب المزيف على منصة X.

وأضاف البيان: "يمكنكم أن تطمئنوا إلى أن فريقنا يعمل بجد لضمان ألا ندع احترامنا للدقة يكونtracيعيق رؤيتنا للمستقبل".

أشارت ملاحظات المستخدمين على منصة X فورًا إلى التغريدة، موضحةً أن صاحبها ينتحل شخصية نائب رئيس جوجل. هذا مثال على سهولة تحريف المعلومات، وكيف قد تعجز نماذج الذكاء الاصطناعي عن التمييز بين الصحيح والخاطئ دون مراجعة بشرية.