تحد جوجل من ملخصات الذكاء الاصطناعي للاستفسارات الساخرة وغير المنطقية

تقوم جوجل بتقليل عرض ملخصات الذكاء الاصطناعي (AI Overviews) في بعض نتائج البحث. جاء القرار بعد أن ارتكبت عملاقة البحث بعض الأخطاء التي حظيت بتغطية إعلامية وأثارت رد فعل عنيف على الإنترنت.

في يوم الخميس، اعترفت ليز ريد، رئيسة قسم بحث جوجل، بأن الشركة كانت تحد من الملخصات التي يولدها الذكاء الاصطناعي والمُسمّاة "ملخصات الذكاء الاصطناعي". وقد انتُقدت الميزة المدعومة بالذكاء الاصطناعي عندما بدأت في عرض محتوى ينصح الناس بأكل الصخور ولصق الجبن على البيتزا.

اقرأ أيضًا: جوجل، وOpenAI، و13 جهة أخرى تتعهد بعدم نشر نماذج ذكاء اصطناعي محفوفة بالمخاطر

بدأت جوجل في عرض ملخصات الذكاء الاصطناعي لمستخدميها في الولايات المتحدة قبل أسبوعين من حدث I/O السنوي، حيث أطلقت عدة عروض تعتمد على الذكاء الاصطناعي. من يوم الخميس، لاحظ المستخدمون انخفاض عدد الأسئلة التي تؤدي إلى استجابة من الذكاء الاصطناعي.

تحديد ملخصات الذكاء الاصطناعي المزيفة يتطلب تحليلاً دقيقاً

كتبت ريد في منشور مدونة أن الأشخاص على وسائل التواصل الاجتماعي شاركوا لقطات شاشة لملخصات الذكاء الاصطناعي اقترحت حلولاً غريبة. وقالت إن ذكاء الشركة الاصطناعي ارتكب بعض الأخطاء، لكن العديد منها كان مزيفاً ولم يتم إنشاؤه بواسطة نظام الذكاء الاصطناعي التابع لجوجل.

أقرت بأن بعض ملخصات الذكاء الاصطناعي الغريبة أو غير الدقيقة ظهرت بالتأكيد. وأشارت إلى المجالات التي تحتاج الميزة إلى التحسين فيها، لكنها ليست استعلامات يتم البحث عنها بشكل شائع. وأشارت إلى تلك المزيفة، قائلةً:

"وعلى صعيد آخر، تم مشاركة عدد كبير من لقطات الشاشة المزيفة على نطاق واسع. بعض هذه النتائج المزيفة كانت واضحة وسخيفة."

قالت ريد إن جوجل لم تظهر أي مراجعات الذكاء الاصطناعي لمواضيع مثل التدخين أثناء الحمل أو ترك الكلاب في السيارات. وشجعت المستخدمين الذين رأوا تلك اللقطات على وسائل التواصل الاجتماعي على البحث بأنفسهم والتحقق.

يمكن لذكاء جوجل الاصطناعي الآن تحديد المحتوى الساخر

حددت جوجل أن المحتوى الساخر والاستعلامات غير المنطقية كانت مجالات تحتاج إلى معالجة لإنتاج ملخصات ذكاء اصطناعي غير دقيقة. وقالت جوجل إنه قبل أن تنتشر لقطات الشاشة للاستعلام "كم صخرة يجب أن آكل؟"، لم يسأل أحد هذا السؤال. وقالت ريد إنه يمكن رؤية اتجاهات جوجل (Google Trends) للتأكيد.

اقرأ أيضًا: Opera تدمج نماذج Google Gemini لتعزيز ذكاء Aria للمتصفح

عامل آخر هو أن المحتوى المتاح حول موضوع معين قليل جداً، وهو ما يُعرف أيضاً بنقص البيانات (data void)، وهو سبب آخر لملخصات الذكاء الاصطناعي غير الدقيقة. وفيما يتعلق باستعلام أكل الصخور، قالت ريد إن الطبيعة الساخرة للمحتوى هي التي أثارت ملخص الذكاء الاصطناعي. كما أعاد موقع ويب لبرمجيات جيولوجية نشر المحتوى، والذي ربطه ملخص الذكاء الاصطناعي. وأوضحت:

"لذلك، عندما طرح شخص هذا السؤال في البحث، ظهر ملخص ذكاء اصطناعي يربط بشكل دقيق بأحد المواقع القليلة التي تناولت السؤال."

لم تذكر ريد ملخصات الذكاء الاصطناعي الأخرى التي انتشرت على وسائل التواصل الاجتماعي، ونشرت العديد من الناشرين الكبار تقارير عنها. على سبيل المثال، نشرت صحيفة واشنطن بوست تقريراً عن جوجل تخبر الناس بأن باراك أوباس مسلم. كما أبلغت الصحيفة عن حالة أخرى أخبر فيها ملخص الذكاء الاصطناعي من جوجل مستخدماً بأن الناس يجب أن يشربوا البول للمساعدة في تمرير حصوات الكلى.

جوجل لديها هوس بالمنتديات العامة

لاحظت رئيسة قسم البحث في جوجل أن الشركة اختبرت الميزة بشكل مكثف قبل إطلاقها للجمهور. كما أقرت بأن ممارسات الاستخدام الواقعية يصعب محاكاتها في مرحلة الاختبار، لكن الشركة أجرت اختبارات اختراق (red-teaming) قوية وعينات من استعلامات المستخدمين النموذجية. 

اقرأ أيضًا: تواجه ميزة ملخص الذكاء الاصطناعي من جوجل انتقادات بسبب النتائج غير الدقيقة

يلاحظ بعض المستخدمين ومحللي محتوى الإنترنت أن جوجل بدأت مؤخراً في عرض العديد من النتائج من المنتديات العامة مثل ريدت. يشكك البعض في صفقة الشركة مع ريدت، لكن متحدثاً باسم جوجل قال لـ BBC إنه لم تكن هناك شروط من هذا القبيل جزءاً من الاتفاق لمنح ريدت رؤية أكبر في نتائج البحث.

تقول ليلى راي، نائبة رئيس استراتيجية وأبحاث تحسين محركات البحث في وكالة التسويق Amsive، إنه الآن، تظهر العديد من الاستعلامات نتائج من ريدت. كما سخرت من جوجل في منشور على X (تويتر سابقاً)، قائلةً إن كل معرفة العالم (محتوى ريدت) تم دمجها مع الذكاء الاصطناعي.

سيدات وسادة، كل معرفة العالم، مقترنة بقوة الذكاء الاصطناعي وتور واحد من ريدت. pic.twitter.com/jhzT2pGXjh

— ليلى راي 😏 (@lilyraynyc) مايو 21، 2024

قالت ريد إن ميزة ملخصات الذكاء الاصطناعي تحتوي على محتوى ساخر من منتديات النقاش في بعض الأمثلة. وقالت إن المنتديات مصدر جيد للمعلومات من الدرجة الأولى، لكن في بعض الحالات، يمكن أن تؤدي إلى إجابات غير مفيدة، مثل لصق الجبن على البيتزا.

يساء أيضاً لذكاء جوجل الاصطناعي تفسير اللغة، مما يؤدي إلى معلومات خاطئة في ملخصات الذكاء الاصطناعي، لكن نسبة هذه الإجابات منخفضة جداً، وفقاً للشركة. وأشارت ريد إلى أنهم حلوا المشكلات بسرعة من خلال التحسين أو عن طريق إزالة الردود التي لا تتوافق مع سياسة جوجل.

قال نائب رئيس جوجل البحث أيضاً إن هناك ضوابط قوية موجودة للمواضيع مثل الصحة والأخبار. أطلقت الشركة تحسينات تشغيلية جديدة لتعزيز حماية الجودة للصحة. وقالت ريد إن نظام الكشف يتم تحديثه أيضاً للاستعلامات غير المنطقية حتى لا تظهر كملخصات ذكاء اصطناعي. كما ألمحت إلى تأكيد انخفاض عدد ملخصات الذكاء الاصطناعي للاستعلامات الساخرة، قائلةً: "قمنا بتحديث أنظمتنا للحد من استخدام المحتوى الذي ينشئه المستخدمون في الردود التي قد تقدم نصائح مضللة."

تقرير من Cryptopolitan بقلم عامر شيخ