جوجل تحد من استخدام الذكاء الاصطناعي في الاستعلامات الساخرة وغير المنطقية

تُقلّص جوجل عرض ملخصات الذكاء الاصطناعي في بعض نتائج البحث. جاء هذا القرار بعد أن ارتكبت الشركة العملاقة بعض الأخطاء التي أثارت ردود فعل غاضبة على الإنترنت.

يوم الخميس، اعترفت ليز ريد، رئيسة قسم البحث في جوجل، بأن الشركة كانت تحد من الملخصات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تسمى "نظرة عامة على الذكاء الاصطناعي". وقد تعرضت هذه الميزة المدعومة بالذكاء الاصطناعي لانتقادات عندما بدأت في عرض محتوى يحث الناس على أكل الصخور ولصق الجبن على البيتزا.

اقرأ أيضاً: جوجل، وOpenAI، و13 شركة أخرى تتعهد بعدم نشر نماذج الذكاء الاصطناعي الخطرة

بدأت جوجل بعرض ملخصات الذكاء الاصطناعي لمستخدميها في الولايات المتحدة قبل أسبوعين بعد مؤتمرها السنوي I/O، الذي أطلقت خلاله العديد من الخدمات القائمة على الذكاء الاصطناعي. ومنذ يوم الخميس، لاحظ المستخدمون انخفاضًا في عدد الأسئلة، ما أدى إلى ظهور إجابات مدعومة بالذكاء الاصطناعي.

يتطلبdentالتقارير المزيفة عن الذكاء الاصطناعي تحليلاً دقيقاً

كتبت ريد في تدوينة لها أن مستخدمي وسائل التواصل الاجتماعي شاركوا لقطات شاشة من عروض الذكاء الاصطناعي التي اقترحت حلولاً غريبة. وقالت إن نظام الذكاء الاصطناعي الخاص بالشركة ارتكب بعض الأخطاء، لكن العديد منها كان مزيفاً ولم يُنتج أبداً بواسطة نظام الذكاء الاصطناعي الخاص بجوجل.

أقرت بأن بعض التقارير غير الدقيقة أو الغريبة عن الذكاء الاصطناعي قد ظهرت بالفعل. وقد سلطت الضوء على المجالات التي تحتاج فيها الميزة إلى تحسين، لكنها ليست من بين عمليات البحث الشائعة. وأشارت إلى التقارير المزيفة قائلةً:

"بشكل منفصل، تم تداول عدد كبير من لقطات الشاشة المزيفة على نطاق واسع. بعض هذه النتائج المزيفة كانت واضحة وسخيفة."

قالت ريد إن جوجل لم تعرض أي ملخصات للذكاء الاصطناعي لمواضيع مثل التدخين أثناء الحمل أو ترك الكلاب في السيارات. وحثت المستخدمين الذين شاهدوا تلك الصور على وسائل التواصل الاجتماعي على البحث بأنفسهم والتحقق.

بإمكان الذكاء الاصطناعي من جوجل الآنdentالمحتوى الساخر

dentجوجل أن المحتوى الساخر والاستعلامات غير المنطقية من المجالات التي تحتاج إلى معالجة لإنتاج تقييمات غير دقيقة للذكاء الاصطناعي. وقالت جوجل إنه قبل انتشار لقطات شاشة الاستعلام "كم عدد الصخور التي يجب أن آكلها؟" على نطاق واسع، لم يكن أحد قد طرح هذا السؤال. وأكد ريد أنه يمكن الاطلاع على مؤشرات جوجل للتحقق من ذلك.

اقرأ أيضاً: أوبرا تدمج نماذج جيميني من جوجل لتحسين الذكاء الاصطناعي لمتصفح آريا

من العوامل الأخرى قلة المحتوى المتاح حول موضوع معين، وهو ما يُعرف بنقص البيانات، ما يُعدّ سببًا آخر لعدم دقة تقييمات الذكاء الاصطناعي. وفيما يتعلق باستفسار "أكل الصخور"، أوضحت ريد أن الطابع الساخر للمحتوى هو ما دفع إلى إعداد تقييم الذكاء الاصطناعي. كما أعاد نشر المحتوى موقع إلكتروني لبرامج جيولوجية، والذي أشار إليه تقييم الذكاء الاصطناعي. وأوضحت قائلةً:

"لذا عندما قام شخص ما بوضع هذا السؤال في البحث، ظهرت نظرة عامة للذكاء الاصطناعي تربط بشكل دقيق بأحد المواقع الإلكترونية القليلة التي تناولت هذا السؤال."

لم يذكر ريد التقارير الأخرى عن الذكاء الاصطناعي المتداولة على وسائل التواصل الاجتماعي، والتي نشرتها أيضاً العديد من دور النشر الكبرى. فعلى سبيل المثال، نشرت صحيفة واشنطن بوست تقريراً عن قيام جوجل بإخبار الناس بأن باراك أوباما مسلم. كما ذكرت الصحيفة حالة أخرى أخبر فيها تقرير جوجل أحد المستخدمين أن شرب البول يساعد على التخلص من حصى الكلى.

جوجل مهووسة بالمنتديات العامة

أشارت رئيسة قسم البحث في جوجل إلى أن الشركة اختبرت الميزة على نطاق واسع قبل إطلاقها للجمهور. كما أقرت بصعوبة محاكاة ممارسات الاستخدام الواقعية خلال مرحلة الاختبار، إلا أن الشركة أجرت اختبارات دقيقة وشاملة، بالإضافة إلى أخذ عينات من استفسارات المستخدمين النموذجية. 

اقرأ أيضاً: ميزة نظرة عامة على الذكاء الاصطناعي من جوجل تواجه ردود فعل سلبية بسبب نتائج غير دقيقة

لاحظ بعض المستخدمين ومحللي محتوى الإنترنت أن جوجل بدأت مؤخرًا بعرض نتائج كثيرة من منتديات عامة مثل ريديت. ويشكك البعض في اتفاقية الشركة مع ريديت، لكن متحدثًا باسم جوجل صرّح لبي بي سي بأنه لم تكن هناك أي بنود من هذا القبيل ضمن الاتفاقية التي تهدف إلى منح ريديت مزيدًا من الظهور في نتائج البحث.

تقول ليلي راي، نائبة رئيسdent استراتيجية وأبحاث تحسين محركات البحث في وكالة التسويق "أمسيف"، إن العديد من عمليات البحث تظهر نتائجها الآن من موقع "ريديت". كما سخرت من جوجل في منشور على منصة "إكس" (تويتر سابقًا)، قائلةً إن كل معارف العالم (محتوى ريديت) مُدمجة مع الذكاء الاصطناعي.

أيها السيدات والسادة، كل معارف العالم مجتمعة مع قوة الذكاء الاصطناعي ومُتَصَيِّد واحد على موقع ريديت. pic.twitter.com/jhzT2pGXjh

— ليلي راي 😏 (@lilyraynyc) 21 مايو 2024

قالت ريد إنّ بعض الأمثلة في قسم "نظرة عامة على الذكاء الاصطناعي" تتضمن محتوى ساخرًا من منتديات النقاش. وأضافت أن المنتديات مصدر جيد للمعلومات المباشرة، لكنها قد تُفضي أحيانًا إلى إجابات غير مفيدة، مثل لصق الجبن على البيتزا.

يُخطئ نظام الذكاء الاصطناعي من جوجل أيضًا في تفسير اللغة، مما يؤدي إلى معلومات خاطئة في ملخصات الذكاء الاصطناعي، لكن نسبة هذه الإجابات منخفضة جدًا، وفقًا للشركة. وأشار ريد إلى أنهم عالجوا المشكلات بسرعة من خلال التحسين أو إزالة الردود التي لا تتوافق مع سياسة جوجل.

أكدت نائبة رئيس قسم البحث في جوجلtronلمواضيع مثل الصحة والأخبار. وقد أطلقت الشركة تحسينات جديدة على آلية الكشف لتعزيز جودة المعلومات الصحية. وأوضحت ريد أن نظام الكشف قد تم تحديثه أيضًا ليشمل الاستعلامات غير المنطقية، وذلك لمنع عرضها ضمن نتائج البحث المدعومة بالذكاء الاصطناعي. كما أشارت إلى تقليل عدد نتائج البحث المدعومة بالذكاء الاصطناعي للاستعلامات الساخرة، قائلةً: "لقد قمنا بتحديث أنظمتنا للحد من استخدام المحتوى الذي ينشئه المستخدمون في الردود، والذي قد يقدم نصائح مضللة".

تقرير Cryptopolitan بقلم عامر شيخ