أخطاء البحث في قسم الصحة في موقع جوجل للذكاء الاصطناعي تثير المخاوف

تستخدم جوجل الذكاء الاصطناعي للإجابة على الاستفسارات المتعلقة بالمسائل الصحية. ويرى بعض المحللين أن هذا الأمر مثير للقلق، إذ قد توفر ميزة "نظرة عامة على الذكاء الاصطناعي" معلومات غير موثوقة.

يقول الأطباء إنّ ميزة "المراجعات الذكية" قد تُثير القلق، لا سيما عند الإجابة على استفسارات الصحة الشخصية. فقد أشاروا، وفقًا لتقرير حديث نشرته صحيفة نيويورك تايمز، إلى أنّ هذه الميزة قد تُقدّم معلومات غير دقيقة، على الرغم من قدرتها على توجيه الأفراد نحو العلاج الطبي المطلوب.

أخطاء البحث في مراجعات الذكاء الاصطناعي تغذي مشاعر الهلوسة في الذكاء الاصطناعي

أطلقت جوجل ميزة "نظرة عامة على الذكاء الاصطناعي"، وهي ميزة تُنشئ ملخصات لمحتوى المواقع الإلكترونية وتعرضها في صفحة نتائج البحث. وبعد أيام قليلة من إطلاقها، كشفت هذه الميزة عن مجموعة واسعة من الأخطاء، إذ اعتمدت إجاباتها على مصادر غير موثوقة. وهذا الأمر يُعزز الاعتقاد بأن الذكاء الاصطناعي عُرضة للخطأ وقد يُنتج معلومات غير دقيقة.

اقرأ أيضاً: جوجل تُقيّد ميزة استعراض الذكاء الاصطناعي للاستعلامات الساخرة وغير المنطقية

أثارت نتائج البحث المتعلقة بالصحة، والتي تتضمن توصيات بتناول جرعة يومية من موسيقى الروك أو حث المستخدمين على تناول البيتزا الملصقة، ردود فعل غاضبة. صحيح أن موقع AI Overviews يستشهد بمصادر مثل منظمة الصحة العالمية، وموقع WebMD، وموقع PubMed، وعيادة مايو، إلا أن معلوماته لا تقتصر على هذه المصادر. ويقول المحللون إن الأداة تستقي معلوماتها من مواقع مثل Reddit، وWikipedia، ومدونات مختلفة، ومواقع التجارة الإلكترونية.

أوضحت هيما بوداراجو، مديرة إدارة المنتجات في جوجل، أن هناك ضوابط إضافية للاستفسارات المتعلقة بالصحة، لكنها امتنعت عن الإفصاح عن أي تفاصيل أخرى. وأضافت هيما أن بعض الاستفسارات لا تُفعّل ميزة "مراجعات الذكاء الاصطناعي"، على سبيل المثال، إذا استشعر النظام حالة إيذاء النفس.

قالت جوجل إن خدمة AI Overviews تتكامل مع Google Knowledge Graph، وهي قاعدة معرفية تحتوي على بيانات مستمدة من مصادر متعددة، لكنها لم تقدم تفاصيل حول مواقع الويب التي تدعم مخرجات ميزة البحث المدعومة بالذكاء الاصطناعي.

يعرض جوجل المزيد من ملخصات الذكاء الاصطناعي للاستفسارات الصحية

كانت النتائج التقليدية، التي يُشار إليها غالبًا باسم "الروابط الزرقاء العشرة"، مفيدة للمستخدمين لأنها تُمكّنهم من التمييز بين المصادر الطبية الموثوقة والروابط المدفوعة أو المواقع الإلكترونية الأقل مصداقية. مع ميزة "نظرة عامة مدعومة بالذكاء الاصطناعي"، تغيّر الوضع. الآن، يعرض نص واحد معلومات مُجمّعة من مصادر مختلفة، وهو ما يُسبب، بحسب المحللين، ارتباكًا.

قالت كيت نيبس من مجلة Wired في بودكاست:

"إذا كتبتَ كلمة "ربو" أو "هل أعاني من السكري؟" أو أي شيء يتعلق بالأمراض، فمن المرجح جدًا أن ترى حتى اليوم ملخصًا للذكاء الاصطناعي. صحيح أنه لا ينطبق على الجميع، لكنه لا يزال يمثل حوالي 63%. وأعتقد أن الأمر يعتمد على الحالة."

بعض الأطباء، مثل الدكتور داريوش مظفريان، إن ملخصات الذكاء الاصطناعي تعرض بعض الحقائق الصحيحة وتلخصها في إجابات، لكنها لا تميز بين الأدلة المستمدة من الدراسات القائمة على الملاحظة والتجارب العشوائية.

تتفاقم مشكلة التضليل عندما يخلط المحتوى بين المعلومات. على سبيل المثال، يُقال: "يحتوي الشاي الأخضر على مضادات الأكسدة، ويساعد في الوقاية من السرطان". صحيح أن المعلومة الأولى صحيحة، لكن المعلومة الثانية لم تُثبت سريريًا. وعندما تُذكر هذه الادعاءات معًا، فإنها تُعطي انطباعًا خاطئًا بمصداقيتها.

قامت جوجل بتقييد مراجعات الذكاء الاصطناعي

ينصح المراقبون لتطبيق الذكاء الاصطناعي بتوخي الحذر عند استخدام نتائج البحث المتعلقة بالصحة. ويقولون إنه ينبغي على المستخدمين قراءة التفاصيل الدقيقة أسفل بعض الإجابات التي تنص على أن "هذه المعلومات لأغراض إعلامية فقط". صحيفة نيويورك تايمز تقرير إلى أن الذكاء الاصطناعي التوليدي لا يزال في مرحلة تجريبية، وينبغي على المستخدمين استشارة الأطباء في حال وجود أي حالة صحية خطيرة. 

اقرأ أيضاً: تحديثات خوارزمية جوجل الأساسية ونظرة عامة على الذكاء الاصطناعي تُقلل من حركة مرور الناشرين

في بيان صدر في 30 مايو، ذكرت جوجل أنها قلّصت استخدام ميزة "نظرة عامة على الذكاء الاصطناعي" في بعض الفئات. وتؤكد بيانات شركة "برايت إيدج" المتخصصة في تحسين محركات البحث موقف جوجل، مما يشير إلى أن عملية التقليص بدأت حتى قبل إعلان الشركة. 

وتشير تقارير أخرى إلى أن جوجل بدأت في التراجع عن ميزة "مراجعات الذكاء الاصطناعي" لبعض الفئات حتى قبل أن يبدأ مستخدمو الإنترنت في السخرية منها بسبب ردودها غير المنطقية. ومع ذلك، هناك مزاعم بأن فئة الصحة لا تزال تعرض عددًا كبيرًا من مراجعات الذكاء الاصطناعي. يقول نيبس:

"تحدثت إلى بعض الباحثين الآخرين في مجال تحسين محركات البحث الذين وجدوا أيضاً أن قطاع الرعاية الصحية لا يزال ينتج الكثير من التقارير الموجزة حول الذكاء الاصطناعي."

تقول نيبس إنها اختبرت بعض الاستفسارات المتعلقة بالصحة، ووجدت نتائج مختلفة في غضون ساعات قليلة من المحاولة، مما يدل على أن جوجل تعمل على تحسين النتائج. وأضافت: "حسنًا، إنهم يحاولون. لا أعرف إن كانوا يبذلون جهدًا كافيًا، لكنهم defiيحاولون".

تقرير Cryptopolitan بقلم عامر شيخ