الصعود المقلق لمحتوى الذكاء الاصطناعي في محركات البحث

عندما جوجل بفهرسة مخرجات البنية التحتية السيئة التي تنتجها شركة Pulumi AI، وهي شركة تطوير ذكاء اصطناعي تستخدم روبوت محادثة لإنشاء قوالب، رأينا هذه الكيانات الاصطناعية تظهر في أعلى نتائج جوجل.

صعود محتوى الذكاء الاصطناعي

تتلخص هذه القصة في أن "Pullumi" تقوم "بكتابة نتائج إدخال المستخدمين السريع والتي ستظهر على موقعها الفرعي "إجابات الذكاء الاصطناعي". يتم فهرسة ردود الروبوت بواسطة برامج زحف جوجل لتصنيف المواقع بشكل أساسي لأن إجابات الذكاء الاصطناعي غالبًا ما تكون غير صحيحة.

استشهد أريان فان بوتن بمطورين في منشور على وسائل التواصل الاجتماعي خلال عطلة نهاية الأسبوع، واصفًا إياهم بعبارة "لقد حدث". من المفترض أن تكون أول نتيجة بحث على جوجل هي دليل Pulumi الرسمي المليء بمحتوى LLM، والذي يتضمن تنبيهًا بأن المحتوى الذي يُنشئه LLM سيُظهر ميزة AWS وهمية لم تكن موجودة.

كما أشار مسجل النطاقات في عام 2022، فإن المحتوى المُنشأ بواسطة الذكاء الاصطناعي موجود بالفعل، مما يثير التساؤلات حول جودته. يتم فهرسة هذا المحتوى بسرعة أكبر بواسطة محركات البحث، ويُعرض كأفضل محتوى في نتائج البحث. 

تُعدّ الاستجابات عبر الإنترنت، التي تدعم وظائف ومحتوى نظام الذكاء الاصطناعي Pulumi ومستودع إجاباته، نوعًا آخر من البيانات التي تُوضّح تصميم النظام. تُولّد البنية التحتية كبرنامج، المُمكّنة بواسطة أدوات مثل Pulumi، مخرجات الذكاء الاصطناعي، ويقوم برنامج زحف محركات البحث من جوجل بفهرستها وعرضها للمستخدمين إلى جانب روابط لمحتوى الموقع الإلكتروني الذي كتبه البشر. وقد ساهمت هذه الوثائق وأجزاء التعليمات البرمجية التي أنشأها نظام الذكاء الاصطناعي في اكتشاف مطورين آخرين أن العديد من الأنظمة قد أنتجت نتائج غير دقيقة، أو ما هو أسوأ من ذلك، نتائج غير فعّالة.

مخاوف ترتيب البحث

ظهرت المشكلة في 21 مارس 2024، واكتشفها بيت نيكانين ونشرها في منتدى مشاكل GitHub المخصص لـ Pulumi AI. يقول نيكانين: "كنتُ أبحث مؤخرًا عن كلمات مفتاحية متعلقة بالبنية التحتية على جوجل، ولاحظتُ اتجاهًا مقلقًا: تظهر إجابات Pulumi AI في مقدمة نتائج البحث، بغض النظر عما إذا كان المستخدم قد طُرح عليه السؤال من قبل. بل إن هذا الأمر يمتد إلى عمليات البحث المتعددة، لذا أنا متأكد من أن المشكلة ستتفاقم مع مرور الوقت". وأضاف نيكانين في رسالة بريد إلكتروني إلى صحيفة The Register أنه بدأ يلاحظ مشاكل في بحث Pulumi AI.

وأشار الرئيس التنفيذي قائلاً: "نحن المهندسون نقضي الكثير من الوقت في البحث عن إجابات عبر الإنترنت، ولم أستطع إلا أن ألاحظ ظهور الذكاء الاصطناعي في أعلى نتائج البحث ليلاً للكلمات الرئيسية التي لم تكن مرتبطة بـ Pulumi ولا بالذكاء الاصطناعي نفسه" 

أكد نيكانين أن الذكاء الاصطناعي يحتل حاليًا أعلى المراتب في نتائج البحث. ومع استمرار المزيد من الشركات في إنشاء برامج لتوليد المحتوى، فإن مشاركة متخصصي الذكاء الاصطناعي في العمل الفعلي أمر بالغ الأهمية، وقد يؤثر سلبًا على مصداقية الإنترنت. 

ومن الأدوار الأخرى التي لعبها الذكاء الاصطناعي في الوثائق أنه على الرغم من أن إجابات الذكاء الاصطناعي غطت أكثر من نصف (ما يقرب من ثلثي) المواضيع المتعلقة باستخدام الخدمات، فقد اقترح آرون فريل، مهندس الذكاء الاصطناعي في شركة Pulumi، أنه سيتم إنهاء إجابات الذكاء الاصطناعي الجديدة. 

التدقيق من أجل الجودة

أشار فريل إلى أن صفحات واجهة برمجة التطبيقات (API Pages) هي مبادرة أخرى تتناول فيها Pulumi حالات أو وثائق فعلية متعلقة بالمصدر. لم تكن جوجل على علم بعدُ بأنه بعد شهر، اختبرت كود الإخراج وأدرجته في قائمة المهام. استخدمت The Register عبارة "Aws light sail x-ray" ككلمة بحث يوم الاثنين، وحققت Pulumi AI نتيجة قريبة من الثانية. وفي يوم الثلاثاء من الأسبوع التالي، عندما أدخلوا الكلمات نفسها في محرك البحث، فاجأتنا Pulumi وتصدرت نتائج البحث، حتى أنها تفوقت على وثائق AWS الرسمية.

لقد سحروا جوجل بأفكارها بشأن الوضع الحالي، وقال ممثل جوجل إن "الشركة تسعى دائمًا لعرض المعلومات عالية الجودة، ولكن في بعض المواضيع الضيقة في قائمة الاستعلام، قد لا يكون هناك أي محتوى عالي الجودة متاح على الويب ليحتل المرتبة الأولى".

وأكد عملاق البحث كذلك أن سياساته تستند إلى حقيقة أن "المواد منخفضة الجودة التي يتم إنتاجها على نطاق واسع لغرض وحيد هو إغراق نتائج البحث بالبريد العشوائي تعتبر بريدًا عشوائيًا" وأن التكنولوجيا المحسنة حديثًا تستهدف 45٪ من هذا المحتوى غير الأصلي / غير المفيد تمامًا على البحث.

عثر محرك بحث مايكروسوفت بينج على مثال لصفحة ويكيبيديا في الخلفية لنفس الاستعلام. ورغم عدم وجود مشكلة في المحتوى المُولّد بالذكاء الاصطناعي الذي يُنتجه محرك بحث بينج، إلا أن النتائج التي قدمها احتوت على زر دردشة يظهر عند النقر عليه. كما تم حذف إجابة Pulumi AI من لعبة Brave Against. 

بحسب محرك البحث DuckDuckGo، ظهر نظام Pulumi AI في المرتبة الرابعة ضمن نتائج البحث عند البحث عن عبارة "مكونات منتجات الذكاء الاصطناعي". وأوضح دافي أن جودة كود Pulumi خضعت للاختبار والتحسين المستمر، وشهدت الشركة تحسناً ملحوظاً في معدلات نجاح نماذج الكود ربع سنوياً.