روبوت الدردشة الخاص بـ مايكروسوفت يثير مخاوف بشأن دقة معلومات الانتخابات

تُعدّ شركة مايكروسوفت لاعبًا رئيسيًا في قطاع التكنولوجيا، وقد شاركت بنشاط في معالجة هذه المخاوف. واتخذت الشركة خطوات لمكافحة التضليل وتعزيز نزاهة المنصات الرقمية. وتشمل مبادرات الشركة تطوير ونشر أدوات وتقنيات متقدمة للذكاء الاصطناعي للكشف عن المعلومات المضللة أو الكاذبة والحد من انتشارها.

دراسة تكشف عن عدم دقة مقلقة في روبوت الدردشة الخاص بشركة مايكروسوفت

أظهرت دراسة حديثة أجرتها المنظمتان غير الحكوميتان الأوروبيتان Algorithm Watch وAI Forensics المخاطر المحتملة المرتبطة بروبوت الدردشة الخاص بشركة مايكروسوفت، المدعوم بنموذج GPT-4 من OpenAI. ركزت الدراسة على ردود روبوت الدردشة على الأسئلة المتعلقة بالانتخابات في ألمانيا وسويسرا. وكشفت النتائج أن الروبوت قدم إجابات خاطئة لثلث الأسئلة المطروحة.

في حين تتركز المخاوف غالبًا حول الجهات الخبيثة التي تنشر المعلومات المضللة عمدًا، تؤكد الدراسة أن روبوتات الدردشة العامة يمكن أن تشكل تهديدًا مساويًا للنظام البيئي للمعلومات. وأشار سالفاتوري رومانو، باحث أول في AI Forensics، إلى ذلك قائلاً: "تُظهر أبحاثنا أن الجهات الخبيثة ليست المصدر الوحيد للمعلومات المضللة؛ فروبوتات الدردشة العامة يمكن أن تكون بنفس القدر من التهديد للنظام البيئي للمعلومات."

روبوت الدردشة الخاص بشركة مايكروسوفت: مصدر لأخطاء واقعية مضللة

تتراوح الأخطاء التي تم تحديدها في الدراسة من تواريخ انتخابات غير صحيحة ومعلومات مرشّحين قديمة إلى نزاعات مُختلقة بالكامل حول المرشّحين. ومن الجدير بالذكر أن الدردشة الآلية نسبت معلومات كاذبة لمصادر موثوقة كانت تمتلك في الواقع معلومات دقيقة حول الموضوعات ذاتها. كما اتضح أن الدردشة الآلية اخترعت قصصًا عن مرشّحين يشاركون في سلوك مشين، مما ساهم بشكل أكبر في نشر المعلومات المضلّة.

عندما أُبلغت مايكروسوفت بنتائج الدراسة، أعربت عن التزامها بمعالجة القضايا المطروحة. ومع ذلك، أدّت العينات اللاحقة التي جُمعت بعد شهر إلى نتائج مشابهة، مما يشير إلى استمرار التحديات في ضمان دقة المعلومات التي تقدّمها الدردشة الآلية. ولم تعلق إدارة شؤون الصحافة التابعة لشركة مايكروسوفت على هذا المقال، لكن متحدثًا باسم الشركة أبلغ صحيفة وول ستريت جورنال بأن الجهود جارية لإعداد أدواتها للانتخابات لعام 2024.

المطالبة بإجراء تغييرات هيكلية

تحدي ريكاردو أنجيوس، قائد الرياضيات التطبيقية والباحث في مجال الطب الشرعي للذكاء الاصطناعي، لتوصيف الأخطاء على أنها مجرد «هلوسة»، قائلاً: «حان الوقت لننفي وصف هذه الأخطاء بـ«الهلوسة». تكشف أبحاثنا عن وجود أخطاء واقعية مضللة أكثر تعقيداً وهيكلية في نماذج اللغة العامة والروبوتات الدردشة.»

تأكيدات مايكروسوفت وتحذير المستخدمين

بينما تعترف مايكروسوفت بالحاجة إلى معالجة القضايا المحددة، يُطلب من المستخدمين ممارسة «أفضل حكمهم» عند مراجعة النتائج التي يولّدها روبوت الدردشة بالذكاء الاصطناعي. وتؤكد الشركة العملاقة في مجال التكنولوجيا على جهودها المستمرة لتعزيز أداء أدواتها للانتخابات القادمة في عام 2024. ومع ذلك، يؤكد الدراسة أهمية الحذر والمراقبة الدقيقة من قبل المستخدمين في مواجهة احتمالية انتشار المعلومات المضللة.

يدخل العالم فترة حرجة من صنع القرار الديمقراطي، حيث يثير تقاطع الذكاء الاصطناعي التوليدي مع الانتخابات مخاوف جوهرية. يواجه روبوت الدردشة الخاص بشركة مايكروسوفت، وهو لاعب بارز في هذا المشهد، تدقيقًا بشأن دوره في نشر معلومات غير دقيقة. وتُستدعي اكتشافات الدراسة إعادة تقييم كيفية دمج تقنيات الذكاء الاصطناعي في العمليات الديمقراطية، مع التشديد على الحاجة إلى تحسينات مستمرة لضمان نزاهة المعلومات المتعلقة بالانتخابات.