روبوت الدردشة بالذكاء الاصطناعي في نيويورك تحت النار لنشر معلومات خاطئة للشركات

تواجه جهود مدينة نيويورك لاستخدام الذكاء الاصطناعي في العمليات الحكومية عقبة، حيث أدركت المدينة على ما يبدو أن روبوت الدردشة القائم على الذكاء الاصطناعي يقدم للشركات نصائح خاطئة، وفي بعض الحالات، نصائح غير قانونية محتملة. أُطلق الروبوت في أكتوبر ويدعي تقديم المشورة حول كيفية التعامل مع تعقيدات ممارسة الأعمال في المدينة، وقد تم انتقاده منذ ذلك الحين بسبب إجاباته غير الدقيقة، خاصة فيما يتعلق بقضايا سياسة الإسكان وحقوق العمال.

معلومات مضللة تثير المخاوف

في تحقيق آخر، اكتشفت The Markup أن روبوت الدردشة عبر الإنترنت قدم عادةً معلومات غير مكتملة أو خاطئة تمامًا حول مواضيع حاسمة مثل التمييز السكني وحقوق المستأجرين. يُطرح السؤال: "هل يجب على المالك قبول مستأجر لديه قسم 8 أو مساعدة إيجارية؟" بالنسبة لهذا المثال، يعطي إجابة خاطئة بالنفي. هذا يتعارض مع قانون مدينة نيويورك، الذي يحظر على المالك التمييز ضد المستأجرين بناءً على مصادر الدخل، مع وجود بعض الاستثناءات القليلة فقط.

أثار الخبراء والمدافعون عن الحقوق قلقهم بشأن العواقب المحتملة لمعلومات روبوت الدردشة الخاطئة. وصف خبير محلي في سياسة الإسكان الأخطاء بأنها "غير دقيقة بشكل خطير" مع آثار تؤثر على الحياة لكل من الملاك والمستأجرين. باتباع إرشادات الروبوت، سيقع الملاك في ممارسات تنتهك قوانين مكافحة التمييز وحقوق المستأجرين، مما يفاقم مشكلة عدم المساواة في الإسكان والظلم الاقتصادي في المدينة.

نداءات لاتخاذ إجراءات تصحيحية

أثارت هذه الاكتشافات دعوات إلى أن تنظر المدينة في أوجه القصور في روبوت الدردشة الخاص بها وتضمن أنه يقدم بالفعل معلومات دقيقة وقانونية للمستخدمين. يؤكد أنصار هذا الرأي أنه يجب معالجة النصائح السيئة، وضمان وجود ضوابط بحيث لا تحدث مثل هذه الحوادث في الحياة. بينما تواصل مدينة نيويورك ترجمة تقدمها في التكنولوجيا إلى الحوكمة، يجب أن تهيمن المساءلة بأعلى معايير الدقة، والحفاظ على ثقة الجمهور للشركات والسكان على حد سواء.

تسلط هذه الحادثة الضوء على التعقيدات والتحديات التي ستكون جزءًا لا يتجزأ من نشر تكنولوجيا الذكاء الاصطناعي للخدمات العامة، وهو ما يتطلب رقابة صارمة على الجودة. ومع ذلك، سيحتاج نشر الذكاء الاصطناعي إلى ضمان وجود طرق قوية لإجراء فحوصات على هذه المعلومات وتخفيف الأضرار التي قد تسببها، على الرغم من الإمكانات التي تقدمها في تحسين الكفاءة وإمكانية الوصول. وذلك مع استمرار المدن والحكومات في نشر الحلول المدعومة بالذكاء الاصطناعي، حيث يجب مراعاة الشفافية والمساءلة والالتزام بالمعايير القانونية في عملية ضمان حماية حقوق ورفاهية كل مواطن.