يواجه برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي من أمازون، Amazon Q، انتقادات ومخاوف أمنية

واجهت أحدث مشاريع أمازون في مجال الذكاء الاصطناعي، Amazon Q، انتقادات ومخاوف داخلية في الشركة. فبعد ثلاثة أيام فقط من الإعلان الرسمي، أعرب الموظفون عن مخاوف مقلقة بشأن أداء برنامج الدردشة الآلي. ومن أبرز المشكلات التي تم الإبلاغ عنها هي الهلوسات الشديدة التي يعاني منها البرنامج، حيث يُصدر ردودًا غير لائقة أو ضارة.

تفاقم الوضع عندما صُنّفdent متعلقٌ بنظام أمازون كيو على أنه "خطير للغاية"، ما يُشير إلى خطورته ويدفع المهندسين إلى العمل بلا كلل لمعالجة المشاكل. وقد ألقت هذه المشاكل، بما فيها الهلوسة وتسريبات البيانات، بظلالها على جهود أمازون للحفاظ على قدرتها التنافسية في مجال الذكاء الاصطناعي سريع التطور.

أهداف أمازون الطموحة في مجال الذكاء الاصطناعي

لمواجهة التصور القائل بأن المنافسين مثل مايكروسوفت وجوجل قد تفوقوا على أمازون في سباق الحصول على قدرات الذكاء الاصطناعي المتطورة، كشفت شركة البيع بالتجزئة عبر الإنترنت العملاقة مؤخرًا عن التزام مالي كبير يصل إلى 4 مليارات دولار لشركة أنثروبيك الناشئة في مجال الذكاء الاصطناعي. 

مهدت هذه الخطوة الطريق لمؤتمر مطوري خدمات أمازون السحابية السنوي، حيث تم تقديم Amazon Q كإضافة مرتقبة للغاية لمبادرات الذكاء الاصطناعي الخاصة بها.

تم تسويق Amazon Q باعتباره نسخة برمجية للمؤسسات من ChatGPT، على أنه يوفر ميزات أمان وخصوصية محسنة، بهدف تجاوز أدوات الذكاء الاصطناعي المخصصة للمستهلكين في السوق.

على الرغم من الصورة المتفائلة التي قدمتها أمازون عن خدمة أمازون كيو في المؤتمر، سرعان ما تحول الحماس إلى شكوك مع ظهور تقارير داخلية. فقد أعرب الموظفون عن مخاوفهم بشأن دقة وخصوصية خدمة أمازون كيو، مشيرين إلى أن برنامج الدردشة الآلي لم يكن يرقى إلى معايير الأمان التي وعد بها مسؤولو أمازون.

مخاوف تتعلق بالأمن والخصوصية

كشفت وثائق مسربة عن حالات هلوسة حادة، حيث قدم برنامج أمازون كيو ردودًا ضارة أو غير لائقة. وقد برزت خطورة الموقف بتصنيفdent ضمن فئة "الخطورة 2"، مما استدعى تدخلًا عاجلًا من المهندسين. وتثير هذه المخاوف تساؤلات حول دقة وخصوصية برنامج الدردشة الآلي، وهو أمر بالغ الأهمية عند التعامل مع المعلومات الحساسة.

رداً على المناقشات والانتقادات الداخلية، قللت أمازون من أهمية المخاوف التي أثارها الموظفون. وأكد متحدث باسم الشركة أن مشاركة الملاحظات عبر القنوات الداخلية ممارسة معتادة في أمازون، وأكد عدمdentأي مشكلات أمنية نتيجةً لهذه الملاحظات. وأعربت الشركة عن تقديرها للملاحظات الواردة، وأكدت أنها ستعمل على تحسين نظام أمازون كيو تدريجياً مع انتقاله من مرحلة المعاينة إلى مرحلة الإتاحة العامة.

تسريبات البيانات والمخاطر الأمنية

مع ذلك، كشفت وثائق داخلية تُلقي الضوء على هلوسات برنامج أمازون كيو واستجاباته غير الصحيحة عن مخاطر محتملة مرتبطة به. ومن أبرز المخاوف التي أشارت إليها الوثائق قدرة أمازون كيو على عرض معلومات أمنية قديمة، مما يُشكل تهديدًا لحسابات العملاء. 

تضمنت البيانات المسربة تفاصيل حساسة حول مراكز بيانات AWS وبرامج الخصم الداخلية والميزات غير المعلن عنها - وهي معلومات كان ينبغي أن تظلdent.

على الرغم من تقديمه كبديل آمن لبرامج الدردشة الآلية المخصصة للمستهلكين مثل ChatGPT، إلا أن عيوب Amazon Q بدأت تظهرdent مع إبداء الموظفين مخاوفهم بشأن ميزات الأمان والخصوصية فيه. وكان آدم سيليبسكي، الرئيس التنفيذي لشركة Amazon Web Services، قد صرّح سابقًا بأن العديد من الشركات حظرت استخدام مساعدي الذكاء الاصطناعي في بيئات العمل بسبب مخاوف تتعلق بالأمان والخصوصية. 

استجابةً لهذا التحدي الذي يواجه القطاع، يُزعم أن أمازون صممت منصة Amazon Q لتكون أكثر أمانًا وخصوصية من نظيراتها الموجهة للمستهلكين. ومع ذلك، تشير الوثائق الداخلية المسربة إلى أن Amazon Q قد لا تكون بمنأى عن المشكلات التي عانت منها نماذج لغات البرمجة الكبيرة الأخرى.

بينما تواجه أمازون التحديات التي فرضتها المشاكل المبكرة لبرنامج أمازون كيو، يبقى مستقبل روبوتات الدردشة المدعومة بالذكاء الاصطناعي غامضًا. وقد أثار التناقض بين التوقعات العالية من جانب المسؤولين التنفيذيين والواقع الصارخ لعيوب أمازون كيو تساؤلات حول فعالية نهج أمازون في تطوير الذكاء الاصطناعي.