- يخضع روبوت الدردشة الذكي الجديد من أمازون، Q، للمراقبة حيث يثير الموظفون مخاوف بشأن هلاوس شديدة وتسريبات للبيانات السرية.
- تُظهر المستندات المسربة أن Q يكشف عن معلومات حساسة، بما في ذلك مواقع مراكز بيانات AWS، وبرامج الخصم الداخلية، والميزات غير المعلنة.
- رغم تقليل أمازون من شأن ملاحظات الموظفين، فإن الحادث يُصنف على أنه خطير، مما يستدعي عمل المهندسين لساعات إضافية لمعالجة المشكلات.
تواجه أحدث مبادرة للذكاء الاصطناعي من أمازون، Amazon Q، عاصفة من الانتقادات بعد ثلاثة أيام فقط من إعلانها. أعرب الموظفون عن مخاوف مدوية بشأن تعرض مساعد الدردشة لهلوسة شديدة وتسريب بيانات سرية، تتراوح بين مواقع مراكز بيانات AWS وبرامج الخصم الداخلية والميزات غير المعلنة. يسلط خطورة الموقف الضوء على حادث تم تصنيفه على أنه "sev 2"، مما دفع المهندسين للعمل بلا كلل لمعالجة المشكلات وتجنب العواقب المحتملة. ألقت هذه التطور غير المتوقع بظلالها على جهود أمازون للبقاء تنافسية في مشهد الذكاء الاصطناعي سريع التطور.
كشف النقاب عن Amazon Q
لمواجهة التصور بأن المنافسين مثل مايكروسوفت وجوجل سبقوا أمازون في سباق القدرات المتطورة للذكاء الاصطناعي، كشف التجار عبر الإنترنت عن التزام مالي كبير يصل إلى 4 مليارات دولار في شركة الذكاء الاصطناعي الناشئة Anthropic. وضع هذا الحدث المسرح لمؤتمر مطوري خدمات Amazon Web Services السنوي، حيث كشفت الشركة عن Amazon Q – إضافة متوقعة بشدة إلى مجموعة مبادرات الذكاء الاصطناعي الخاصة بها. تم وضع Q كنسخة من برامج المؤسسات لـ ChatGPT، ووعد بميزات أمنية وخصوصية محسنة، بهدف التفوق على الأدوات الموجهة للمستهلكين في السوق.
على الرغم من التصوير المتفائل لأمازون لـ Q في المؤتمر، تحولت بسرعة الحماس المحيط بالإصدار الجديد إلى شكوك مع ظهور تقارير داخلية. أعرب الموظفون عن مخاوفهم بشأن دقة وخصوصية Q، مما يشير إلى أن مساعد الدردشة لم يكن يحقق المعايير الأمنية التي وعد بها مسؤولو أمازون. وثقت الوثائق المسربة حالات من الهلوسة الشديدة، حيث كان Q يعيد استجابات ضارة أو غير لائقة. تم التأكيد على خطورة الموقف من خلال تصنيف الحادث على أنه "sev 2"، مما يتطلب انتباهاً عاجلاً من المهندسين.
رداً على المناقشات الداخلية، قللت أمازون من أهمية المخاوف التي أثارتها الموظفين. شدد متحدث باسم الشركة على أن مشاركة التعليقات من خلال القنوات الداخلية هي ممارسة قياسية في أمازون وأكدت أنه لم يتم تحديد أي مشكلات أمنية نتيجة للتعليقات. أعربت الشركة عن تقديرها للتعليقات التي تلقتها وأكدت أن Q سيتم ضبطه بدقة أثناء انتقاله من منتج في مرحلة المعاينة إلى التوفر العام.
كشف عيوب Q – تسريبات البيانات السرية ومخاطر الأمان
كشفت الوثائق الداخلية عن هلوسات Q والاستجابات الخاطئة، مما كشف عن المخاطر المحتملة المرتبطة بمساعد الدردشة. كانت إحدى المخاوف البارزة التي سلطت الضوء عليها الوثائق هي قدرة Q على إرجاع معلومات أمنية قديمة، مما يشكل تهديداً لحسابات العملاء. تضمنت البيانات المسربة تفاصيل حساسة حول مراكز بيانات AWS وبرامج الخصم الداخلية والميزات غير المعلنة – معلومات كان ينبغي أن تبقى سرية.
على الرغم من وضعه كبديل آمن لمساعدات الدردشة الموجهة للمستهلكين مثل ChatGPT، أصبحت عيوب Q واضحة مع تعبير الموظفين عن مخاوفهم بشأن ميزات الأمان والخصوصية الخاصة به. كان آدم سيليبسكي، الرئيس التنفيذي لخدمات Amazon Web Services، قد صرح سابقاً بأن العديد من الشركات حظرت مساعدي الذكاء الاصطناعي في المؤسسات بسبب مخاوف بشأن الأمان والخصوصية. رداً على هذا التحدي الصناعي، صممت أمازون purportedly ليكون Q أكثر أماناً وخصوصية من نظرائه الموجهين للمستهلكين. ومع ذلك، تشير الوثائق الداخلية المسربة إلى أن Q قد لا يكون محصناً ضد المشكلات التي أصابت نماذج اللغة الكبيرة الأخرى.
بينما تتعامل أمازون مع التحديات الناجمة عن المشاكل المبكرة لمنتج Amazon Q، يظل مستقبل مساعد الدردشة هذا غير مؤكد. إن التناقض بين التوقعات العالية من التنفيذيين والواقع الصارخ لعيوب Q أثار تساؤلات حول فعالية نهج أمازون في تطوير الذكاء الاصطناعي. هل يمكن لـ أمازون معالجة المخاوف التي أثارتها الموظفين بنجاح وضمان أن يحقق Q وعوده بتحسين الأمان والخصوصية؟ سيحدد الوقت فقط ما إذا كانت أمازون قادرة على التغلب على هذه النكسات الأولية ووضع Q كلاعب قوي في المشهد التنافسي لمساعدات الدردشة بالذكاء الاصطناعي.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
عامر شيخ
عامر صحفي تقني يتمتع بخبرة تزيد عن ست سنوات في مجالي العملات المشفرة والتقنية. تخرج من جامعة ماج بشهادة ماجستير في إدارة الأعمال بتخصص التمويل والتسويق. يعمل حاليًا مع موقع كربتوبوليتان، حيث يتناول أحدث التطورات في أسواق العملات المشفرة وتوقعات الأسعار.
