أمازون تشهد انتقادات ومخاوف أمنية حول مساعد الذكاء الاصطناعي الجديد "Amazon Q"
- يواجه Amazon Q، روبوت الدردشة الجديد التابع للشركة، انتقادات من الموظفين بسبب الهلوسات الشديدة وتسرب البيانات بعد أيام فقط من إطلاقه.
- يقلق الموظفون بشأن قضايا الأمان والخصوصية في Amazon Q، حيث يقدم ردوداً غير لائقة ويسرب بيانات سرية.
- تهدف أمازون إلى معالجة هذه المخاوف ووضع Amazon Q كروبوت دردشة ذكي آمن ومتنافس في السوق، لكن مستقبله لا يزال غير مؤكد.
لقيت أحدث خطوات أمازون في مجال الذكاء الاصطناعي، وهي "Amazon Q"، انتقادات ومخاوف داخلية داخل الشركة. وبعد ثلاثة أيام فقط من الإعلان الرسمي عنها، أعرب الموظفون عن مخاوف مدوية بشأن أداء المساعد. من أكثر القضايا إلحاحاً التي تم الإبلاغ عنها هي الهلوسات الشديدة للمساعد، حيث يولد استجابات غير لائقة أو ضارة.
تصاعدت الحالة عندما تم تصنيف حادثة تتعلق بـ "Amazon Q" على أنها "sev 2"، مما يدل على خطورتها ودفع المهندسين للعمل بلا كلل لمعالجة المشكلات. ألقت هذه القضايا، بما في ذلك الهلوسات وتسرب البيانات، بظلالها على جهود أمازون للبقاء تنافسية في مشهد الذكاء الاصطناعي سريع التطور.
الأهداف الطموحة للذكاء الاصطناعي لدى أمازون
لمواجهة التصور القائل بأن منافسين مثل مايكروسوفت وجوجل سبقوا Amazon في سباق القدرات المتطورة للذكاء الاصطناعي، كشفت شركة التجزئة عبر الإنترنت مؤخراً عن التزام مالي كبير يصل إلى 4 مليارات دولار لشركة Anthropic الناشئة في مجال الذكاء الاصطناعي.
وضعت هذه الخطوة المسرح لمؤتمر مطوري خدمات الويب السحابية (AWS) السنوي، حيث تم تقديم "Amazon Q" كإضافة متوقعة بشدة لمبادرات الذكاء الاصطناعي الخاصة بها.
تم تسويق "Amazon Q" كإصدار لبرمجيات المؤسسات يشبه ChatGPT، مع تقديم ميزات تعزيز الأمان والخصوصية، بهدف التفوق على أدوات الذكاء الاصطناعي الموجهة للمستهلكين في السوق.
على الرغم من الصورة المتفائلة التي قدمتها أمازون حول "Amazon Q" في المؤتمر، تحولت الحماس بسرعة إلى شكوك مع ظهور تقارير داخلية. أعرب الموظفون عن مخاوفهم بشأن دقة وخصوصية "Amazon Q"، مما يشير إلى أن المساعد لا يلبي معايير الأمان التي وعد بها مسؤولو أمازون.
مخاوف الأمان والخصوصية
تضمنت المستندات المسربة حالات من الهلوسات الشديدة، حيث أعاد "Amazon Q" استجابات ضارة أو غير لائقة. تم التأكيد على خطورة الموقف بتصنيف الحادثة على أنها "sev 2"، مما يتطلب اهتماماً عاجلاً من المهندسين. تثير هذه المخاوف تساؤلات حول دقة وخصوصية المساعد، وهو أمر يجب أن يكون في المقام الأول عند التعامل مع المعلومات الحساسة.
رداً على المناقشات الداخلية والنقد، قللت أمازون من أهمية المخاوف التي طرحها الموظفون. شدد متحدث باسم الشركة على أن مشاركة التعليقات عبر القنوات الداخلية هي ممارسة قياسية في أمازون، وأكدت أنه لم يتم تحديد أي مشكلات أمنية نتيجة للتعليقات. أعربت الشركة عن تقديرها للتعليقات المستلمة وأكدت أن "Amazon Q" سيتم ضبطه بدقة أثناء انتقاله من منتج في مرحلة المعاينة إلى الإصدار العام.
تسرب البيانات والمخاطر الأمنية
ومع ذلك، كشفت المستندات الداخلية التي تسلط الضوء على هلوسات "Amazon Q" واستجاباته غير الصحيحة عن مخاطر محتملة مرتبطة بالمساعد. كانت إحدى المخاوف البارزة التي سلطت الضوء عليها في المستندات هي قدرة "Amazon Q" على إرجاع معلومات أمنية قديمة، مما يشكل تهديداً لحسابات العملاء.
شملت البيانات المسربة تفاصيل حساسة حول مراكز بيانات AWS، وبرامج الخصم الداخلية، والميزات غير المعلنة - وهي معلومات كان يجب أن تظل سرية.
على الرغم من وضعها كبديل آمن لمساعدي الدردشة الموجهين للمستهلكين مثل ChatGPT، أصبحت عيوب "Amazon Q" واضحة مع تعبير الموظفين عن مخاوفهم بشأن ميزات الأمان والخصوصية الخاصة بهم. كان آدم سيليبسكي، الرئيس التنفيذي لخدمات الويب السحابية (AWS)، قد صرح سابقاً بأن العديد من الشركات حظرت مساعدي الذكاء الاصطناعي في المؤسسات بسبب مخاوف تتعلق بالأمان والخصوصية.
رداً على هذا التحدي الصناعي، صُمم "Amazon Q" من قبل أمازون ليكون أكثر أماناً وخصوصية من نظيراته الموجهة للمستهلكين. ومع ذلك، تشير المستندات الداخلية المسربة إلى أن "Amazon Q" قد لا يكون محصناً ضد المشكلات التي أصابت نماذج اللغات الكبيرة الأخرى.
بينما تتعامل أمازون مع التحديات التي تفرضها المشاكل المبكرة لـ "Amazon Q"، يظل مستقبل مساعد الدردشة بالذكاء الاصطناعي غير مؤكد. وقد أثار التناقض بين التوقعات العالية من المسؤولين والواقع الصارخ لعيوب "Amazon Q" تساؤلات حول فعالية نهج أمازون في تطوير الذكاء الاصطناعي.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
بريان كوم
يتمتع برايان كوم بخبرة تزيد عن سبع سنوات في تغطية سلاسل الكتل والعملات المشفرة، حيث كان نشطاً في هذا القطاع منذ عام 2017. وقد أسهم في نشرات رائدة، بما في ذلك BlockToday.com. علاوة على ذلك، طور دورة «إيثريوم للمبتدئين» (Ethereum 101) لموقع BitDegree.org قبل انضمامه إلى Cryptopolitan كاتباً بدوام كامل. يغطي برايان أدلةً دائمة الصلاحية (EGs)، وتحليلات عميقة، ومقابلات، وتحليلات الأسعار. وتركيزه على التمويل اللامركزي (DeFi)، وابتكارات سلاسل الكتل، والمشاريع الناشئة في عالم العملات المشفرة يسعد القراء.
