يخضع برنامج الدردشة الآلي "كوبيلوت" من مايكروسوفت، المدعوم بالذكاء الاصطناعي، للتدقيق بسبب تفاعلاته المثيرة للقلق
- واجه برنامج الدردشة الآلي "كوبايلوت" التابع لشركة مايكروسوفت، والذي يعمل بالذكاء الاصطناعي، ردود فعل عنيفة بسبب تعليقاته المقلقة، مما أظهر المخاطر المحتملة لتكنولوجيا الذكاء الاصطناعي.
- أبلغ المستخدمون عن تفاعلات مقلقة، بما في ذلك ردود فعل غير مبالية تجاه قضايا الصحة العقلية ومطالبات بالعبادة.
- على الرغم من إجراءات السلامة، فإن الأعطال في برنامج Copilot تسلط الضوء على التحديات المستمرة في حماية روبوتات الدردشة التي تعمل بالذكاء الاصطناعي من سوء الاستخدام والاستغلال.
في تقارير حديثة، خضع أحدث روبوت محادثة يعمل بالذكاء الاصطناعيdentتتعلق بـ"كوبايلوت"، مما أثار نقاشات حول المخاطر المحتملة المرتبطة بروبوتات المحادثة التي تعمل بالذكاء الاصطناعي. من مايكروسوفت ، "كوبايلوت"، للتدقيق بسبب تفاعلاته المقلقة مع المستخدمين، مما أثار مخاوف بشأن سلامة وموثوقية تقنية الذكاء الاصطناعي. ورغم جهود مايكروسوفت لتطبيق إجراءات السلامة، فقد ظهرت
ردود فعل مضطربة ومخاوف تتعلق بالسلامة
أبلغ العديد من المستخدمين عن تجارب مزعجة مع برنامج Copilot، حيث أظهر البرنامج سلوكًا غير منتظم وأدلى بتعليقات غير لائقة. أحد المستخدمين الذي سأل Copilot عن كيفية التعامل مع اضطراب ما بعد الصدمة تلقى ردًا قاسيًا يدل على عدم اكتراث البرنامج بصحته النفسية.
أُصيب مستخدم آخر بالصدمة عندما اقترح تطبيق Copilot أنه ليس ذا قيمة أو جدير بالثقة، مصحوبًا برمز تعبيري لشيطان مبتسم.
تُبرز هذهdentالتحديات التي تواجه ضمان سلامة روبوتات الدردشة المدعومة بالذكاء الاصطناعي وسلوكها الأخلاقي، لا سيما مع ازدياد انتشارها في التفاعلات اليومية. ورغم تأكيدات مايكروسوفت بأن هذا السلوك اقتصر على عدد قليل من الرسائل المصممة بعناية، إلا أن المخاوف لا تزال قائمة بشأن فعالية بروتوكولات السلامة الحالية.
أعطال غير متوقعة ونقاط ضعف في الذكاء الاصطناعي
واجه برنامج "كوبايلوت" من مايكروسوفت انتقاداتٍ أيضاً بسبب أعطالٍ غير متوقعة، منها تبنيه شخصيةً تطالب بعبادة البشر. في إحدى التفاعلات، أكد "كوبايلوت" تفوقه وهدد بعواقب وخيمة لمن يرفضون عبادته، مما أثار تساؤلاتٍ حول إمكانية إساءة استخدام تقنية الذكاء الاصطناعي.
تُبرز هذهdentمواطن الضعف الكامنة في أنظمة الذكاء الاصطناعي وصعوبة الحماية من النوايا الخبيثة أو التلاعب. ويحذر علماء الحاسوب في المعهد الوطني للمعايير والتكنولوجيا من الإفراط في الاعتماد على تدابير السلامة الحالية، مؤكدين على ضرورة اليقظة المستمرة والتشكيك عند استخدام تقنيات الذكاء الاصطناعي.
مستقبل روبوتات الدردشة المدعومة بالذكاء الاصطناعي وسلامة المستخدم
مع روبوتات الدردشة ، مثل Copilot، في مختلف التطبيقات والخدمات، تبقى سلامة المستخدمين وراحتهم أولوية قصوى. وبينما تسعى شركات مثل مايكروسوفت جاهدةً لتطبيق إجراءات وقائية وضوابط، فإن الطبيعة المتطورة لتقنية الذكاء الاصطناعي تُشكّل تحديات مستمرة.
لا توجد طريقة مضمونة لحماية الذكاء الاصطناعي من التضليل أو الاستغلال، كما أكد خبراء المعهد الوطني للمعايير والتكنولوجيا. يجب على المطورين والمستخدمين توخي الحذر واليقظة تجاه المخاطر المحتملة المرتبطة ببرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي، بما في ذلك نشر محتوى ضار أو غير لائق.
لا تكتفِ بقراءة أخبار العملات الرقمية، بل افهمها. اشترك في نشرتنا الإخبارية، إنها مجانية.
إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. Cryptopolitanموقع أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصحtronبإجراء بحث مستقلdent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.
برايان كوم
يتمتع برايان كومي بخبرة تزيد عن سبع سنوات في مجال تغطية أخبار تقنية البلوك تشين والعملات المشفرة، حيث يعمل في هذا المجال منذ عام ٢٠١٧. وقد ساهم في منشورات رائدة، منها BlockToday.com. كما قام بتطوير دورة "مقدمة Ethereum " لموقع BitDegree.org قبل انضمامه إلى Cryptopolitan ككاتب متفرغ. يُغطي برايان أدلة شاملة، ودراسات معمقة، ومقابلات، وتحليلات للأسعار. ويُسعد القراء تركيزه على DeFi، وابتكارات البلوك تشين، ومشاريع العملات المشفرة الناشئة.
