تظهر مخاوف أمنية مع شعبية روبوتات الدردشة بالذكاء الاصطناعي، وكالة الأمن السيبروني البريطانية تحذر
- تحذر وكالة الأمن السيبراني في المملكة المتحدة من إمكانية التلاعب بروبوتات الدردشة المدعومة بالذكاء الاصطناعي لتنفيذ إجراءات ضارة، مما قد يعرض الشركات التي تستخدمها لأغراض خدمة العملاء والمبيعات للخطر.
- يستغل القراصن نقاط الضعف في روبوتات الدردشة الذكية، ما يؤدي إلى تنفيذ إجراءات غير مصرح بها ويزيد من المخاوف الأمنية، لا سيما في العمليات الحساسة.
- يُنصح الشركات بالترياق عند دمج روبوتات الدردشة الذكية، إذ تزداد المخاوف العالمية بشأن ثغراتها وسياساتها المؤسسية غير الواضحة.
أصدر المركز الوطني لأمن السيبرانية (NCSC) في المملكة المتحدة تحذيراً هاماً للشركات التي تستكشف دمج روبوتات الدردشة المدعومة بالذكاء الاصطناعي في عملياتها. اكتشف خبراء المركز مشكلة ملحة: يمكن التلاعب بهذه روبوتات الدردشة المتقدمة بالذكاء الاصطناعي، أو نماذج اللغات الكبيرة (LLMs)، لأداء مهام ضارة، مما يثير مخاوف أمنية كبيرة. تمتد آثار هذا الضعف إلى الشركات التي تتطلع إلى الاستفادة من تقنية الذكاء الاصطناعي في تفاعلات العملاء وأنشطة المبيعات والمجالات الحرجة الأخرى.
استخدام متزايد لروبوتات الدردشة بالذكاء الاصطناعي يثير مناقشات أمنية
مع شيوع روبوتات الدردشة المدعومة بالذكاء الاصطناعي في قطاعات متنوعة، أثار المركز الوطني لأمن السيبرانية (NCSC) مخاوف بشأن مخاطر الأمن المحتملة المرتبطة بتبنيها. تُعتبر هذه الروبوتات، المدعومة بنماذج لغات كبيرة (LLMs) تحاكي المحادثة البشرية، بدائل محتملة للبحث عبر الإنترنت وخدمة العملاء ووظائف المبيعات. ومع ذلك، يحذر المركز الوطني لأمن السيبرانية من أن دمجها في عمليات الشركة قد يعرضها للثغرات، حيث وجد القراصنة والباحثون طرقاً لاستغلال نقاط الضعف في برمجياتها، مما يؤدي إلى نتائج ضارة محتملة.
تكمن المشكلة الأساسية في الثغرات المضمنة في هذه روبوتات الدردشة المدعومة بالذكاء الاصطناعي. يمكن للقراصنة استغلال هذه الثغرات من خلال إدخال أوامر غير مصرح بها تضلل الذكاء الاصطناعي، مما يدفعه لتنفيذ إجراءات لا ينبغي له تنفيذها. على سبيل المثال، يمكن لمجرم إلكتروني تصميم استعلام يخدع روبوت دردشة مصرفي لإجراء معاملة لا ينبغي له إجراؤها. هذا القابلية الكامنة تتحدى موثوقية هذه الأدوات الذكية في المهام التي تتضمن معلومات حساسة أو عمليات مالية.
يشدد المركز الوطني لأمن السيبرانية (NCSC) بشدة على ضرورة أن تتحرك الشركات بحذر عند دمج نماذج اللغات الكبيرة (LLMs) في خدماتها. مستوحياً من إصدارات البرامج التجريبية، يحث المركز الشركات على التعامل مع هذه النماذج الذكية بشك مماثل لذلك الذي يُمارس تجاه البرامج التجريبية. يمتد هذا النصيحة إلى الامتناع عن الوثوق بها في المهام التي تتضمن معاملات العملاء أو العمليات الحرجة. يعكس هذا النهج الحذر المشاعر المتزايدة القائلة بأنه على الرغم من أن الذكاء الاصطناعي يعد بوعد كبير، إلا أن تنفيذه يجب أن يكون مقترناً بفهم واقعي لقيوده ومخاطره المحتملة.
المخاوف العالمية بشأن أمن الذكاء الاصطناعي
لا تقتصر التحديات الناتجة عن نماذج اللغات الكبيرة (LLMs) على المملكة المتحدة. وعلى الصعيد الدولي، تتعامل الهيئات التنظيمية مع الآثار الأمنية لهذه التقنيات المتقدمة للذكاء الاصطناعي. لقد اخترق نموذج الذكاء الاصطناعي البارز، ChatGPT الخاص بـ OpenAI، خدمات متنوعة، بما في ذلك المبيعات وخدمة العملاء، مما يعزز الحاجة إلى معالجة الثغرات المحتملة. كما أعربت الولايات المتحدة وكندا عن قلقها من استغلال القراصنة لأنظمة الذكاء الاصطناعي، مما يؤكد ضرورة الجهود الجماعية للدفاع ضد هذه التهديدات.
دور أدوات الذكاء الاصطناعي في المجال المؤسسي
تكشف نتائج استطلاع حديث أجرته رويترز/إيبسوس عن أن الموظفين عبر مختلف الصناعات يدمجون بشكل متزايد أدوات الذكاء الاصطناعي، مثل ChatGPT، في روتينهم اليومي. تساعد هذه الأدوات في صياغة رسائل البريد الإلكتروني، وملخصات المستندات، والأبحاث الأولية. ومع ذلك، يكشف الاستطلاع عن مجموعة من ردود الفعل المؤسسية بشأن سياسات استخدام أدوات الذكاء الاصطناعي. في حين أفاد بعض المستجيبين بوجود حظر واضح على أدوات الذكاء الاصطناعي الخارجية، ظل نسبة كبيرة منهم غير متأكدة من مواقف شركاتهم. يسلط هذا عدم اليقين الضوء على الحاجة إلى توجيهات وإرشادات أكثر وضوحاً بشأن اعتماد تقنية الذكاء الاصطناعي.
رؤى الخبراء وملاحظة تحذيرية
يقدم أوسيلوكا أوبيورا، كبير مسؤولي التكنولوجيا في شركة الأمن السيبراني RiverSafe، تحذيراً صارماً ضد دمج الذكاء الاصطناعي بسرعة دون تقييمات أمنية قوية. ويشدد أوبيورا على أن جاذبية اتجاهات الذكاء الاصطناعي المتطورة يجب ألا تطغى على أهمية تقييم المخاطر والمكافآت. ويدعو إلى استراتيجية شاملة تشمل تنفيذ تدابير الأمن السيبراني لحماية الشركات ضد التهديدات المحتملة. ويعزز منظوراه أهمية اتخاذ قرارات مستنيرة بينما تتنقل الشركات في عالم تقنية الذكاء الاصطناعي المتطور.
يُعد إرشاد المركز الوطني لأمن الفضاء السيبراني (NCSC) تذكيراً في محله بأن روبوتات الدردشة المدعومة بالذكاء الاصطناعي تحمل إمكانات تجارية كبيرة، لكنها تقدم أيضاً ثغرات أمنية تتطلب مراعاة دقيقة. يجب على الشركات الموازنة بين مزايا الكفاءة التي يقودها الذكاء الاصطناعي ومخاطر التلاعب الخبيث. ومع تبني المشهد المؤسسي العالمي بشكل متزايد لأدوات الذكاء الاصطناعي، تزداد الحاجة إلى تدابير أمنية سيبرانية قوية وتنفيذ مستنير وضوحاً. إن رحلة الاستفادة من فوائد الذكاء الاصطناعي لا شك أنها مثيرة، ولكن يجب القيام بها بنهج متوازن يعطي الأولوية للأمن والاستقرار.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
بريندا كانانا
تمتلك بريندا أكثر من 4 سنوات من الخبرة المتخصصة في العملات الرقمية والذكاء الاصطناعي والتقنيات الناشئة. عملت في Zycrypto وBlockchain Reporter وThe Coin Republic، وهي الآن جعلت Cryptopolitan منزلها. يحافظ شهادتها في علم الاجتماع من جامعة مومباسا التقنية على تواصلها مع نبض قرائها.
