يُصنف الذكاء الاصطناعي التوليدي ضمن أعلى خمسة مخاطر ناشئة في الربع 2 2023

وفقًا لدراسة حديثة أجرتها شركة Gartner، Inc.، صعد الذكاء الاصطناعي التوليدي (AI)، بما في ذلك النماذج البارزة مثل ChatGPT من OpenAI وGoogle Bard، إلى طليعة مخاطر المؤسسات في الربع الثاني من عام 2023.

رؤى الاستطلاع

في استطلاع شامل أُجري في مايو 2023، تواصلت شركة Gartner مع 249 من كبار مسؤولي مخاطر المؤسسات، بهدف تقديم منظور معياري لـ 20 خطرًا وشيكًا. وتسلط تقارير المخاطر الناشئة الفصلية، وهي تحليل مفصل، الضوء على التأثير المحتمل، والجدول الزمني، ومستوى الاهتمام، والفرص المتصورة المرتبطة بهذه المخاطر.

تم تحديد التوفر الواسع النطاق للذكاء الاصطناعي التوليدي كأكثر المخاطر ذكرًا بنسبة ثانية. وفي الوقت نفسه، احتل بقاء الجهات الخارجية على قيد الحياة المرتبة الأولى كأخطر خطر ناشئ بسرعة تحت المراقبة في استطلاع الربع الثاني من عام 2023. وجاءت عدم اليقين في التخطيط المالي ومخاطر التركيز السحابي في المرتبتين التاليتين، بينما أكملت التوترات التجارية مع الصين القائمة الخمسية. تمثل هذه المخاطر مزيجًا من المخاوف الحالية المتعلقة بالاقتصاد الكلي، والتقلبات الجيوسياسية، والتقنية.

يعتقد ران شو، مدير البحث في ممارسة المخاطر والتدقيق في Gartner، أن الظهور المفاجئ للذكاء الاصطناعي التوليدي في القائمة العشرية، متصدرًا المرتبة الثانية، يعكس الارتفاع السريع في الوعي العام واعتماد أدوات الذكاء الاصطناعي التوليدي. كما يسلط الضوء على النطاق الواسع للتطبيقات المحتملة، وبالتالي المخاطر المرتبطة بها.

مخاطر الذكاء الاصطناعي التوليدي

حددت شركة Gartner سابقًا ستة مخاطر متأصلة في الذكاء الاصطناعي التوليدي وأربع مجالات ذات صلة لتنظيم الذكاء الاصطناعي. ولإدارة مخاطر المؤسسات بفعالية، تؤكد Gartner على ثلاث مجالات محورية: الملكية الفكرية، وخصوصية البيانات، والأمن السيبراني.

مخاوف الملكية الفكرية

يمكن لأدوات الذكاء الاصطناعي التوليدي دمج المعلومات عن غير قصد في مجموعات بيانات التدريب الخاصة بها. وشرح ران شو أن المعلومات التي يتم إدخالها إلى أداة ذكاء اصطناعي توليدي قد تصبح جزءًا من مجموعة التدريب الخاصة بها. وهذا يعني أن البيانات الحساسة أو الخاصة قد تظهر عن غير قصد في المخرجات للمستخدمين الآخرين. علاوة على ذلك، قد يؤدي استخدام المخرجات من هذه الأدوات إلى انتهاك غير مقصود لحقوق الملكية الفكرية للمستخدمين السابقين. وتؤكد Gartner على أهمية توعية القادة المؤسسيين بالحذر والشفافية المطلوبين عند استخدام مثل هذه الأدوات، لضمان معالجة مخاطر الملكية الفكرية بشكل مناسب.

قضايا خصوصية البيانات

قد تشارك أدوات الذكاء الاصطناعي التوليدي بيانات المستخدم عن غير علم مع أطراف ثالثة، مثل البائعين أو مقدمي الخدمات، دون إشعار مسبق. مثل هذه الإجراءات قد تنتهك قوانين الخصوصية في العديد من المناطق. ومن الجدير بالذكر أن الصين والاتحاد الأوروبي قد سنّا بالفعل لوائح، مع وجود قوانين مقترحة قيد التنفيذ في الولايات المتحدة وكندا والهند والمملكة المتحدة.

تهديدات الأمن السيبراني

أدوات الذكاء الاصطناعي التوليدي ليست محصنة ضد التهديدات السيبرانية. وأشار شو إلى وجود أكواد للبرمجيات الخبيثة وبرامج الفدية يتم إنتاجها بواسطة الذكاء الاصطناعي التوليدي بعد خداعه، بالإضافة إلى هجمات "حقن الأوامر" (prompt injections) التي تضلل هذه الأدوات لتكشف عن معلومات لا ينبغي لها الكشف عنها. وهذا يمهد الطريق للتنفيذ على نطاق واسع لهجمات التصيد الاحتيالي المتطورة.

الظروف الاقتصادية وبقاء الجهات الخارجية

سلط المحللون أيضًا الضوء على التضخيم المحتمل لمخاطر بقاء الجهات الخارجية بسبب تدهور الظروف الاقتصادية. وقد أدى التضخم المستمر، الذي يكون أقل استجابة لتعديلات أسعار الفائدة ويستمر لفترة أطول مما كان متوقعًا، إلى تفاقم ضغوط التكلفة والهوامش على الجهات الخارجية. ومع رفع البنوك المركزية لأسعار الفائدة لمكافحة التضخم، فإن ذلك يؤدي إلى مرحلة تشديد الائتمان، مما قد يدفع الموردين نحو تعليق العمليات أو الإفلاس بسبب تزايد تكاليف الاقتراض.

قد يؤدي الركود الاقتصادي الواسع إلى انخفاض غير متوقع في الطلب، مما يعرض بقاء البائعين أو قدرتهم على تسليم السلع والخدمات في الوقت المحدد للخطر.

حدد خبراء Gartner ثلاثة عواقب محتملة لبقاء الجهات الخارجية ليتم تتبعها من قبل مدراء المخاطر: فقدان المدخلات والمواد الأساسية، وافتراضات التخطيط المالي الخاطئة، وتحديات سلسلة التوريد الخارجية.

مع تطور مشهد المخاطر الناشئة، يجب على المؤسسات أن تظل يقظة، خاصة في مجال الذكاء الاصطناعي التوليدي. يتطلب مزيج من التقدم التكنولوجي والتقلبات الاقتصادية نهجًا استباقيًا لإدارة المخاطر.