الذكاء الاصطناعي التوليدي يثير مخاوف بين قادة الأعمال: دراسة

الذكاء الاصطناعي التوليدي يثير مخاوف بين قادة الأعمال: دراسة

أكثر من 90٪ من كبار التنفيذيين يعبرون عن مخاوفهم بشأن الاستخدام غير الخاضع للمراقبة لأدوات الذكاء الاصطناعي التوليدي

كشفت دراسة حديثة أجرتها شركة أمن المعلومات كاسبرسكي عن مخاوف متزايدة بين كبار التنفيذيين بشأن الانتشار غير المنظم لأدوات الذكاء الاصطناعي التوليدي (GenAI) في منظماتهم. مع تعبير 90٪ من قادة الأعمال الكبار عن قلقهم بشأن التبني غير الخاضع للرقابة لهذه الأدوات، من الواضح أن الذكاء الاصطناعي التوليدي أصبح يندمج بشكل متزايد في عمليات الأعمال المختلفة.

التسلل الصامت للذكاء الاصطناعي التوليدي

وجدت دراسة كاسبرسكي أن أكثر من نصف (53٪) من كبار التنفيذيين الذين شملهم الاستطلاع يعتقدون أن الذكاء الاصطناعي التوليدي الآن "يدفع" بنشاط خطوط عمل معينة داخل منظماتهم. ومع ذلك، أعرب 59٪ منهم أيضاً عن مخاوف عميقة بشأن ما وصفوه بـ "التسلل الصامت" للذكاء الاصطناعي التوليدي، مما أدى إلى مخاطر سيبرانية متزايدة. يشكل ظاهرة "الذكاء الاصطناعي الظل"، حيث يدمج الموظفون الذكاء الاصطناعي التوليدي دون إشراف مناسب، تحديات كبيرة لأمن البيانات والحوكمة.

شدد ديفيد إيم، الباحث الأمني الرئيسي في Kaspersky، على ضرورة معالجة هذه القضية، قائلاً: "نظراً لأن تطور GenAI السريع لا يظهر حالياً أي علامات على التراجع، فكلما طالت مدة عمل هذه التطبيقات دون رقابة، أصبح من الصعب التحكم فيها وتأمينها عبر الوظائف التجارية الرئيسية مثل الموارد البشرية والمالية والتسويق، أو حتى تكنولوجيا المعلومات."

أحد النتائج المقلقة هو أن 22٪ فقط من قادة الأعمال الذين شملهم الاستطلاع ناقشوا تنفيذ سياسات حوكمة داخلية لمراقبة استخدام الذكاء الاصطناعي التوليدي داخل منظماتهم. بالإضافة إلى ذلك، أقر 91٪ بالحاجة إلى فهم أفضل لكيفية استخدام هذه الأدوات للتخفيف من مخاطر الأمان.

مخاوف اختراق البيانات

يعتمد الذكاء الاصطناعي التوليدي على التعلم المستمر من خلال مدخلات البيانات، مما يجعل حماية البيانات مصدر قلق رئيسي. حتى عند الاستخدام بنية حسنة، قد ينقل الموظفون عن غير قصد بيانات حساسة خارج المنظمة، مما قد يسبب اختراقاً للبيانات. عكس بحث كاسبرسكي هذا القلق، مع تعبير 59٪ من القادة عن قلق جسيم بشأن خطر فقدان البيانات.

على الرغم من هذه المخاوف، كشفت الدراسة أيضاً أن 50٪ من قادة الأعمال يخططون للاستفادة من الذكاء الاصطناعي التوليدي بطريقة ما، أساساً لأتمتة المهام المتكررة. بالإضافة إلى ذلك، ينوي 44٪ دمج أدوات الذكاء الاصطناعي التوليدي في روتينهم اليومي. ومن الملاحظ أن 24٪ أشاروا إلى أنهم ميالون لاستخدام الذكاء الاصطناعي التوليدي لأتمتة وظائف تكنولوجيا المعلومات والأمان.

علق إيم على هذا الاتجاه، قائلاً: "قد يفترض المرء أن احتمال فقدان البيانات الحساسة وفقدان السيطرة على وحدات الأعمال الحرجة قد يعطي كبار التنفيذيين وقفة للتفكير، لكن نتائجنا تكشف أن ما يقرب من ربع رؤساء الصناعة يفكرون حالياً في تفويض بعض وظائفهم الأكثر أهمية إلى الذكاء الاصطناعي."

ومع ذلك، شدد أيضاً على الحاجة إلى فهم شامل لإدارة البيانات وسياسات قوية قبل دمج GenAI بشكل أكبر في البيئة المؤسسية.

اكتسبت المناقشة حول مخاطر وفوائد الذكاء الاصطناعي التوليدي زخماً. دعا رئيس الوزراء البريطاني ريشي سوناك مؤخراً إلى زيادة الوعي بالمخاطر المرتبطة بالذكاء الاصطناعي التوليدي. يأتي هذا قبل قمة سلامة الذكاء الاصطناعي في بليتشي بارك، حيث سيقود قادة الصناعة والخبراء مناقشة حول مستقبل التنظيم ودمج هذه التكنولوجيا الناشئة.

سيف ذو حدين للذكاء الاصطناعي التوليدي

أكد ريتش على أهمية أن تكون المؤسسات على دراية بآثار تقنية الذكاء الاصطناعي التوليدي وكيف يمكن توظيفها ودمجها بفعالية. وعلى الرغم من أن أدوات الذكاء الاصطناعي التوليدي توفر ميزة تبسيط المهام اليومية وتحسين الإنتاجية، إلا أن هناك مخاوف بشأن إساءة استخدامها في أنشطة ضارة مثل حقن الأكواد، والاحتيال التصيدي، والهندسة الاجتماعية، وتقنية العمق المزيف.

وحث المؤسسات على إعطاء الأولوية لتدابير أمنية قوية ودمج حلول تقنية مناسبة لبناء حماية مرنة ضد التهديدات السيبرانية.