الرئيس التنفيذي لشركة أوكتا يحذر من مخاطر أمن الذكاء الاصطناعي

يحذر تود ماكينون، الرئيس التنفيذي لشركة أوكتا، من المشاكل الأمنية المتعلقة بالذكاء الاصطناعي مع انتقاله من نماذج الاختبار إلى استخدامه في المواقفtron. وقد شدد بشدة على الحاجة المُلحة لأنظمة أمنيةdentعلى الهوية قادرة على التحكم في ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه.

في مقابلة حديثة مع جيم كريمر من قناة سي إن بي سي، أكد ماكينون أنه مع انتقال وكلاء الذكاء الاصطناعي من النماذج الأولية إلى بيئات الإنتاج، فإنهم يطرحون تحديات جديدة في مجال الأمن السيبراني يجب على المؤسسات معالجتها بشكل عاجل.

تعمل وكلاء الذكاء الاصطناعي الآن في أنظمة حقيقية، ويجب أن تتمتع بوصول آمن ومتحكم فيه

نصح ماكينون الشركات التي تستخدم أنظمة الذكاء الاصطناعي في بيئات العمل الحقيقية بالتعامل مع هذه الأنظمة كزملاء عمل. وأوضح أن نقل الذكاء الاصطناعي إلى مرحلة "الإنتاج" يمنح هذه الأنظمة وصولاً فعلياً إلى الأنظمة الحية التي تحتوي على معلومات العملاء الخاصة، والملفات الداخلية، وبيانات الأعمال. 

وهذا ينطوي على مخاطر أمنية كبيرة لا تستطيع الشركات تجاهلها.

يحذر ماكينون من أن أنظمة الذكاء الاصطناعي باتت قادرة على العمل بشكلdentواتخاذ قرارات غير خاضعة للإشراف، مما قد يؤدي إلى وصول غير مصرح به، أو تسريب البيانات، أو إساءة استخدام المعلومات عن طريقdent. وينصح بأن الطريقة الوحيدة للتعامل مع هذه المخاطر بأمان هي استخدام أنظمة مراقبة تتحقق من هوية أو جهة محاولة الوصول إلى البيانات. ولا تسمح هذه الأنظمة بالوصول إلا إذا كان الشخص أو نظام الذكاء الاصطناعي موثوقًا به، وموثقًا، وحاصلًا على إذن.

يقول ماكينون إن إدارةdentفي Okta تتيح للشركات إدارة tracوالتحكم في الوصول لجميع أنواع المستخدمين، بما في ذلك وكلاء الذكاء الاصطناعي. 

لا تزال شركة أوكتا حذرة في توقعاتها حتى بعد إعلانها عن أرباحtron

أعلنت شركة أوكتا عن أرباح وإيرادات فاقت التوقعات خلال الربع الحالي، لكنها لم ترفع توقعاتها للإيرادات في الأرباع القادمة. وبدلاً من ذلك، حافظت أوكتا على نظرة حذرة ومتحفظة، مما أدى إلى انخفاض سهم الشركة بأكثر من 11% خلال التداولات المسائية.

قال ماكينون إنه من الصعب التخطيط للنمو المستقبلي بثقة كاملة بسبب المناخ الاقتصادي العالمي غير المتوقع. 

وقال إن قيادة أوكتا ستبقى متواضعة، وستخطط بعناية، وستحمي مكانة الشركة بدلاً من السعي وراء الأهداف قصيرة المدى بقوة مفرطة. 

وبهذه الطريقة، ستتكيف Okta عندما تتغير ظروف السوق في الصناعات التي تتغير فيها ميزانيات العملاء ودورات الاستثمار التكنولوجي باستمرار.

وأشار ماكينون أيضًا إلى أن المستثمرين قد يشعرون بالإحباط عندما لا تقوم شركات مثل أوكتا بتسريع النمو على الفور بعد الإعلان عن نتائجtron. 

قال تود إنه يجب على الشركات تجنب الأخطاء عند بناء أنظمةdentآمنة وقابلة للتطوير تعمل عبر المستخدمين البشريين وأنظمة الذكاء الاصطناعي. 

تم حث شركات الذكاء الاصطناعي على إعادة حساب حسابات السلامة التي استند إليها لروبرت أوبنهايمر قبل إطلاق أنظمة فائقة القوة.

قال ماكس تيغمارك، وهو صوت رائد في مجال سلامة الذكاء الاصطناعي، إنه أجرى حسابات مماثلة لتلك التي أجراها الفيزيائي الأمريكي آرثر كومبتون قبل اختبار ترينيتي، ووجد احتمالًا بنسبة 90٪ أن يشكل الذكاء الاصطناعي المتقدم للغاية تهديدًا وجوديًا.

ماكينون أيضًا أن التسرع في النمو سيصعّب على الشركة دعم العملاء الجدد بالشكل الأمثل. ومع ذلك، أعرب عن حماسه لمستقبل الشركة، مؤكدًا أن الصبر والانضباط هما سرّ قوة أي شركةtronالقادم، وتستعد للريادة في مستقبلdentتتكامل فيه تقنيات الذكاء الاصطناعي مع إدارة الهوية