رئيس Signal يصدر تحذيراً بشأن مخاطر الذكاء الاصطناعي الوكيل

حذرت رئيسة Signal ميريديث ويتاكر الجمهور العام من المخاطر المرتبطة بالذكاء الاصطناعي الوكيل (AI). وتحدثت في مؤتمر SXSW في أوستن، تكساس، مشيرة إلى أن استخدام الذكاء الاصطناعي الوكيل قد يأتي مع خطر على خصوصية المستخدمين.

ووفقاً لـ بيان ويتاكر، ذكرت الحاجة إلى أشكال آمنة من التواصل، مشيرة إلى أن استخدام وكلاء الذكاء الاصطناعي هو نفسه "وضع عقلك في جرة". وأضافت أن الاتجاه الجديد حيث يسمح المستخدمون للذكاء الاصطناعي بأداء المهام نيابة عنهم قد ينطوي على مشكلات تتعلق بالخصوصية والأمان.

أصبح استخدام وكلاء الذكاء الاصطناعي منتشراً في صناعة العملات المشفرة، حيث يستخدم المستخدمون في قطاع التمويل اللامركزي (DeFi) هذه الآلات لأداء مهام مثل تنفيذ الصفقات، والتكيف، وحتى تحسين الاستراتيجيات بإدخال قليل أو معدوم من المستخدمين. كما يتم دمج وكلاء الذكاء الاصطناعي في المنصات لمساعدة المستخدمين على التداول بسهولة أكبر وذكاءً وسرعة. ومع ذلك، يتم تنزيل بعض البوتات قبل أن يتمكن المستخدمون من التفاعل مع وكيل الذكاء الاصطناعي.

رئيس Signal يحذر من وكلاء الذكاء الاصطناعي

ووفقاً لرئيسة Signal، بدأت منصات مختلفة في تسويق وكلاء الذكاء الاصطناعي كشكل من أشكال الخدمات ذات القيمة المضافة لجعل حياة المستخدمين أفضل. وفي خطابها، ذكرت ويتاكر أن هذه الوكلاء يتعاملون مع مهام عبر الإنترنت متنوعة للمستخدمين خارج استخدامه في قطاع العملات المشفرة. على سبيل المثال، يمكن لوكلاء الذكاء الاصطناعي شراء تذاكر الأحداث، وجدولة الأحداث على التقويم، وإرسال رسائل إلى الأصدقاء.

"لذا يمكننا ببساطة وضع عقلنا في جرة لأن الشيء يقوم بذلك ولا يتعين علينا لمسها، أليس كذلك؟" سألت رئيسة Signal.

بعد طرح السؤال، دخلت في مناقشة مطولة حول الأذونات التي يحتاج المستخدمون إلى منحها لوكلاء الذكاء الاصطناعي قبل أن يتمكنوا من أداء جميع هذه المهام لجعل حياة المستخدمين أكثر كفاءة. وأضافت ويتاكر أنه سيتضمن الوصول إلى متصفح الويب الخاص بنا، والتقويم، وتطبيقات المراسلة، وأحياناً بطاقتنا الائتمانية لأنه يجب أن تدفع مقابل تذاكر الأحداث التي تحجزها لنا.

"سيحتاج إلى أن يكون قادراً على قيادة هذه [العملية] عبر نظامنا بأكمله بشيء يبدو وكأنه إذن الجذر (root permission)، والوصول إلى كل قاعدة بيانات واحدة منها - على الأرجح بشكل واضح، لأنه لا يوجد نموذج للقيام بذلك مشفراً،" أضفت ويتاكر.

دعوة ويتاكر للتحذير في صناعة الذكاء الاصطناعي

في بيانها، ذكرت ويتاكر أن وكلاء الذكاء الاصطناعي لا يعملون بشكل كافٍ بمفردهم لأنهم يحتاجون إلى نماذج ذكاء اصطناعي لتشغيلهم. كما ناقشت العلاقة بين العملية والأمن، مشيرة إلى أن المعلومات تُرسل إلى خادم لمعالجتها قبل إعادتها.

"لذا هناك مشكلة عميقة تتعلق بالأمان والخصوصية تلاحق هذا الضجيج حول الوكلاء، وهذا يهدد في النهاية بكسر حاجز الدم-الدماغ بين طبقة التطبيق وطبقة نظام التشغيل من خلال دمج جميع هذه الخدمات المنفصلة [و] تشويش بياناتها،" أضفت ويتاكر.

وأشارت أيضاً إلى أن قرار Signal دمج وكلاء الذكاء الاصطناعي في تطبيقه سيُضعف خصوصية رسائل مستخدميه. وأضافت أن الوكيل يحتاج إلى الحصول على وصول إلى التطبيق لإرسال النصوص إلى أشخاص آخرين، كما يحتاج إلى استخراج المعلومات لتلخيص النصوص.

جاءت تعليقاتها بعد مشاركتها في لوحة نقاشية ناقشت كيف أن صناعة الذكاء الاصطناعي مبنية على نمط المراقبة بسبب طريقة جمع البيانات على نطاق واسع. وأضافت ويتاكر أنها تشعر بأن المزيد من البيانات التي يتم جمعها قد يكون لها عواقب محتملة لم تكن تعتبرها جيدة.

وفي سياق الذكاء الاصطناعي الوكيل، ذكرت رئيسة Signal: "سنُضعف الخصوصية والأمن أكثر بسبب 'روبوت الجني السحري' الذي سيتولى التعامل مع مستلزمات الحياة"، واختتمت كلامها بذلك.