حذّرتdent شركة سيجنال، ميريديث ويتاكر، الجمهور من المخاطر المرتبطة بالذكاء الاصطناعي الفاعل. وفي كلمتها خلال مؤتمر SXSW في أوستن، تكساس، أشارت إلى أن استخدام الذكاء الاصطناعي الفاعل قد ينطوي على مخاطر تتعلق بخصوصية المستخدمين.
بحسب تصريح، فقد أشارت إلى الحاجة إلى وسائل اتصال آمنة، موضحةً أن استخدام وكلاء الذكاء الاصطناعي أشبه بـ"وضع دماغك في وعاء". وأضافت أن الاتجاه الجديد الذي يسمح فيه المستخدمون للذكاء الاصطناعي بأداء مهام نيابةً عنهم قد يُثير مشاكل تتعلق بالخصوصية والأمان.
أصبح استخدام برامج الذكاء الاصطناعي شائعًا في صناعة العملات الرقمية، حيث يستخدمها مستخدمو التمويل اللامركزي (DeFi) لأداء مهام مثل تنفيذ الصفقات، وتكييف الاستراتيجيات، وحتى تحسينها، دون تدخل يُذكر من المستخدمين. كما تُدمج هذه البرامج في المنصات لتسهيل التداول وجعله أكثر ذكاءً وسرعة. مع ذلك، يتطلب الأمر تحميل بعض البرامج قبل أن يتمكن المستخدمون من التفاعل مع برامج الذكاء الاصطناعي.
dent الرئيس من استخدام الذكاء الاصطناعي
بحسبdentشركة سيجنال، بدأت منصات عديدة بتسويق وكلاء الذكاء الاصطناعي كخدمة ذات قيمة مضافة لتحسين حياة المستخدمين. وذكرت ويتيكر في خطابها أن هؤلاء الوكلاء، بالإضافة إلى استخدامهم في قطاع العملات الرقمية، يتولون مهامًا متنوعة عبر الإنترنت نيابةً عن المستخدمين. فعلى سبيل المثال، يمكن لوكلاء الذكاء الاصطناعي شراء تذاكر الفعاليات، وجدولة المواعيد، ومراسلة الأصدقاء.
"إذن يمكننا ببساطة وضع دماغنا في جرة لأن الشيء يفعل ذلك ولا يتعين علينا لمسه، أليس كذلك؟" سأل رئيسdent سيجنال.
بعد طرح السؤال، دخلت في نقاش مطول حول الأذونات التي يحتاج المستخدمون إلى منحها لأنظمة الذكاء الاصطناعي قبل أن تتمكن من أداء جميع هذه المهام التي تُسهّل حياة المستخدمين. وأضافت ويتاكر أن ذلك سيشمل الوصول إلى متصفح الإنترنت، والتقويم، وتطبيقات المراسلة، وأحيانًا بطاقة الائتمان الخاصة بنا لأنها تُستخدم لدفع ثمن تذاكر الفعاليات التي تحجزها لنا.
وأضاف ويتاكر: "سيحتاج الأمر إلى أن يكون قادراً على إدارة هذه [العملية] عبر نظامنا بأكمله بشيء يشبه إذن الجذر، والوصول إلى كل قاعدة بيانات من تلك القواعد - ربما بشكل واضح، لأنه لا يوجد نموذج للقيام بذلك بشكل مشفر".
يدعو بيان ويتاكر إلى توخي الحذر في صناعة الذكاء الاصطناعي
أشارت ويتيكر في بيانها إلى أن أنظمة الذكاء الاصطناعي لا تعمل بكفاءة كافية بمفردها، إذ يجب أن تُغذّى بنماذج الذكاء الاصطناعي. كما ناقشت العلاقة بين العملية والأمن، موضحةً أن المعلومات تُرسل إلى خادم للمعالجة قبل إعادتها.
وأضاف ويتاكر: "هناك مشكلة عميقة تتعلق بالأمن والخصوصية تلاحق هذه الضجة حول الوكلاء، والتي تهدد في نهاية المطاف بكسر حاجز الدم بين طبقة التطبيق وطبقة نظام التشغيل من خلال دمج كل هذه الخدمات المنفصلة [و] تشويش بياناتها".
وأشارت أيضًا إلى أنه إذا قررت سيجنال دمج وكلاء الذكاء الاصطناعي في تطبيقها، فسوف يُقوّض ذلك خصوصية رسائل المستخدمين. وأضافت أن الوكيل يحتاج إلى الوصول إلى التطبيق لمراسلة الآخرين واستخراج المعلومات لتلخيص الرسائل.
جاءت تصريحاتها بعد مشاركتها في حلقة نقاش تناولت كيف صناعة الذكاء الاصطناعي على نمط المراقبة بسبب طريقة جمعها للبيانات الضخمة. وأضافت ويتيكر أنها تشعر بأن زيادة حجم البيانات المجمعة قد تنطوي على عواقب سلبية.
وذكرتdent شركة سيجنال أنه مع الذكاء الاصطناعي الوكيل، "سنزيد من تقويض الخصوصية والأمن بسبب "روبوت سحري" سيتولى أمر ضرورات الحياة"، كما خلصت إلى ذلك.
