هل قد يؤدي الذكاء الاصطناعي لفحص المكالمات لدى جوجل إلى الرقابة الافتراضية؟

في محاولة لحماية مستخدمي Android من محتالين الهاتف، تطور Google إجراءات حماية جديدة. تختبر Google تقنية تستخدم الذكاء الاصطناعي لتحديد الأنماط المرتبطة بالاحتيال وإعلام مستخدمي هواتف Android عندما يشتبه في أن الاحتيال جارٍ، وفقاً لرئيس الهندسة في Google ديف بورك. 

كشفت Google يوم الثلاثاء في مؤتمر المطورين I/O أنها تطور وظيفة مراقبة مكالمات جديدة ستحذر المستخدمين من احتمال أن الشخص الذي يتحدثون معه يحاول على الأرجح الاحتيال بهم وتحثهم على إلغاء مثل هذه المحادثات.

Google تضمن للمستخدمين أن بياناتهم ستكون آمنة

وفقاً لـ Google، تستخدم هذه القدرة Gemini Nano، وهو نموذج لغوي مصغر ومحلي وغير متصل بهواتف Android، وهو مبني على نموذج اللغة الكبيرة Gemini الخاص بالشركة. 

قالت الشركة أن،

"يحدث كل هذا الحماية على الجهاز، لذا تظل محادثتك خاصة بك."

المكالمات من "ممثلي البنوك" الذين يطلبون أشياء لن تطلبها البنوك الشرعية أبداً - مثل كلمات المرور أو أرقام التعريف الشخصية لبطاقات الائتمان - أو تطلب مدفوعات ببطاقات الهدايا أو تحويلات مالية عاجلة هي بعض الأمثلة لما قد يشعل هذه التنبيهات. 

تزعم Google أن لأن هذه الإجراءات الوقائية الجديدة كلها على الجهاز، ستبقى المحادثات التي يستمع إليها Gemini Nano سرية.

خبراء الخصوصية متشككون في الفكرة

استخدام الشركة للذكاء الاصطناعي التوليدي للمسح في الوقت الفعلي لتحديد الأنماط المرتبطة بالاحتيال أثناء المكالمات الصوتية أثار قلق الخبراء في مجال الأمن والخصوصية. 

اقرأ أيضًا: العرض المثير لـ Gemini AI في Google I/O

يخشى الخبراء أنه بعد تحديد الاحتيالات، لن يمر وقت طويل قبل أن يلاحظوا الاتجاهات المرتبطة بالميول السياسية، أو قضايا حقوق الإنسان، أو الصعوبات الشخصية المرتبطة بوظائف الناس.

نشر مصمم حلول أمان الذكاء الاصطناعي والمهندس، أندري، على منصة X، مشاركاً منشور ميريديث ويتاكر، قائلاً إن أداة مسح المكالمات بالذكاء الاصطناعي من Google جعلته منقسماً. قال إنه بينما يقدر الإجراء الوقائي ضد الاحتيال، فبأي ثمن لخصوصيته؟ 

قال إنه متخصص في الأمن السيبراني، لذا فهو يدرك مدى سهولة تحول المسح من جانب العميل إلى المراقبة.

يتوقع الخبراء أن هذا مجرد طرف من الجبل الجليدي، وفي الواقع، ما سيحدث هو أنه سيتطور إلى رقابة مركزية في المستقبل.

توافق Gemini Nano محدود

على الرغم من أن Google تقول إن العملاء سيتعين عليهم اختيار استخدام ميزة اكتشاف الاحتيال، فإنها تدعي أنها ستكشف عن تفاصيل إضافية في وقت لاحق من هذا العام. لا توجد كلمة عن متى ستكون الميزة متاحة. 

اقرأ أيضًا: ستحصل Google Photos على ميزة "Ask Photos" المدعومة بالذكاء الاصطناعي مع تكامل Gemini

لذلك، قد تقيد التوافق نطاق المتقدمين الذين تكون هذه التقنية مفيدة لهم. موقع دعم المطورين لـ Gemini Nano ينص على أن،

"يمكن تنفيذ Gemini Nano، أصغر إصدار من عائلة نماذج Gemini، على الجهاز على أجهزة Android القادرة، بدءاً من Google Pixel 8 Pro وسلسلة Samsung S24."

هناك دائماً فرصة لوقوع ضحية للاحتيال، حتى لو وجد بعض الناس من السهل اكتشافها بعد سنوات من جهود التوعية والنصائح المتاحة بسهولة حول كيفية تجنبها. 

وفقاً لاستطلاع صدر عن التحالف العالمي لمكافحة الاحتيال في أكتوبر من العام الماضي، خسر شخص واحد من بين كل 4 أشخاص في جميع أنحاء العالم أكثر من 1 تريليون دولار من الاحتيال أو سرقة الهوية في العام السابق.

تقرير من Cryptopolitan بقلم عامر شيخ