ستتضمن تطبيقات الذكاء الاصطناعي "ملصقات أمان" تسلط الضوء على المخاطر والاختبارات

في المستقبل القريب، قد يجد مستخدمو تطبيقات الذكاء الاصطناعي التوليدي ملصقات توضح بوضوح كيفية استخدام الذكاء الاصطناعي، والمخاطر المرتبطة به، وعملية اختباره. ووفقًا لتوجيهات جديدة، ستصبح هذه الملصقات إلزامية لتسهيل فهم هذه التقنية على عامة الناس.

اقرأ أيضاً: الاتحاد الأوروبي يتصدر تنظيم الذكاء الاصطناعي

صرحت وزيرة الاتصالات والمعلومات في سنغافورة، السيدة جوزفين تيو، بأن الإجراء الجديد يهدف إلى defiمعيار للشفافية والاختبار لشركات التكنولوجيا. جاء ذلك خلال كلمتها في مؤتمر حماية البيانات الشخصية للتكنولوجيا الذي عُقد في 15 يوليو/تموز، وفقًا لتقرير نشرته صحيفة ستريتس تايمز. 

ينبغي على مطوري تطبيقات الذكاء الاصطناعي أن يكونوا شفافين بشأن ابتكاراتهم

كما هو الحال مع وضع ملصقات السلامة على الأدوية والأجهزة المنزلية، يجب على مطوري تطبيقات الذكاء الاصطناعي التوليدي توضيح كيفية استخدام نماذج الذكاء الاصطناعي وتطويرها للمستخدمين. هذا ما قالته السيدة تيو، الوزيرة المسؤولة عن مبادرة "الأمة الذكية" والأمن السيبراني

"سنوصي المطورين والمنفذين بأن يكونوا شفافين مع المستخدمين من خلال تقديم معلومات حول كيفية عمل نماذج وتطبيقات الذكاء الاصطناعي التوليدي."

وأوضح الوزير القواعد القادمة قائلاً إنها مماثلة لما يحدث عندما يفتح المستخدم "علبة دواء بدون وصفة طبية". حيث يجد ورقة توضح بوضوح كيفية استخدام الدواء والآثار الجانبية المحتملة التي قد يواجهها

أكد تيو أن "هذا المستوى من الشفافية" ضروري لأنظمة الذكاء الاصطناعي المبنية على الذكاء الاصطناعي التوليدي. defiمجموعة القواعد الجديدة معايير السلامة التي يجب تطبيقها قبل إتاحة نموذج الذكاء الاصطناعي للجمهور. 

من المقرر إصدار دليل حول إخفاء هوية البيانات في عام 2025

الذكاء الاصطناعي التوليدي هو نوع من الذكاء الاصطناعي قادر على توليد نصوص وصور جديدة، وهو أقل قابلية للتنبؤ من الذكاء الاصطناعي التقليدي. ووفقًا للإرشادات الجديدة، سيُطلب من المبدعين الإشارة إلى مخاطر نشر الأكاذيب والتعليقات العدائية والروايات المتحيزة في المحتوى.

أوضح تيو أن الأجهزة المنزلية تأتي مزودة بملصقات تُشير بوضوح إلى خضوعها لاختبارات السلامة؛ وإلا فلن يعرف المستهلك ما إذا كان الجهاز آمنًا أم لا. وسيُطبق الأمر نفسه على تطبيقات الذكاء الاصطناعي. وستبدأ هيئة تطوير الإعلام والاتصالات في سنغافورة (IMDA) مشاورات مع القطاع بشأن القواعد الجديدة. مع ذلك، لم يُحدد تيو موعدًا لإصدار هذه التوجيهات.

وقال تيو إن هيئة تطوير الإعلام (IMDA) نشرت أيضاً دليلاً حول القضايا المتعلقة بالخصوصية في مجال التكنولوجيا، والذي سيلبي الطلب المتزايد على البيانات لتدريب نماذج الذكاء الاصطناعي مع حماية خصوصية المستخدمين.

اقرأ أيضاً: اجتماع طاولة مستديرة للديمقراطيين يستضيف مارك كوبان وبراد جارلينجهاوس لمناقشة لوائح العملات المشفرة

صرحت دينيس وونغ، مساعدة الرئيس التنفيذي لهيئة تطوير الإعلام والاتصالات (IMDA)، بأن الحفاظ على أمن البيانات في مجال الذكاء الاصطناعي التوليدي يمثل تحديًا كبيرًا للقطاع. وقد أدلت برأيها خلال جلسة نقاش منفصلة حول الذكاء الاصطناعي وخصوصية البيانات ضمن فعاليات الحدث. وشارك في الجلسة ممثلون عن شركات تقنية مختلفة، من بينها شركة OpenAI، مطورة برنامج ChatGPT، وشركة الاستشارات Accenture. 

أكدت جيسيكا غان لي، رئيسة الشؤون القانونية للخصوصية في OpenAI، على ضرورة وجود ضوابط لحماية البيانات في جميع مراحل تطوير ونشر الذكاء الاصطناعي. وأضافت أن نماذج الذكاء الاصطناعي يجب تدريبها على مجموعات بيانات متنوعة من جميع أنحاء العالم. وشددت لي على أهمية تضمين ثقافات ولغات ومصادر متعددة في تدريب الذكاء الاصطناعي، إلى جانب إيجاد سبل للحد من معالجة البيانات الشخصية.

قال تيو إنه سيتم تقديم دليل حول إخفاء هوية البيانات للشركات العاملة في رابطة دول جنوب شرق آسيا (آسيان) في أوائل عام 2025. وسيكون هذا الدليل نتاج اجتماع عُقد في فبراير بين المسؤولين الإقليميين الذين بحثوا سبل إنشاء نظام بيئي رقمي عالمي آمن.