تطبيق الذكاء الاصطناعي لتضمين 'ملصقات السلامة' التي تبرز المخاطر والاختبارات

في المستقبل القريب، قد يجد مستخدمو تطبيقات الذكاء الاصطناعي التوليدي ملصقات توضح بوضوح كيفية استخدام الذكاء الاصطناعي، والمخاطر المرتبطة به، وعملية الاختبار الخاصة به. ووفقاً للتوجيهات الجديدة، ستصبح هذه الملصقات إلزامية لتسهيل فهم التكنولوجيا للجمهور.

اقرأ أيضًا: الاتحاد الأوروبي يتصدر تنظيم الذكاء الاصطناعي

قالت وزيرة الاتصالات والمعلومات في سنغافورة، السيدة جوزفين تيو، إن الإجراء الجديد هو جهد لتحديد معيار للشفافية والاختبار لشركات التكنولوجيا. وكانت تتحدث في مؤتمر حماية البيانات الشخصية للتكنولوجيا في 15 يوليو، وفقاً لتقرير من صحيفة سايتس تايمز.

يجب على مطوري تطبيقات الذكاء الاصطناعي أن يكونوا شفافين بشأن ابتكاراتهم

مثل ممارسة وضع ملصقات السلامة على الأدوية أو الأجهزة المنزلية، يجب على مطوري تطبيقات الذكاء الاصطناعي التوليدي أن يكونوا واضحين في إعلام المستخدمين حول استخدام ونماذج الذكاء الاصطناعي. وقالت السيدة تيو، التي تشغل أيضاً منصب وزيرة شؤون الأمة الذكية ومبادرة الأمن السيبراني، إن:

«سنوصي بأن يكون المطورون والمشغلون شفافين مع المستخدمين من خلال توفير معلومات حول كيفية عمل نماذج وتطبيقات الذكاء الاصطناعي التوليدي.»

وشرحت الوزيرة القواعد القادمة، قائلة إنها مماثلة لما يحدث عندما يفتح المستخدم «علبة دواء بدون وصفة طبية». فيجد ورقة توضح بوضوح كيفية استخدام الدواء والآثار الجانبية المحتملة التي قد يواجهها.

أكدت تيو أن «هذا المستوى من الشفافية» ضروري لأنظمة الذكاء الاصطناعي المبنية على ذكاء اصطناعي توليدي واحد. ستحدد مجموعة القواعد الجديدة معايير السلامة التي يجب اتباعها قبل إتاحة نموذج الذكاء الاصطناعي للجمهور. 

دليل إخفاء البيانات سيصدر في 2025

الذكاء الاصطناعي التوليدي هو نوع من الذكاء الاصطناعي قادر على إنشاء نصوص وصور جديدة، وهو أقل قابلية للتنبؤ من الذكاء الاصطناعي التقليدي. ووفقاً للتوجيهات الجديدة، سيُطلب من المبدعين ذكر مخاطر نشر الأكاذيب والتعليقات المعادية والسرديات المتحيزة في المحتوى.

قالت تيو إن الأجهزة المنزلية تأتي مع ملصقات توضح بوضوح أن العنصر يتم اختباره للاستخدام الآمن؛ وإلا فلن يعرف العميل ما إذا كان الجهاز آمناً أم لا. وسيتم تطبيق نفس المبدأ على تطبيقات الذكاء الاصطناعي. ستبدأ هيئة الاتصالات ووسائل الإعلام في سنغافورة (IMDA) مشاورات مع الصناعة بشأن القواعد الجديدة. ومع ذلك، لم تذكر تيو تاريخاً للتوجيهات.

نشرت هيئة IMDA أيضاً دليلاً حول القضايا المتعلقة بالخصوصية في التكنولوجيا، والذي سيستجيب للطلب المتزايد على البيانات لتدريب نماذج الذكاء الاصطناعي مع حماية خصوصية المستخدمين، وفقاً لما ذكرته تيو.

اقرأ أيضًا: مائدة مستديرة ديمقراطية تستضيف مارك كوبان وبراد غلينغهاوس لمناقشة تنظيمات العملات الرقمية

قالت دانييل وونغ، نائبة الرئيس التنفيذي لهيئة IMDA، إن الحفاظ على أمان البيانات في الذكاء الاصطناعي التوليدي يمثل تحدياً أكبر للصناعة. وكانت تعبر عن آرائها في جلسة نقاش منفصلة حول الذكاء الاصطناعي وخصوصية البيانات خلال الحدث. شارك ممثلون من شركات تكنولوجيا مختلفة في النقاش، بما في ذلك شركة OpenAI المطورة لـ ChatGPT وشركة الاستشارات Accenture. 

يجب وضع ضوابط حماية البيانات في جميع مراحل تطوير ونشر الذكاء الاصطناعي، وفقاً لجيسيكا جان لي، رئيسة الشؤون القانونية للخصوصية في OpenAI. وقالت إن نماذج الذكاء الاصطناعي يجب أن يتم تدريبها على مجموعات بيانات متنوعة من «جميع أنحاء العالم». وأكدت لي أن الثقافات واللغات والمصادر المتعددة يجب أن تكون مدرجة في تدريب الذكاء الاصطناعي، بالإضافة إلى إيجاد طرق للحد من معالجة البيانات الشخصية.

قالت تيو إن دليلاً حول إخفاء البيانات سيتم تقديمه للشركات العاملة في رابطة أمم جنوب شرق آسيا (آسيان) في أوائل عام 2025. وسيكون الدليل نتاج اجتماع فبراير بين المسؤولين الإقليميين الذين استكشفوا طرقاً لإنشاء نظام بيئي رقمي عالمي آمن.