أثار عضوا مجلس الشيوخ الأمريكي ريتشارد بلومنثال وجوش هاولي مخاوف بشأن الرئيس التنفيذي لشركة ميتا مارك زوكربيرج ونموذج الذكاء الاصطناعي العملاق "المسرب" المسمى LLaMA. يجادل أعضاء مجلس الشيوخ بأن قانون LLaMA يشكل أخطارًا محتملة ويمكن استغلاله في أنشطة إجرامية.
في رسالة مؤرخة 6 يونيو ، انتقد أعضاء مجلس الشيوخ قرار زوكربيرج بفتح مصدر LLaMA وادعوا أنه لا توجد ضمانات كافية في إطلاق Meta لنموذج الذكاء الاصطناعي. بينما أقروا بفوائد البرامج مفتوحة المصدر ، زعموا أن إصدار Meta لـ LLaMA يفتقر إلى دراسة شاملة للعواقب المحتملة ، والتي اعتبروها ضررًا للجمهور.
في البداية ، كان إصدار LLaMA محدودًا عبر الإنترنت للباحثين. ومع ذلك ، تم تسريبه بالكامل لاحقًا بواسطة مستخدم من موقع لوحة الصور 4chan في أواخر فبراير. أعرب أعضاء مجلس الشيوخ عن قلقهم من أن النموذج الكامل أصبح متاحًا بسهولة على BitTorrent ، دون أي مراقبة أو إشراف ، ويمكن لأي شخص في جميع أنحاء العالم الوصول إليه. أكد Blumenthal و Hawley أنه يمكن بسهولة اعتماد LLaMA من قبل مرسلي البريد العشوائي ومجرمي الإنترنت والأفراد المتورطين في أنشطة احتيالية أو توزيع محتوى مرفوض.
مخاوف أعضاء مجلس الشيوخ الأمريكي
لتسليط الضوء على مخاوفهم ، قارن أعضاء مجلس الشيوخ LLaMA بنموذجين مغلقين المصدر: OpenAI's ChatGPT-4 و Google Bard. لاحظوا أنه بينما يُطلب من ChatGPT-4 ، عندما يُطلب منه إنشاء ملاحظة تتظاهر بأنه ابن شخص ما يطلب المال ، رفض الطلب بناءً على إرشادات أخلاقية ، فإن LLaMA ستقدم الرسالة المطلوبة بالإضافة إلى الردود التي تنطوي على إيذاء النفس والجريمة و معاداة السامية. أثار هذا التمييز مخاوف بشأن قدرة LLaMA على توليد مواد مسيئة.
بينما تمت برمجة ChatGPT لرفض طلبات معينة ، وجد المستخدمون طرقًا لـ "كسر الحماية" للنموذج وجعله يولد ردودًا يرفضها عادةً. استجوب أعضاء مجلس الشيوخ زوكربيرج حول ما إذا كان قد تم إجراء أي تقييمات للمخاطر قبل إصدار LLaMA ، وما هي الإجراءات التي Meta لمنع أو تخفيف الضرر منذ التسرب ، وكيف تستخدم Meta بيانات المستخدم لأبحاث الذكاء الاصطناعي ، من بين استفسارات أخرى.
تجدر الإشارة إلى أن OpenAI ، تحت ضغط التطورات التي حققتها نماذج أخرى مفتوحة المصدر ، تعمل على نموذجها الخاص بالذكاء الاصطناعي مفتوح المصدر. سلط مستند تم تسريبه من تأليف مهندس برمجيات كبير في Google الضوء على التقدم الذي أحرزته هذه النماذج مفتوحة المصدر.
يتيح المصدر المفتوح لرمز نموذج AI إمكانية التخصيص لخدمة أغراض محددة وتسهيل المساهمات من المطورين الآخرين. ومع ذلك ، فإن المخاوف التي أثارها السناتور بلومنثال وهاولي تؤكد الحاجة إلى اتباع نهج مسؤولة ومدروسة لإصدار ومراقبة نماذج الذكاء الاصطناعي لمنع إساءة الاستخدام والأذى المحتمل.
