عمالقة التكنولوجيا في وادي السيليكون يتجاهلون سلامة الذكاء الاصطناعي من أجل مكاسب المنتجات

كان وادي السيليكون وجهةً لأبرز خبراء الذكاء الاصطناعي في العالم لإجراء أبحاث مبتكرة، لكن الخبراء يحذرون من أن الأمور قد تغيرت، وأصبح الذكاء الاصطناعي الآن يتمحور حول المنتج. ويعتقد باحثو وخبراء الذكاء الاصطناعي أيضاً أنه منذ أن أطلقت OpenAI برنامج ChatGPT في أواخر عام 2022، أعطت صناعة التكنولوجيا الأولوية للتسويق على حساب البحث، وذلك من خلال بناء منتجات ذكاء اصطناعي جاهزة للاستخدام من قبل المستهلكين.

محللون من مورغان ستانلي توقع أن صناعة الذكاء الاصطناعي لديها القدرة على الوصول إلى تريليون دولار من الإيرادات السنوية بحلول عام 2028. وقال خبراء الصناعة إنهم قلقون بشأن السلامة مع سعي اللاعبين الرئيسيين إلى الذكاء الاصطناعي العام (AGI).

يعود البحث في مجال الذكاء الاصطناعي إلى تحقيق الأرباح، حيث تعطي وادي السيليكون الأولوية للمنتجات على حساب السلامة

يقول جيفري هينتون إنه ينبغي إجبار شركات الذكاء الاصطناعي على تخصيص ثلث مواردها الحاسوبية لأبحاث السلامة، لأن الذكاء الاصطناعي سيصبح أكثر ذكاءً منا خلال العشرين عامًا القادمة، وعلينا أن نبدأ بالقلق بشأن ما سيحدث حينها. pic.twitter.com/ocT3Scmyxg

– تساراثوسترا (@ tsarnick) 25 أكتوبر 2024

شركة OpenAI، التي تأسست كمختبر أبحاث غير ربحي عام 2015، حالياً جهوداً حثيثة للتحول إلى كيان ربحي، وفقاً لما صرّح به رئيسها التنفيذي، سام ألتمان. وكانت يان ليك، الرئيسة السابقة لقسم التوافق في OpenAI، والتي ركّز فريقها على سلامة الذكاء الاصطناعي، قد استقالت العام الماضي، وقالت إن "ثقافة السلامة وإجراءاتها تراجعت خلال السنوات الماضية لصالح المنتجات البراقة".

يرى جيمس وايت، كبير مسؤولي التكنولوجيا في شركة كاليپسو الناشئة في مجال الأمن السيبراني، أن شركات التكنولوجيا تلجأ بشكل متزايد إلى أساليب مختصرة في اختبار نماذج الذكاء الاصطناعي الخاصة بها بدقة قبل طرحها للجمهور. وأشار إلى أن نماذج الذكاء الاصطناعي الأحدث تُضحّي بالأمان من أجل الجودة، أي تحسين استجابات روبوتات الدردشة المدعومة بالذكاء الاصطناعي. 

"النماذج تتحسن، لكنها أيضاً أكثر عرضة لأن تكون جيدة في الأمور السيئة. من الأسهل خداعها للقيام بأمور سيئة."

– جيمس وايت، كبير مسؤولي التكنولوجيا في شركة كاليبسو.

في مارس، بدا أن جوجل قد أعطت الأولوية لمنتجها على حساب السلامة بعد إطلاقها أحدث نماذج الذكاء الاصطناعي، جيميني 2.5، مدعيةً أنه نموذجها الأكثر ذكاءً. وقد امتنعت الشركة عن نشر بطاقة تعريف جيميني 2.5 لأسابيع، ما يعني أنها لم تُشارك أي معلومات حول آلية عمل هذا النموذج أو حدوده ومخاطره المحتملة عند إطلاقه.

الشركة أقرت في الثاني من أبريل بأنها تُقيّم أحدث طرازاتها بحثًا عن أي قدرات خطيرة محتملة قبل طرحها في الأسواق. ثم قامت جوجل لاحقًا بتحديث منشور المدونة وحذفت عبارة "قبل طرحها".

نشرت الشركة بطاقة نموذج غير مكتملة في 16 أبريل وقامت بتحديثها في 28 أبريل، أي بعد أكثر من شهر من إصدار نموذج الذكاء الاصطناعي، لتضمين معلومات حول تقييمات القدرات الخطيرة لـ Gemini2.5.

تتحول شركات تكنولوجيا الذكاء الاصطناعي من البحث إلى المنتجات المدرة للدخل

قال موظفون سابقون في شركة ميتا إنهم لم يتفاجأوا عندماdent ورئيسة قسم FAIR بالشركة، أعلنت الشهر الماضي أنها ستترك منصبها في 30 مايو. وذكروا أنهم اعتبروا ذلك بمثابة ترسيخ لابتعاد الشركة عن أبحاث الذكاء الاصطناعي وتوجهها نحو إعطاء الأولوية لتطوير منتجات عملية.

يتولى بينو قيادة مؤسسة FAIR منذ عام 2023، ووفقًا لموظفين في شركة Meta، يمكن لفرق بحثية صغيرة العمل على تقنيات متطورة للغاية، قد تُكلل بالنجاح أو لا. بدأ هذا التحول عندما سرحت الشركة التقنية 21 ألف موظف، أي ما يقارب ربع قوتها العاملة، في أواخر عام 2022. وأفاد موظفون سابقون مطلعون على الأمر أن باحثي FAIR وُجّهوا للعمل بشكل أوثق مع فرق تطوير المنتجات كجزء من إجراءات خفض التكاليف.

أفاد شخصان مطلعان على الأمر بأن كيم هازلوود، إحدى مديرات شركة FAIR، غادرت الشركة في وقت سابق من هذا العام ضمن خطة شركة Meta لخفض 5% من قوتها العاملة. وأشارا إلى أن إطلاق OpenAI لنموذج ChatGPT قد خلق شعوراً ملحاً لدى Meta بضرورة ضخ المزيد من الموارد في نماذج اللغة الكبيرة (LLMs).

كما كشف المصدران أن كريس كوكس، كبير مسؤولي المنتجات في ميتا، يشرف على مبادرة FAIR لسد الفجوة بين البحث العلمي ومجموعة GenAI التي تركز على المنتج. وأضافا أن GenAI، تحت قيادة كوكس، تستقطب المزيد من موارد الحوسبة وأعضاء الفريق من FAIR نظرًا لمكانتها المرموقة في الشركة. 

شركة ميتا الشهر الماضي أصدرت أدوات أمنية لحماية التطبيقات، تُمكّن المطورين من بناء تطبيقات باستخدام نماذج الذكاء الاصطناعي "لاما 4" التابعة للشركة. وأوضحت ميتا أن هذه الأدوات تُساعد في الحدّ من احتمالية تسريب "لاما 4" لمعلومات حساسة أو إنتاج محتوى ضار عن غير قصد.