عملاقو التكنولوجيا في وادي السيليكون يتجاهلون سلامة الذكاء الاصطناعي من أجل مكاسب المنتجات

كان وادي السيليكون هو المكان الذي ذهب إليه خبراء الذكاء الاصطناعي الرائدون في العالم لإجراء أبحاث مبتكرة، لكن الخبراء يحذرون من أن الأمور تغيرت، والآن يتعلق الأمر بالمنتج فقط. يعتقد باحثو الذكاء الاصطناعي والخبراء أيضاً أنه منذ أن أطلقت OpenAI ChatGPT في أواخر عام 2022، أعطت صناعة التكنولوجيا الأولوية للتجارية على البحث من خلال بناء منتجات ذكاء اصطناعي جاهزة للمستهلكين.

المحللون من مورغان ستانلي تنبأ أن لصناعة الذكاء الاصطناعي القدرة على الوصول إلى إيرادات سنوية بقيمة تريليون دولار بحلول عام 2028. قال خبراء الصناعة إنهم قلقون بشأن السلامة بينما يسعى اللاعبون الرائدون إلى تحقيق ذكاء عام اصطناعي (AGI).

يعود بحث الذكاء الاصطناعي إلى الأرباح بينما تعطي وادي السيليكون الأولوية للمنتجات على السلامة

يقول جيفري هينتون إن شركات الذكاء الاصطناعي يجب أن تُجبر على استخدام ثلث موارد الحوسبة الخاصة بها في أبحاث السلامة لأن الذكاء الاصطناعي سيصبح أذكى منا في السنوات العشرين القادمة ونحن بحاجة إلى البدء في القلق بشأن ما سيحدث بعد ذلك pic.twitter.com/ocT3Scmyxg

— تساراثوسترا (@tsarnick) أكتوبر 25، 2024

تضع OpenAI، تأسست كمختبر أبحاث غير ربحي في عام 2015، وهي الآن في خضم جهد لتحويل نفسها إلى كيان مربح، وفقاً لرئيسها التنفيذي، سام ألتمان. استقالت جان لايلي، الرئيسة السابقة لمحاذاة OpenAI، التي ركز فريقها على سلامة الذكاء الاصطناعي، في العام الماضي وقالت إنه خلال السنوات الماضية، "لقد أخذت ثقافة السلامة وعملياتها مقعداً خلفياً لصالح المنتجات اللامعة."

جادل جيمس وايت، كبير مسؤولي التكنولوجيا في شركة الأمن السيبراني الناشئة كاليبسو، بأن شركات التكنولوجيا تتخذ عددًا متزايدًا من الاختصارات عندما يتعلق الأمر باختبار نماذج الذكاء الاصطناعي بدقة قبل إصدارها للجمهور. وأشار إلى أن نماذج الذكاء الاصطناعي الأحدث تضحي بالأمن من أجل الجودة، أي استجابات أفضل من روبوتات الدردشة بالذكاء الاصطناعي. 

"النماذج تصبح أفضل، لكنها أيضاً أكثر عرضة لأن تكون جيدة في الأشياء السيئة. من الأسهل خداعها للقيام بأشياء سيئة."

– جيمس وايت، كبير مسؤولي التكنولوجيا في كاليبسو.

في مارس، بدا أن جوجل أعطت الأولوية لمنتجها على السلامة بعد أن الصادر أصدرت أحدث نموذج للذكاء الاصطناعي الخاص بها، جيمينو 2.5، قائلة إنه أكثر نماذج الذكاء الاصطناعي ذكاءً في الشركة. فشلت الشركة في إصدار بطاقة نموذج جيمينو 2.5 لأسابيع، مما يعني أنها لم تشارك معلومات حول كيفية عمل نموذج الذكاء الاصطناعي أو قيوده أو أخطاره المحتملة عند إصداره.

الشركة ويت في 2 أبريل أن الشركة تقيم أكثر نماذجها تقدماً من أجل القدرات الخطرة المحتملة قبل إصدارها. قامت جوجل لاحقاً بتحديث منشور المدلة وحذفت الكلمات "قبل إصدارها."

نشرت الشركة بطاقة نموذج غير مكتملة في 16 أبريل وقامت بتحديثها في 28 أبريل، بعد أكثر من شهر من إصدار نموذج الذكاء الاصطناعي، لتشمل معلومات حول تقييمات القدرات الخطرة لجيمينو 2.5.

تتحول شركات تكنولوجيا الذكاء الاصطناعي من البحث نحو المنتجات المولدة للإيرادات

قال موظفو ميتا السابقون إنهم لم يفاجأوا عندما أعلنت جويل بينو، نائبة رئيس ميتا ورئيسة قسم FAIR بالشركة، . في الشهر الماضي أنها ستغادر منصبها في 30 مايو. ذكروا أنهم رأوا ذلك كتوطيد انتقال الشركة بعيداً عن بحث الذكاء الاصطناعي والتحول نحو إعطاء الأولوية لتطوير المنتجات العملية.

قادت بينو قسم FAIR منذ 2023، ووفقاً للموظفين في ميتا، يمكن لفئات البحث الصغيرة العمل على تقنيات متطورة مختلفة قد تنجح أو لا تنجح. بدأ التحول عندما قامت الشركة التقنية بتسريح 21,000 موظف، أو ما يقرب من ربع قوتها العاملة، في أواخر عام 2022. قال موظفون سابقون على دراية بالموضوع إن باحثي FAIR تم توجيههم للعمل بشكل وثيق مع فرق المنتجات كجزء من إجراءات خفض التكاليف.

قال شخصان على دراية بالموضوع إنه في وقت سابق من هذا العام، غادر كيم هازلوود، أحد مديري FAIR، الشركة كجزء من خطة ميتا لخفض 5% من قوتها العاملة. لاحظ الأشخاص أن إطلاق ChatGPT من قبل OpenAI خلق شعوراً بالإلحاح في ميتا لسكب المزيد من الموارد في نماذج اللغات الكبيرة (LLMs).

كشف الأفراد أيضاً أن كبير مسؤولي المنتجات في ميتا، كريس كوكس، كان يشرف على FAIR لسد الفجوة بين البحث ومجموعة GenAI المركزة على المنتجات. وأضافوا أن GenAI، تحت قيادة كوكس، كانت تسحب المزيد من موارد الحوسبة وأعضاء الفريق من FAIR بسبب مكانتها المرتفعة في الشركة. 

في الشهر الماضي، أعلنت ميتا الصادر أدوات الأمان والسلامة للمطورين لبناء تطبيقات باستخدام نماذج الذكاء الاصطناعي Llama 4 الخاصة بالشركة. قالت ميتا إن الأدوات تساعد في التخفيف من احتمالية تسرب Llama 4 للمعلومات الحساسة عن غير قصد أو إنتاج محتوى ضار.