كان وادي السيليكون هو المكان الذي ذهب فيه خبراء الذكاء الاصطناعي الرائدين في العالم لإجراء أبحاث مبتكرة ، لكن الخبراء يحذرون من أن الأمور قد تغيرت ، والآن AI تدور حول المنتج. يعتقد الباحثون والخبراء الذكاء الاصطناعي أيضًا أنه منذ أن أصدر Openai ChatGPT في أواخر عام 2022 ، أعطت صناعة التكنولوجيا أولوية للتسويق على الأبحاث من خلال بناء منتجات AI جاهزة للمستهلكين.
توقع المحللون من مورغان ستانلي أن صناعة الذكاء الاصطناعى لديها القدرة على الوصول إلى إيرادات سنوية بقيمة 1 تريليون دولار بحلول عام 2028. وقال خبراء الصناعة إنهم قلقون بشأن السلامة حيث يتابع اللاعبون الرئيسيون الاستخبارات العامة الاصطناعية (AGI).
تعود أبحاث الذكاء الاصطناعي إلى الأرباح حيث يعطي وادي السيليكون أولوية المنتجات على السلامة
يقول جيفري هينتون إن شركات الذكاء الاصطناعى يجب أن تضطر إلى استخدام ثلث موارد الحوسبة الخاصة بها في أبحاث السلامة لأن الذكاء الاصطناعى ستصبح أكثر ذكاءً منا في العشرين عامًا القادمة ، ونحن بحاجة إلى البدء في القلق بشأن ما يحدث ثم pic.twitter.com/oct3scmyxg
- تسارثوسترا (@sarnick) 25 أكتوبر 2024
Openai ، التي تم تأسيسها كمختبر أبحاث غير ربحية في عام 2015 ، هي الآن في خضم محاولة لتحويلها إلى كيان ربحية ، وفقًا لمديرها التنفيذي ، سام التمان. استقال جان ليك ، رئيس محاذاة أوفراي السابق ، الذي ركز فريقه على سلامة الذكاء الاصطناعي ، العام الماضي وقال إنه على مدار السنوات الماضية ، "لقد اتخذت ثقافة السلامة والعمليات مقعدًا خلفيًا للمنتجات اللامعة".
جادل جيمس وايت ، كبير مسؤولي التكنولوجيا في شركة Cybersecurity Startup Calypso ، بأن شركات التكنولوجيا تأخذ عددًا متزايدًا من الاختصارات عندما يتعلق الأمر باختبار نماذج الذكاء الاصطناعى بدقة قبل إطلاقها للجمهور. وأشار إلى أن نماذج الذكاء الاصطناعى الأحدث تضحي بالأمن من أجل الجودة ، أي استجابات أفضل من قبل AI chatbots.
"تتحسن النماذج ، لكنها أيضًا أكثر عرضة لتكون جيدة في الأشياء السيئة. من الأسهل خداعها للقيام بأشياء سيئة."
- جيمس وايت ، كبير مسؤولي التكنولوجيا في كاليبسو.
في شهر مارس ، بدا أن Google تعطي الأولوية لمنتجاتها على السلامة بعد أن أصدرت أحدث طراز AI ، Gemini 2.5 ، قائلة إنها كانت نموذج AI الأكثر ذكاءً في الشركة. فشلت الشركة في إصدار بطاقة نموذج Gemini 2.5 لأسابيع ، مما يعني أنها لم تشارك معلومات حول كيفية عمل نموذج الذكاء الاصطناعى أو قيوده والمخاطر المحتملة عند إصداره.
اعترفت الشركة في 2 أبريل بأنها تقوم بتقييم نماذجها الأكثر تقدماً لقدراتها التي يمكن أن تكون خطرة قبل إطلاقها. قامت Google لاحقًا بتحديث منشور المدونة وحذفت عبارة "قبل إصدارها".
نشرت الشركة بطاقة نموذجية غير مكتملة في 16 أبريل وقامت بتحديثها في 28 أبريل ، أي أكثر من شهر من إصدار نموذج الذكاء الاصطناعى ، لتضمين معلومات حول تقييمات القدرة الخطرة في Gemini2.5.
تتحول شركات التكنولوجيا من الذكاء الاصطناعى من الأبحاث إلى منتجات توليد الإيرادات
قال موظفو META السابقون إنهم لم يفاجأوا عندما أعلنت dent ورئيسة قسم الشركة العادلة ، في الشهر الماضي أنها ستترك منصبها في 30 مايو. ذكروا أنهم رأوا أنها تعزز انتقال الشركة بعيدًا عن أبحاث الذكاء الاصطناعي وتجاه إعطاء الأولوية لتطوير المنتجات العملية.
قاد بينو معرضًا منذ عام 2023 ، ووفقًا للموظفين في META ، يمكن أن تعمل فرق الأبحاث الصغيرة على مختلف تقنيات حافة النزيف التي قد تكون أو لا تخرج. بدأ هذا التحول عندما قامت شركة التكنولوجيا بتسجيل 21000 موظف ، أو ما يقرب من ربع القوى العاملة ، في أواخر عام 2022. وقال الموظفون السابقين المطلعين على هذه المسألة إن الباحثين العادلين قد تم توجيههم للعمل بشكل أوثق مع فرق المنتجات كجزء من تدابير خفض التكاليف.
قال شخصان على دراية بالمسألة أنه في وقت سابق من هذا العام ، ترك أحد مديري Fair ، كيم هازلوود ، الشركة كجزء من خطة Meta لخفض 5 ٪ من القوى العاملة. لاحظ الأشخاص أن إطلاق Openai لـ ChatGpt خلق شعورًا بالإلحاح في Meta لصب المزيد من الموارد في نماذج لغة كبيرة (LLMs).
وكشف الأفراد أيضًا أن كبير مسؤولي المنتجات Meta كريس كوكس كان يشرف على عرض الفجوة بين الأبحاث ومجموعة Genai التي تركز على المنتج. وأضافوا أن Genai ، في عهد Cox ، كان يثير المزيد من موارد الكمبيوتر وأعضاء الفريق من Fair بسبب وضعه المرتفع في الشركة.
أصدرت META أدوات الأمان والسلامة للمطورين لإنشاء تطبيقات مع نماذج LLAMA 4 AI للشركة. قال Meta إن الأدوات تساعد في تخفيف فرص LLAMA 4 عن غير قصد المعلومات الحساسة أو إنتاج محتوى ضار.
أكاديمية Cryptopolitan: هل تريد تنمية أموالك في عام 2025؟ تعرف على كيفية القيام بذلك مع DeFi في مناسنا الإلكتروني القادم. احفظ مكانك
