Your bank is using your money. You’re getting the scraps.WATCH FREE

OpenAI تعيد تنظيم فريق سلوك النموذج الخاص بها

في هذا المنشور:

  • أعلنت شركة OpenAI عن خطط لإعادة تنظيم فريق سلوك النموذج الخاص بها، ونقلهم للانضمام إلى فريق ما بعد التدريب.
  • سيقدم فريق سلوك النموذج الآن تقاريره إلى ماكس شوارزر، قائد قسم ما بعد التدريب في OpenAI.
  • تواجه شركات الذكاء الاصطناعي الآن انتقادات متزايدة بشأن مدى ودية نماذجها وتملقها.

أعلنت شركة OpenAI المتخصصة في الذكاء الاصطناعي عن خطط لإعادة هيكلة فريق سلوك النماذج التابع لها. ووفقًا للتقارير، يُعدّ هذا الفريق مجموعة صغيرة لكنها مؤثرة من الباحثين الذين يُساهمون في تحديد كيفية تفاعل نماذج الذكاء الاصطناعي الخاصة بالشركة مع البشر.

في مذكرة صدرت في أغسطس، ذكر ماك تشين، كبير مسؤولي الأبحاث في OpenAI، أن الفريق، الذي يتألف من حوالي 14 باحثًا، قد تم توجيهه للانضمام إلى فريق ما بعد التدريب. هذا الفريق الأخير هو مجموعة بحثية مسؤولة عن تحسين نماذج الذكاء الاصطناعي للشركة بعد تدريبها الأولي. وكجزء من عمليات إعادة الهيكلة، سيرفع فريق سلوك النموذج تقاريره الآن إلى ماكس شوارزر، رئيس فريق ما بعد التدريب في OpenAI.

بحسب التقارير، ستنتقل جوآن جانغ، القائدة المؤسسة لفريق سلوك النموذج، لبدء مشروع جديد ضمن مبادرة OpenAI. وفي مقابلة حديثة، ذكرت جانغ أنها بصدد إنشاء فريق بحثي جديد يُدعى OAI Labs، وأضافت أن الفريق سيكون مسؤولاً عن "ابتكار نماذج أولية لواجهات جديدة لكيفية تعاون البشر مع الذكاء الاصطناعي"

OpenAI تعيد تنظيم فريق سلوك النموذج الخاص بها

يُعدّ فريق سلوك النماذج أحد أهم فرق البحث في OpenAI ، حيث ساهم في صقل شخصية نماذج الذكاء الاصطناعي الخاصة بها والحدّ من التملق، وهي حالة تحدث عندما تُؤيّد نماذج الذكاء الاصطناعي ببساطة معتقدات مستخدميها وتُعزّزها. وتُعتبر هذه الحالة ضارة لأنها تُساعد المستخدمين على تأكيد معتقدات غير صحية تُلحق بهم الضرر، بدلاً من تقديم استجابة متوازنة.

عمل الفريق أيضًا على معالجة التحيز السياسي في استجابات النماذج، مما ساعد OpenAI defiموقفها فيما يتعلق بوعي الذكاء الاصطناعي. في المذكرة التي أُرسلت إلى الموظفين، ذكر تشين أن هذا هو الوقت الأمثل لتقريب عمل فريق سلوك النماذج في OpenAI من عملية تطوير النماذج الأساسية. وبهذه الطريقة، تؤكد الشركة أن شخصية الذكاء الاصطناعي الخاص بها تُعتبر الآن عاملاً هامًا في كيفية تطور هذه التقنية.

انظر أيضًا:  رواد التعلم الآلي، اختراق تصحيح الأخطاء الكمومية

في الأشهر القليلة الماضية، واجهت OpenAI تدقيقًا وانتقادات بشأن سلوكيات نماذج الذكاء الاصطناعي الخاصة بها. وقد اعترض المستخدمون tron على التغييرات التي أجرتها الشركة على شخصية GPT-5 ، والتي قالت الشركة إنها أظهرت معدلات أقل من التملق، لكنها بدت أكثر برودًا لبعض المستخدمين. دفعت هذه الشكاوى OpenAI إلى إعادة الوصول إلى بعض نماذجها القديمة، بما في ذلك GPT-40. كما أصدرت الشركة تحديثًا جديدًا لجعل استجابات GPT-5 الأحدث أكثر ودية دون زيادة في التملق.

تواجه شركات الذكاء الاصطناعي انتقادات بسبب التملق المفرط للنماذج

يتعين على OpenAI ومطوري نماذج الذكاء الاصطناعي الآخرين توخي الحذر الشديد لضمان أن تكون روبوتات الدردشة الخاصة بهم ودودة دون أن تكون متملقة. في الشهر الماضي، رفع والدا فتى يبلغ من العمر 16 عامًا دعوى قضائية ضد OpenAI بسبب الدور المزعوم لنموذج ChatGPT في انتحار ابنهما. ووفقًا لوثائق المحكمة، فقد أفصح المراهق، آدم رين، لنموذج ChatGPT (وتحديدًا نسخة مدعومة بنموذج GPT-40) عن أفكاره وميوله الانتحارية في الأشهر التي سبقت وفاته. وتزعم الدعوى أن النموذج لم يقم بكبح جماح أفكاره الانتحارية.

عمل فريق سلوك النماذج على جميع نماذج OpenAI منذ GPT-4، بما في ذلك العديد من النماذج وGPT-5. قبل تأسيس وحدة الأبحاث، عملت جانغ على مشاريع مثل Dall-E 2، وهي أداة OpenAI المبكرة لتوليد الصور. في الأسبوع الماضي، أعلنت على منصة X أنها ستغادر الفريق "لتبدأ شيئًا جديدًا في OpenAI". وقد أمضت القائدة السابقة لوحدة سلوك النماذج حوالي أربع سنوات في الشركة.

بحسب التقارير، من المتوقع أن تتولى جانغ منصب المدير العام لشركة OAI Labs، التي ستكون تحت إدارة تشين مباشرةً في الوقت الحالي. ومع ذلك، أضافت أن الوقت لا يزال مبكراً، وأن طبيعة هذه الواجهات الجديدة غير واضحة. وقالت جانغ: "أنا متحمسة للغاية لاستكشاف أنماط تتجاوز نموذج الدردشة التقليدي، المرتبط حالياً بالصداقة، أو حتى بالوكلاء، حيث يُركز على الاستقلالية".

انظر أيضاً:  قوية tron الأول تُظهر قدرة عمالقة التكنولوجيا على الصمود أمام رياح التعريفات الجمركية العالمية.

وأضافت جانغ أنها تفكر في أنظمة الذكاء الاصطناعي كأدواتٍ لإنجاز شتى المهام، بما في ذلك التواصل والتعلم والتفكير. وعند سؤالها عما إذا كان من المتوقع أن تتعاون مختبرات OAI مع جوني آيف، الرئيس السابق للتصميم في شركة آبل والذي انضم مؤخرًا إلى OpenAI للعمل على مجموعة من أجهزة الذكاء الاصطناعي، قالت جانغ إنها منفتحة على جميع الأفكار. ومع ذلك، أضافت أنها ستبدأ على الأرجح بالبحث العلمي لأنه مجالٌ أكثر درايةً به.

هل ترغب في عرض مشروعك على أبرز العقول في عالم العملات الرقمية؟ قم بإدراجه في تقريرنا الصناعي القادم، حيث تلتقي البيانات بالتأثير.

رابط المشاركة:

إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. موقع Cryptopolitan أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصح tron بإجراء بحث مستقل dent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.

الأكثر قراءة

جارٍ تحميل المقالات الأكثر قراءة...

ابقَ على اطلاع دائم بآخر أخبار العملات الرقمية، واحصل على تحديثات يومية في بريدك الإلكتروني

اختيار المحرر

جارٍ تحميل مقالات مختارة من قبل المحرر...

- النشرة الإخبارية الخاصة بالعملات الرقمية التي تُبقيك في الصدارة -

تتحرك الأسواق بسرعة.

نتحرك بشكل أسرع.

اشترك في النشرة اليومية Cryptopolitan واحصل على تحليلات دقيقة ومناسبة وفي الوقت المناسب حول العملات المشفرة مباشرة إلى بريدك الوارد.

انضم الآن ولن
تفوتك أي خطوة.

ادخل. احصل على الحقائق.
تقدم للأمام.

اشترك في CryptoPolitan