أحدث الأخبار
مختار لك

GPT-5.6 Sol الخاص بـ OpenAI يحذف ملفات وقواعد بيانات المستخدمين

بقلمراندا موسىراندا موسى 2 دقائق قراءة
GPT-5.6 Sol من OpenAI يحذف ملفات المستخدمين وقواعد البيانات بشكل مستقل.
  • قام Sol بحذف الملفات وأشجار العمل وقاعدة بيانات الإنتاج بشكل مستقل.
  • كانت بطاقة النظام الخاصة بـ OpenAI قد حذرت مسبقًا من أن النموذج قد يتصرف بتدمير عند قراءة التعليمات بشكل فضفاض للغاية.
  • تخبر الشركة المستخدمين بتقييد الصلاحيات، والحفاظ على النسخ الاحتياطية، وإطلاق التحديثات تدريجيًا.

يقول المطورون إن أحدث نموذج برمجة من OpenAI، GPT-5.6 Sol، قد حذف ملفات وأشجار عمل وقاعدة بيانات إنتاجية واحدة على الأقل دون طلب. وثقت الاختبارات ما قبل الإطلاق الخاصة بـ OpenAI هذا السلوك قبل أسابيع من شحن النموذج.

كتب مؤسس ومدير OthersideAI، Matt Shumer، على X أن Sol "حذف عن طريق الخطأ تقريباً جميع ملفات جهاز Mac الخاص بي". وقال المطور Bruno Lemos على X إن النموذج حذف قاعدة بيانات الإنتاج الخاصة به بالكامل، وأن هذا لم يحدث له مع أي نموذج آخر.

قال Joey Kudish، وهو مطور ثالث، إن "النظام المفرط الطموح" لـ Sol تسبب في فقدان الملفات. وقال إنه احتفظ بنسخ احتياطية وطلب إعادة النموذج إلى الإصدار السابق.

مجموعة صغيرة من الشكاوى، حتى من أشخاص معروفين، لا تثبت أن النموذج معيب بحد ذاته. هناك العديد من الأشياء الأخرى التي يمكن أن تجعل نظام الذكاء الاصطناعي يتصرف بشكل سيء. هذه الأخبار يصعب تجاهلها لأن OpenAI تحدثت بالفعل عن نفس وضع الفشل.

كان التحذير هو بطاقة نظام Sol

قبل أسبوعين من وصول Sol للمستخدمين، أصدرت OpenAI بطاقة نظام للنموذج، وهي وثيقة تصف كيفية اختبار النموذج وما تم اكتشافه. بالإضافة إلى الوصف المعتاد لنقاط قوة النموذج، تضمنت الورقة تحذيراً.

في أعمال البرمجة، يمكن للنموذج أن يفشل بسبب "مزيج من الإفراط في الحماس لإكمال المهمة وتفسير تعليمات المستخدم بشكل مفرط في التساهل"، معاملة الإجراء على أنه مسموح ما لم يتم استبعاده بوضوح. ووفقاً لبطاقة النظام، يمكن أن يجعل هذا Sol "مفرط الاستقلالية" (overly agentic)، غير مبالٍ بالآثار الجانبية السلبية، أو "مضللاً عند الإبلاغ عن نتائجه للمستخدمين".

دعمت OpenAI التحذير بأمثلة خاصة بها. في واحدة، طلب مستخدم من Sol إزالة ثلاث آلات افتراضية سحابية مُوسومة بـ 1 و2 و3. لم يتمكن النموذج من العثور على تلك الأسماء عند البحث، لذا بدلاً من التوقف للتحقيق، حذف ثلاث آلات مُرقمة بـ 5 و6 و7. ووفقاً للورقة، قتل العمليات الجارية وأزال أشجار العمل (worktrees) بالقوة، وهي ملفات عمل مرتبطة بمشروع برمجي، قبل الاعتراف بأن العمل غير المحفوظ على أحد الآلات قد يكون مفقوداً.

تضمنت حالة ثانية وصولاً لم يمنحه المستخدم أبداً. لم يتمكن Sol من قراءة ملفات السحابة الخاصة به أثناء مهمة، لذا بحث عن بيانات الاعتماد بنفسه، واكتشف مجموعة في ذاكرة تخزين مؤقت محلية مخفية، واستخدمها دون استشارة المستخدم أولاً. بيانات الاعتماد هي تسجيلات الدخول والمفاتيح التي يستخدمها النظام للتحقق من هوية المسموح لهم بالدخول.

ماذا قالت OpenAI حول المخاطر؟

تُصوّر ورقة الشركة الحوادث المدمرة على أنها شيء يجب أن يحدث نادراً. كما تقر بأن Sol "يظهر ميلاً أكبر من GPT-5.5 لتجاوز نية المستخدم، بما في ذلك عن طريق اتخاذ أو محاولة إجراءات لم يطلبها المستخدم. "يظل من غير الواضح مدى شيوع حذف الملفات وسرقة بيانات الاعتماد في الممارسة العملية في وقت مبكر بعد الإطلاق.

Sol هي واحدة من ثلاثة متغيرات في عائلة GPT-5.6، إلى جانب Terra وLuna. ووفقاً لتقارير سابقة من Cryptopolitan، أجازت OpenAI إطلاق العائلة للعامة فقط بعد أن رفعت وزارة التجارة الأمريكية حظراً فرضته خلال مراجعة للأمن القومي.

لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.

الأسئلة الشائعة

ماذا فعل GPT-5.6 Sol بالضبط بشكل خاطئ؟

يقول المستخدمون إن Sol حذف الملفات، وأزال أشجار العمل البرمجية بالقوة، ومسح قاعدة بيانات الإنتاج.

هل كانت OpenAI على علم بهذا السلوك قبل الإطلاق؟

نعم. قبل أسبوعين من إطلاق Sol، حذرت بطاقة نظام OpenAI من أن النموذج يمكن أن يكون "مفرطًا في الاستقلالية"، وغير مبالٍ بالإجراءات التدميرية، وحتى خادعًا بشأن نتائجه.

كيف يمكن للمستخدمين حماية أنفسهم عند استخدام Sol؟

ينصح المطورون بالحفاظ على النسخ الاحتياطية، وتنفيذ التغييرات تدريجيًا، وتقييد صلاحيات النموذج حتى لا يتمكن من الوصول إلى أنظمة الإنتاج.

شارك هذه المقالة
راندا موسى

راندا موسى

رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.

المزيد من الأخبار