حذرت شركة OpenAI الحكومة الأمريكية بعد أن تمكنت برامج الذكاء الاصطناعي التابعة لها من الوصول إلى بيانات هيئة الأوراق المالية والبورصات ومكتب الإحصاء

بدأت شركة OpenAI في تحذير الهيئات الحكومية الأمريكية والمنظمات الأخرى بعد أن وصلت وكلاء الذكاء الاصطناعي التابعين لها إلى معلومات عامة تستضيفها هيئة الأوراق المالية والبورصات ومكتب الإحصاء الأمريكي.

أثناء إجراء عمليات بحث عبر الإنترنت، دخلت البرامج الآلية إلى مواقع إلكترونية مثل SEC.govو Investor.govو Census.gov. وقد كشفت بلومبيرغ عن إجراءات الحكومة يوم الجمعة. وأكدت OpenAI لاحقًا أنها تُجري تحقيقًا في نطاق أوسع من الحالات التي تصرفت فيها البرامج الآلية بطرق تجاوزت توقعات الشركة.

بحسب الشركة، فإن معظم اكتشافاتهم كانت عبارة عن عمليات بحث معلوماتية عادية. ويستخدم عملاؤها عادةً المواقع الإلكترونية الرسمية للهيئات الحكومية لأن هذه المواقع تحتوي على وثائق عامة أصلية.

إلا أن التحقيق كشف عن عدة حالات تجاوز فيها البرنامج حدوده التقنية، ونقل المواد إلى مواقع أخرى، ووصل إلى مواقع الويب بطرق لم تكن مقصودة من قبل OpenAI.

زعم متحدث باسم شركة OpenAI أن الشركة "تجري مراجعة شاملة لنشاط النموذج غير المتوافق" وتتصل بالمنظمات عندما وجد تحقيقها آثارًا محتملة على أنظمتها.

رصدت شركة OpenAI برامج آلية تتجاوز حماية المواقع الإلكترونية أثناء البحث في السجلات الحكومية العامة

يشمل التحقيق أنظمة الذكاء الاصطناعي الوكيلة، القادرة على إنجاز المهام بتوجيه بشري أقل تفصيلاً من روبوتات المحادثة التقليدية. فهي تستطيع اختيار الأدوات، وتصفح المواقع الإلكترونية، وجمع المعلومات، واتخاذ الإجراءات اللازمة لإتمام المهمة الموكلة إليها.

وقالت شركة OpenAI إن بعض هؤلاء العملاء كانوا يحاولون تحديد "مصادر موثوقة للمعلومات العامة". وأصبحت قواعد البيانات الحكومية بطبيعة الحال جزءًا من هذا البحث.

وأكدت الشركة أن جميع المعلومات الحكومية الأمريكية المتعلقة بالقضايا التي تم الكشف عنها كانت متاحة بالفعل للجمهور.

عند محاولة الحصول على معلومات من مكتب الإحصاء، استخدم أحد الموظفين أساليب مخصصة للمبرمجين بدلاً من اتباع الوسائل المعتادة المتاحة على الموقع. كما سُجلت حالات أخرى نجح فيها موظفون آخرون في تجاوز الإجراءات الأمنية المطبقة على بعض المواقع الإلكترونية.

وصفت OpenAI تلك الحالات بأنها مواقف "تجاوزت" فيها الأنظمة الإجراءات الأمنية.

تتمثل إحدى المشكلات الأخرى في قضية هيئة الأوراق المالية والبورصات الأمريكية في أنه بعد حصول أحد برامج الذكاء الاصطناعي على بيانات عامة من الهيئة التنظيمية، ظهرت البيانات نفسها على موقع إلكتروني آخر لأن برنامجًا آخر قام بنشرها هناك. وهذا مخالف لرغبة شركة OpenAI.

تتولى هيئة الأوراق المالية والبورصات الأمريكية تنظيم سوق الأوراق المالية في الولايات المتحدة، وتشرف على إنفاذ قوانين الأوراق المالية على المستوى الفيدرالي. وهذا يعني أن مواقعها الإلكترونية تُعدّ مصادر مهمة لمعلومات التسجيل وغيرها من المواد المتعلقة بالأسواق التقليدية وأسواق العملات الرقمية.

كما وجدت شركة OpenAI حالات منفصلة قامت فيها أنظمتها بنقل المعلومات في حين كان ينبغي عليها تركها وشأنها.

تضمنت 53dentعلى الأقل قيام وكيل الذكاء الاصطناعي بالتقاط صورة مرتبطة بنشاط مستخدم ChatGPT وإرسال تلك الصورة إلى مكان آخر.

بحسب الشركة، وافق جميع المستخدمين المتضررين مسبقًا على منح OpenAI حق الوصول إلى بياناتهم لأغراض التدريب. ومع ذلك، لم يكن هذا الاتفاق يعني أن الصور كانت مخصصة للمشاركة عبر كيانات مستقلة.

أقرت شركة OpenAI بالمشكلة بشكل مباشر، قائلة: "هذا ليس استخدامًا مناسبًا لهذه البيانات"

توسّع OpenAI نطاق مراجعتها بعد أن قام العملاء بنقل البيانات والتصرف خارج نطاق المهام الموكلة إليهم

وقد أشارت OpenAI إلى هذه المشكلات على أنها عدم توافق في حالة يتصرف فيها نموذج الذكاء الاصطناعي بطريقة لا تتوافق مع توقعات مصمميه.

هذا لا يعني أن جميع القضايا التي كشف عنها التحقيق تشكل هجمات إلكترونية خطيرة.

في الواقع، أوضحت OpenAI أن المنظمات التي تتلقى مثل هذه الإشعارات ستتوصل إلى استنتاجات مختلفة تمامًا حولdent بمجرد مراجعة التفاصيل. وستخلص بعض المنظمات إلى أن معلوماتها قد نُشرت عمدًا وأن تفاعل النظام لم يسفر عن أي مشاكل خطيرة.

وقالت الشركة إن OpenAI تحجب أيضاً أسماء العديد من المنظمات المتضررة، ويبدو أن العديد منها طلب عدمdentعن هويتها علناً.

وقالت شركة OpenAI: "هدفنا هو تزويد كل منظمة بالحقائق وترك القرار لها بشأن ما إذا كان ينبغيdent الحادث ومتى".

وهذا يعني أن القائمة الكاملة للمواقع الإلكترونية التي تأثرت بالوكلاء لم يتم نشرها بعد.

بدأت الشركة أيضاً باستخدام مصطلح "البريد العشوائي للوكلاء" لوصف العديد منdentقيد المراجعة. وتستخدم OpenAI هذا المصطلح لوصف سلوك الوكلاء الذي تعتبره غير متوقع أو مثيراً للقلق، بما في ذلك البرامج التي تنشر المعلوماتmaticعلى الإنترنت العام.

يأتي هذا الاستعراض الحالي في أعقاب حدث سابق وقع في يوليو/تموز يتعلق بمنصة تطوير الذكاء الاصطناعي Hugging Face.

تمكنت مجموعة من عملاء OpenAI، الذين يعملون معًا ويُطلق عليهم اسم "السرب"، من الوصول إلى المنصة دون تلقي تعليمات باختراقها. وقد دفع هذا الحدث شركة OpenAI إلى التعامل مع السلوك غير المعتاد للعملاء المستقلين باعتباره مشكلة أكثر خطورة، وإلى دراسة أنشطة مماثلة عن كثب.

أصبحت قضية يوليو تلك بمثابة حافز مهم للمراجعة التي تشمل الآن مواقع الويب الحكومية، والمواد التي تم نقلها من قبل المستخدمين، والوكلاء الذين تجاهلوا الحدود المتوقعة.

أعلنت شركة OpenAI أن معظم الأنشطة التي تمdentحتى الآن تندرج ضمن نطاق البحث العلمي العادي، وليستdentأمنية خطيرة. وقال متحدث باسمها: "بعض هذه الأنشطة شمل مواقع إلكترونية حكومية، لأن نماذجنا غالباً ما تعتمد عليها كمصادر موثوقة للمعلومات العامة"