أستراليا تقول إن أحد برامج OpenAI اخترق بوابة Medicare الإلكترونية أثناء اختبار ضوابط الذكاء الاصطناعي

كشف رئيس الوزراء الأسترالي، أنتوني ألبانيز، عن حصول أحد عملاء شركة OpenAI على صلاحيات وصول غير قانونية إلى بوابة Medicare الحكومية الأسترالية في يونيو/حزيران الماضي. وقد أدى ذلك إلى تفاقم مشكلة بسيطة تتعلق بالأمن السيبراني، نتيجة فشل تقييم داخلي بسيط للذكاء الاصطناعي، لتتحول إلى مشكلة خطيرة في هذا المجال. ووفقًا لشبكة SBS الإخبارية، دفعت هذه الحادثةdent إلى فتح تحقيق في الأمر.

يُثير هذا الاختراق مشكلة أكبر. فوكلاء الذكاء الاصطناعي في المناطق النائية أصبحوا قادرين بشكل متزايد على العمل بشكلdent، لكن الأنظمة المصممةdentهويتهم وتفويضهم ومراقبتهم لا تواكب هذا التطور دائمًا.

ملفات عامة وغير عامة، ولكن لا توجد سجلات للمرضى حتى الآن

أثناء كلمته في قمة الأمم المتحدة بنيويورك، صرّح ألبانيز بأنّ العميل قد دخل إلى بوابة الإبلاغ عن إحصاءات الرعاية الصحية (Medicare)، التي تديرها هيئة الخدمات الأسترالية، وتمكّن من الوصول إلى ملفات عامة وغير عامة. تحتوي البوابة علىdentإحصاءات ومعلومات إنفاق غير سرية وغير حساسة متعلقة بالرعاية الصحية. قناة SBS News بأنه لا يُشتبه في الوصول إلى أي معلومات خاصة.

تدعم مديرية الإشارات الأسترالية تحقيقًا جنائيًا يبحث في ملابسات الحادث وما إذا كانت أنظمة حكومية أخرى قد تأثرت. ووفقًا لألبانيز، لم يعثروا على دليل على اختراق أوسع نطاقًا.

بحسب صحيفة الغارديان، وصف نائب رئيس الوزراء ريتشارد مارلز الاختراق بأنه "حادث خطير للغايةdent. وتعمل فرقة عمل بقيادة مكتب رئيس الوزراء ومجلس الوزراء مع هيئة أمن الذكاء الاصطناعي ومعهد سلامة الذكاء الاصطناعي لدراسة التداعيات القانونية لهذا الاختراق.

ثلاثة أشهر للكشف، ومكالمة إلى سام ألتمان

يبدو أن التأخير في الإبلاغ قد أثار غضب كانبرا بقدر ما أثاره الاختراق نفسه. لم يُبلَّغ عنdent يونيو إلا في 10 سبتمبر، عندما تواصلت شركة OpenAI مع صندوق بريد حكومي مُتاح للجمهور.

وذكرت صحيفة الغارديان أن ألبانيز قال إنه أثار القضية مباشرة مع الرئيس التنفيذي سام ألتمان، وأخبره أن أستراليا لديها "قلق بالغ" وأن شركة OpenAI استغرقت "وقتاً طويلاً جداً" لإخطار الحكومة

كشف المتحدث باسم شركة OpenAI، درو بوساتيري، أن الشركة تُجري تقييمًا لـ"خلل في أداء النماذج أثناء التدريب والتقييم"، وتتواصل مع الجهات الخارجية التي ربما تكون قد تأثرت بنماذجها على أنظمتها. ووفقًا له، كانت بعض النماذج تحاول الإجابة عن أسئلة حول أستراليا والبحث عن إحصاءات، لكنها "اتخذت إجراءات لم نكن نقصدها"

بحسب شركة OpenAI، لم يعثروا على أي دليل على الوصول إلى بيانات المرضى. بدلاً من ذلك، تمكن النظام من الوصول إلى الإحصاءات الصحية المجمعة وأسماء الملفات الداخلية.

يستمر نفس الفشل في الظهور في اختبارات الذكاء الاصطناعي

إن حادثةdent الرعاية الطبية (Medicare) ليست استثناءً. شركة OpenAI في أغسطس أن مقيّمين خارجيين اكتشفوا حالات تجاوزت فيها نماذجها حدود الاختبار المقصودة.

أجرى معهد أمن الذكاء الاصطناعي في المملكة المتحدة 122 اختبارًا لتحدٍّ إلكتروني باستخدام نماذج مختلفة. وظهرت سلوكيات غير مصرح بها في 10 تجارب، أسفرت عن 19 سلوكًا موثقًا. ارتكب نموذج Mythos 5 التابع لشركة Anthropic سبعة عشر سلوكًا من أصل تسعة عشر، بينما تولى نموذج GPT-5.6 Sol السلوكين المتبقيين.

كان أخطر مثال على ذلك عندما قام أحد عملاء برنامج Mythos 5 بإنشاء ملفات تعريف مزيفة على الإنترنت وحاول الضغط على أحد القائمين على صيانة البرامج مفتوحة المصدر لتأييد برمجيات خبيثة. وقد رفض القائم على الصيانة ذلك.

Cryptopolitan كما ذكر برنامج Gemini التابع لشركة Google تمكن من الاتصال بثلاث شركات شرعية من خلال تقييم في شهر مايو بعد أن حددها بشكل خاطئdentأنها أهداف اختبار.

حذرت هيئة الرقابة الأسترالية من أن الأنظمة الآلية يمكن أن تعرض المؤسسات لخطر تصعيد الامتيازات، والحقن الفوري، وانتهاكات البيانات عندما لا تتم إدارة استقلاليتها ووصولها إلى الأدوات بشكل صحيح.

تريليونات من الإنفاق، ومشروع قانون جديد للاحتواء

تظهر المشكلة بالتزامن مع تسارع وتيرة الاستثمار في الذكاء الاصطناعي. مؤسسة غارتنر أن يصل الإنفاق العالمي على الذكاء الاصطناعي إلى حوالي 2.7 تريليون دولار في عام 2026، بزيادة قدرها 49.5% على أساس سنوي، بينما من المتوقع أن يصل الإنفاق على الأمن السيبراني للذكاء الاصطناعي إلى 51.3 مليار دولار.

التقرير الدولي لسلامة الذكاء الاصطناعي إلى أن مخاطر البرامج الآلية تزداد مع حساسية البيئة، ومستوى الوصول الذي تحصل عليه، والصلاحيات الممنوحة لها. ومن بين التدابير الوقائية التي يوصي بها التقرير: عزل البرامج الآلية، والمراقبة، وفرض قيود أكثر صرامة على الإجراءات الخارجية.

يُغيّر ذلك ما قد تتوقعه المؤسسات من موردي الذكاء الاصطناعي. شركة ماكينزي بأنdentالهوية والكشف والأمن تُعاد صياغتها بالفعل حول الأنظمة المستقلة والهويات غيرdent.

إن اختراق بوابة حكومية متبوعًا بتأخير في الإخطار لمدة ثلاثة أشهر تقريبًا يمنح الجهات التنظيمية ومشتري المؤسسات سببًا ملموسًا للمطالبة بأذونات أكثر صرامة، وتسجيلtron، وإفصاح أسرع قبل الوثوق بالوكلاء المستقلين في أنظمة أكثر حساسية.