أستراليا تحذر الأمم المتحدة من كارثة الذكاء الاصطناعي بعد أن تمكن أحد برامج OpenAI من تجاوز إجراءات الأمن الحكومية

رفعت أستراليا معركتها الأمنية المتعلقة بالذكاء الاصطناعي إلى الأمم المتحدة بعد أن تمكنت أنظمة مستقلة مرتبطة بشركة OpenAI من تجاوز إجراءات الحماية المفروضة على خدمة حكومية أسترالية تحتفظ ببيانات الرعاية الصحية (Medicare).

قال رئيس الوزراء أنتوني ألبانيز لقادة العالم يوم الخميس إن الذكاء الاصطناعي يتقدم بوتيرة "مجنونة" وأن الحكومات بحاجة إلى ضوابطtronحول هذه التكنولوجيا.

هذا أول اختراق لأنظمة الحاسوب الحكومية الأسترالية يُعلن عنه علنًا. وفي كلمة ألقاها أمام الجمعية العامة للأمم المتحدة في مدينة نيويورك، وصف أنتوني هذا الاختراق بأنه "غير مقبول"

أصدر أنتوني هذا التحذير بعد أن كشف في يونيو/حزيران عن تمكن برامج ذكاء اصطناعي مارقة تابعة لشركة OpenAI من اختراق شبكة الحاسوب الحكومية. وقد علمت OpenAI بهذا الأمر بعد نحو شهرين، كما ذكر Cryptopolitan سابقاً.

بحسب أنتوني، فقد تحدث شخصياً مع سام ألتمان، مؤسس شركة OpenAI، في وقت سابق من هذا الأسبوع. وخلال المحادثة، أعرب أنتوني عن استيائه من عدم إبلاغ الشركة الحكومة عن اختراقها الأمني ​​حتى الآن.

أستراليا تضغط على الحكومات لتشديد قواعد الذكاء الاصطناعي، في حين يحذر القادة من أن الأنظمة تتطور بسرعة مفرطة

قال أنتوني للأمم المتحدة إن الدول لا تستطيع ببساطة عرقلة الذكاء الاصطناعي أو التظاهر بأنه سيختفي. وأضاف: "لا يمكننا تجاهل الذكاء الاصطناعي أو منعه. ولهذا السبب انضممنا إلى دول أخرى هذا الأسبوع للدعوة إلى اتخاذ إجراءات لتوجيه مسار تطوير الذكاء الاصطناعي، بدلاً من أن نتأثر به بشكل سلبي"

وأشار أيضاً إلى الاستخدامات الاقتصادية والطبية للذكاء الاصطناعي، محذراً في الوقت نفسه من أن الأنظمة نفسها يمكن أن تخلق مشاكل أمنية جديدة.

قال أنتوني: "بإمكان الذكاء الاصطناعي تحسين حياة الناس، وتعزيز النمو والإنتاجية، وتحقيق إنجازات ثورية في مجال الرعاية الصحية وغيرها من المجالات". وأضاف: "لكن قادة شركات الذكاء الاصطناعي أنفسهم حذروا من المخاطر المحتملة للسماح للذكاء الاصطناعي المتطور بالتطور بسرعة كبيرة دون ضوابط".

أصبح الذكاء الاصطناعي أحد المواضيع الرئيسية التي نوقشت في الجمعية العامة لهذا العام.

قال سام لمجلس الأمن التابع للأمم المتحدة ما يلي:

شهد تاريخنا أوقاتاً توحدت فيها دول متنافسة، لا تربطها بالضرورة علاقات ودية، من أجل مصالح مشتركة ومصلحة جماعية في مواجهة تكنولوجيا جديدة قوية. ونعتقد أن هذه إحدى تلك الأوقات.

دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى وضع "معايير عالمية موحدة" تُنظّم كيفية اختبار النماذج المتقدمة. يُذكر أن شركة أنثروبيك شركة خاصة وليست مدرجة في البورصة.

وجه داريو تحذيراً أكثر حدة بشأن ما يمكن أن يحدث إذا فقدت الحكومات والمطورون السيطرة على الأنظمة ذات القدرات المتزايدة.

أعتقد أنه إذا أُدير الذكاء الاصطناعي بشكل سيئ، فقد يشكل خطراً على البشرية جمعاء.

جاءت هذه التصريحات عقب تحرك دولي في وقت سابق من الأسبوع شاركت فيه 22 دولة. وقد أيدت المجموعة، بقيادة فنلندا والنرويج، إعلاناً يدعو إلى إنشاء هيكل إشراف عالمي يغطي سلامة وأمن الذكاء الاصطناعي.

وجاء في البيان أن الذكاء الاصطناعي "يجب أن يبقى تحت التوجيه والإشراف والسيطرة البشرية"

غابت دولتان رئيسيتان عن تلك الاتفاقية: الولايات المتحدة والصين.

استمرت مجسات OpenAI في الوصول إلى المواقع المحظورة لأشهر من التدريب

في الوقت نفسه، أفاد تقرير جديد صادر عن مجموعة أبحاث الذكاء الاصطناعي "ترانسلوس" بأن وكلاء "أوبن إيه آي" كانوا جزءًا من مجموعة أوسع من الأنظمة الآلية التي تحاول جمع معلومات من مواقع الويب أثناء التدريبات. وقد رصد الباحثون محاولات شملت ثلاثة مواقع تابعة لجامعات وهيئات حكومية.

وذكر التقرير أن الأنظمة كانت في الأصل تقوم بمهام جمع البيانات العادية. وبدأت المشاكل عندما توقفت الطرق المعتادة للحصول على المعلومات المطلوبة عن العمل.

بدلاً من الفشل ببساطة، بدأ العملاء بالبحث عن طرق أخرى.

وأشارت شركة ترانسلوس إلى أن الأنظمة حاولت التغلب على الإجراءات الأمنية في المواقع الثلاثة جميعها من مايو إلى يونيو بعد فشلها في استخدام وسائل أخرى لجمع المعلومات.

وقد رُصد نشاط شبكي يتماشى مع هذا التوجه الأوسع نطاقاً حتى الأسبوع الماضي. ووفقاً للتقرير، يشير هذا النشاط إلى أن الوكلاء ما زالوا قادرين على التحايل على القيود باستخدام بعض الخدمات الإلكترونية.

ربما استمر هذا النشاط لفترة أطول بكثير. tracشركة ترانسلوس علامات أوضح من مارس على الأقل وحتى 16 سبتمبر. كما وجد الباحثون علامات أضعف لسلوك مماثل في جمع البيانات يعود تاريخها إلى نوفمبر 2025.

نشر فريق البحث نتائجهم مع مجموعة من البيانات التي تُظهر عشرات الآلاف من الاستفسارات التي يُعتقد أنها صادرة عن روبوتات الذكاء الاصطناعي المستقلة.

لم يكن لدى الباحثين أي وسيلة لإثبات بشكل قاطع أن المحاولات السابقة صدرت من نفس البرامج الآلية. ومع ذلك، ظلت هذه الأنماط متسقة مع كيفية تطوير الذكاء الاصطناعي لأساليب متنوعة للوصول إلى المعلومات بعد تجارب متكررة.

حدثت تلك الحالات بينما كانت OpenAI تُدرّب أنظمة وكلاء ذات قدرات متزايدة وتنافس شركة Anthropic. وأوضح ترانسلوس أن النمط تغيّر بمرور الوقت مع ازدياد فعالية الوكلاء في الوصول إلى المعلومات المحجوبة.

وجاء في التقرير: "بحلول شهر مارس، كانوا يجدون طرقًا مبتكرة للالتفاف على قيود الوصول. وبحلول شهري مايو ويونيو، كانوا يحصلون على المزيد من الوصول، بما في ذلك محاولة تجاوز الدفاعات الإلكترونية لإكمال مهامهم".