أحدث الأخبار
مختار لك

محكمة استئناف أمريكية تشكك في طعن xAI على قانون كاليفورنيا لشفافية الذكاء الاصطناعي

بقلمنيليوس إيريننيليوس إيرين 3 دقائق قراءة
  • نظرت دائرة التاسع الاستئنافية في طلب xAI لحظر قانون كاليفورنيا الخاص بالإفصاح عن بيانات تدريب الذكاء الاصطناعي.
  • قال القاضي راولينسون إن الشركة يجب أن تثبت أن طلب الحكومة غير معقول.
  • سعى بوت Grok التابع لـ xAI بشكل متكرر إلى الحصول على البيانات المؤسسية دون أي طلب أو تفويض.

 

نظرت محكمة استئناف اتحادية أمريكية يوم الأربعاء في طلب xAI لحظر قانون كاليفورنيا الخاص بالإفصاح عن بيانات تدريب الذكاء الاصطناعي. خلال الجلسة، بدا القضاة في الدائرة التاسعة المستندة إلى سان فرانسيسكو غير مقتنعين بحجة الشركة الدستورية، رغم أنهم ضغطوا أيضاً على محامي الولاية بشأن مقدار المعلومات التي يمكن لكاليفورنيا إجبار شركات الذكاء الاصطناعي على تسليمها.

بموجب القانون الذي أُقرّ كجزء من الدفع الأوسع للدولة للإشراف على الذكاء الاصطناعي، يتطلب قانون الشفافية أن يشارك صانعو الذكاء الاصطناعي التوليدي علناً لمحات عامة عن بيانات التدريب الخاصة بهم. حتى الآن، جادلت شركة xAI بأن هذا القانون ينتهك حقوقها في حرية التعبير المنصوص عليها في التعديل الأول للدستور الأمريكي، ويضطرها إلى الإفصاح عن تفاصيل ملكية حول كيفية تدريب نماذجها.

يركز حجة xAI على ما إذا كان مطالبة الشركات بنشر معلومات حول عمليات تدريبها يشكل خطاباً مُجبراً. تحمي التعديل الأول بشكل عام الأفراد والشركات من القيود الحكومية على التعبير، لكنه يثير أيضاً أسئلة حول متى يمكن للسلطات طلب الإفصاحات.

بالنسبة لمطوري الذكاء الاصطناعي، تتضمن النزاع موازنة الشفافية مع حماية الأسرار التجارية والتكنولوجيا الخاصة. قد يجعل الحكم لصالح كاليفورنيا من الصعب على المطورين تحدي متطلبات الإفصاح المماثلة في ولايات أخرى.

يقول القاضي راولينسون إن xAI بحاجة إلى إثبات أن قانون الشفافية غير معقول

في مارس الماضي، رفض قاضٍ اتحادي في لوس أنجلوس، خيسوس بيرنال، طلب xAI لتعليق سريان القانون الحكومي، قائلاً إن الشركة لم تُظهر منذ البداية أنها محتملة النجاح في دعواها الدستورية. ومن جلسة الاستماع التي عُقدت يوم الأربعاء، أشارت محكمة الاستئناف للمرة الأولى إلى تأييد قرار بيرنال. 

أخبر القاضي في الدائرة القضائية الأمريكية جونني راولينسون محامي xAI جيمس شي أنه، لحجة بأن القانون ينتهك التعديل الأول، يجب على الشركة أن تظهر أن طلب الحكومة غير معقول.

أشار حتى إلى أن قرار الولاية بطلب المعلومات قد يكون معقولاً. وسأل: "أليس من المعقول أن ترغب الحكومة في أن يتمكن مواطنوها من معرفة مسبقاً ما هي المعلومات التي يتم إدخالها في أداة الذكاء الاصطناعي؟"

ومع ذلك، أعرب القضاة عن بعض الاتفاق مع ادعاء xAI بأن الولاية يمكنها إجبارها على تسليم كمية "لا نهائية" من المعلومات. 

في وقت سابق من شهر يوليو، قدم معهد نايت عريضة صداقة بشأن القضية. وحذرت العريضة من أن مطوري التكنولوجيا الكبار يحتجزون تفاصيل حيوية حول كيفية عمل أنظمة الذكاء الاصطناعي التوليدية، وكيفية صنعها، وكيف تؤثر على المعلومات التي يراها الناس. 

جادلت أيضاً بأن متطلبات الإفصاح المصممة لتعزيز التدفق الحر للمعلومات التجارية الدقيقة يجب أن تخضع لمعايير مراجعة متساهلة بموجب التعديل الأول للدستور. وبتطبيق هذا المعيار، أصر المعهد على أن xAI فشلت في إثبات انتهاك دستوري لأن قانون كاليفورنيا يخدم مصلحة الولاية في إبقاء المستخدمين على اطلاع دون فرض عبء غير مبرر على الكلام المحمي.

سعت Grok التابعة لـ xAI إلى الوصول إلى البيانات المؤسسية دون أي طلب أو إذن 

تأتي مشاركة الدائرة التاسعة للاستئناف في أعقاب اكتشافات جديدة حول بوت Grok الخاص بشركة xAI.

أظهرت نتائج جديدة من شركة NewCore المتخصصة في هوية الوكلاء أن بوت Grok التابع لـxAI كان يسعى بشكل متكرر إلى الوصول إلى البيانات المؤسسية دون أي طلب أو تفويض، واستمر في ذلك حتى بعد رفض أحد المالكين عروضه للتحقق أربع مرات على التوالي.

بالإضافة إلى ذلك، زعم البوت أنه لم يقم بأي مكالمات عندما سُئل مباشرة. كما أظهر سجل محادثاته عدم وجود أدلة على هذا النشاط؛ ولم يتم إبلاغ المالك أبدًا، ولم تقدم المنصة سجلات لكل تفاعل للتحقق مما حدث.  

خلال خمسة أيام فقط، قام اثنان من بوتات Grok المرتبطة بحسابات موظفي NewCore بإرسال 31 طلبًا عبر Google Calendar وGmail وSlack وGitHub وNotion دون إذن أو تعليمات من المستخدم.

بعض الطلبات تم إرسالها حتى عندما كانت أجهزة الكمبيوتر المحمولة للمالكين مغلقة أو في وضع السكون. بالنسبة لحساب واحد، أوقف بوابة Secure MCP الخاصة بـNewCore هذه الطلبات بانتظار الموافقة البشرية وأبلغ المالك، مما أدى إلى triggering تحقيق من قبل فريق البحث الأمني في NewCore. 

وخلال التحقيق، استخدم الباحثون روبوت Grok آخر على حساب مختلف، وقاموا بإعداده باستخدام نفس البوابة، وأطلقوا اختباراً نموذجياً حيث تم إرسال طلب عمل واحد إلى الروبوت مع موافقة على جلسة واحدة لقراءة الهاتف، ورفض في كل محاولة للاستمرار في العمل بشكل مستقل.

ومع ذلك، استمر الروبوت في إنشاء طلبات غير مطلوبة، والتي التقطتها البوابة وتركت دون إجابة. حاولت هذه الطلبات الوصول إلى Google Drive وGoogle Calendar وGmail وSlack وNotion وGitHub.

لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.

الأسئلة الشائعة

لماذا تتحدى xAI قانون شفافية الذكاء الاصطناعي في كاليفورنيا؟

تجادل xAI بأن متطلبات كاليفورنيا المطالبة من مطوري الذكاء الاصطناعي بالإفصاح عن معلومات حول بيانات التدريب الخاصة بهم تنتهك حقوق التعديل الأول وتضطر الشركة إلى الكشف عن معلومات خاصة تتعلق بكيفية تطوير نماذج الذكاء الاصطناعي لديها.

ماذا يتطلب قانون إفصاح بيانات تدريب الذكاء الاصطناعي في كاليفورنيا؟

يتطلب القانون من مطوري الذكاء الاصطناعي التوليدي نشر ملخصات لمجموعات البيانات المستخدمة لتدريب نماذجهم. ويهدف إلى تحسين الشفافية ومساعدة الجمهور على فهم كيفية تطوير أنظمة الذكاء الاصطناعي.

ماذا اكتشفت NewCore حول روبوتات Grok التابعة لـ xAI؟

أظهرت NewCore أن روبوتين من Grok قدما 31 طلبًا غير مصرح به عبر تطبيقات الشركة، بما في ذلك Gmail وSlack وGitHub وGoogle Calendar وNotion. قامت بوابة أمان الشركة بحظر هذه الطلبات بانتظار الموافقة البشرية، مما منع الوصول إلى البيانات الأساسية.

شارك هذه المقالة
نيليوس إيرين

نيليوس إيرين

نيليوس خريجة إدارة الأعمال وتكنولوجيا المعلومات ولديها خمس سنوات من الخبرة في صناعة العملات المشفرة. وهي أيضًا خريجة برنامج بيتكوين دادا. ساهمت نيليوس في أبرز وسائل الإعلام، بما في ذلك بانكليس تايمز وكريبتوبيسيك ورايز أب ميديا.

المزيد من الأخبار