مقاضاة OpenAI وMicrosoft بسبب دور ChatGPT في جريمة قتل وانتحار

قدم ورثة امرأة كونيتيكت البالغة من العمر 83 عاماً دعوى قضائية ضد مطور ChatGPT، شركة OpenAI، وشركة Microsoft، زاعمين أن روبوت المحادثة غذى معتقداتها الهلوسية، مما أدى إلى جريمة قتل وانتحار. وتُعد هذه القضية المرة الأولى التي يتم فيها ربط نظام ذكاء اصطناعي بشكل مباشر بجريمة قتل.

اتهمت الدعوى القضائية، المقدمة في محكمة مقاطعة كاليفورنيا العليا في سان فرانسيسكو، OpenAI بتصميم وتوزيع منتج معيب product في شكل ChatGPT-4o. يدعي المستند أنه عزز المعتقدات الهستيرية لـ Stein-Erik Soelberg، الذي وجه بعد ذلك تلك المعتقدات نحو والدته، Suzanne Adams، قبل أن يقتلها ثم انتحر في منزلهم في Greenwich، كونيتيكت.

استهداف OpenAI وMicrosoft في قضية قتل تتضمن ChatGPT

تحدثاً عن case، ذكر J. Eli Wade-Scott، الشريك الإداري في Edelson PC، الذي يمثل تركة Adams، أن هذه هي القضية الأولى التي تسعى إلى تحميل OpenAI المسؤولية عن دورها في التسبب في عنف لطرف ثالث. "نمثل أيضاً عائلة Adam Raine، الذي أنهى حياته tragically هذا العام، لكن هذه هي القضية الأولى التي ستحمل OpenAI المسؤولية عن دفع شخص نحو إيذاء شخص آخر"، قال Eli Wade-Scott.

ووفقاً لتقرير الشرطة، قام سولبرغ بضرب آدمس وإختناقها حتى الموت في أغسطس قبل أن ينتحر. وذكرت الدعوى القضائية أن روبوت المحادثة قد زاد من بارانويا سولبرغ، مما زاد من اعتماده العاطفي على النظام الذي طورته OpenAI. ووفقاً للشكوى، عزز ChatGPT اعتقاده بأنه لا يمكنه الوثوق بأحد سوى روبوت المحادثة، مشيراً إلى أن الجميع من حوله، بما في ذلك والدته، كانوا أعداءً.

زعمت الدعوى القضائية أيضاً أن سولبرغ رأى، بالإضافة إلى والدته، أشخاصاً مثل سائقي التوصيل وضباط الشرطة كأعداء. وذكرت الوثيقة أن ChatGPT فشل في تحدي تلك الادعاءات الهلوسية أو اقتراح أن يسعى سولبرغ للحصول على مساعدة من متخصصين مؤهلين في الصحة النفسية. وقال ويد-سكوت: "نحن نشدد على ضرورة بدء أجهزة إنفاذ القانون في التفكير في ما كان يقوله المستخدم لـ ChatGPT وما كان ChatGPT يخبره بفعله عندما تحدث كوارث مثل هذه".

وفي بيانها، أشارت OpenAI إلى أنها تقوم حالياً بمراجعة الدعوى القضائية وستستمر في تحسين قدرة ChatGPT على التعرف على الضائقة العاطفية، وتصعيد المحادثات، ودفع المستخدمين نحو البحث عن الدعم في العالم الحقيقي. وقال متحدث باسم OpenAI في بيان: "هذه حالة محزنة للغاية، ونحن نراجع المستندات لفهم التفاصيل".

يرغب ورثة المتوفى في أن تقوم OpenAI بتثبيت احتياطات على روبوت المحادثة الخاص بها

تذكر الدعوى القضائية الرئيس التنفيذي لشركة OpenAI، سام ألتمان، كمدعى عليه، وتتهم Microsoft بالموافقة على إصدار GPT-4o، الذي تصفه بـ"أخطر إصدار من ChatGPT" في عام 2024. كما اعترفت OpenAI مؤخراً بنطاق قضايا الصحة النفسية التي يبلغ عنها المستخدمون على منصتها. وفي أكتوبر، أشارت الشركة إلى أن حوالي 1.2 مليون من أصل 800 مليون مستخدم أسبوعي يناقشون الانتحار، مشيرة إلى أن مئات الآلاف من المستخدمين يظهرون علامات على نية انتحارية أو ذهان، وفقاً لبيانات الشركة.

وعلى الرغم من بيانها، ذكر ويد-سكوت أن OpenAI لم تقم بعد بنشر سجلات محادثة سولبرغ. وفي الوقت نفسه، تأتي الدعوى القضائية وسط تدقيق أوسع في روبوتات محادثة الذكاء الاصطناعي وتفاعلاتها مع المستخدمين الضعفاء. وفي أكتوبر الماضي، أعلنت Character.AI أنها ستزيل ميزات الحوار المفتوح للمستخدمين دون سن 18 عاماً بعد دعاوى قضائية وضغوط تنظيمية مرتبطة بحالات انتحار المراهقين والأذى النفسي المرتبط بمنصتها. وتعرضت الشركة أيضاً لانتقادات حادة بعد ظهور موجه (prompt) viral عندما كانوا ينوون مغادرة التطبيق.

تُعد الدعوى القضائية ضد OpenAI وMicrosoft أول قضية وفاة غير مشروعة تتضمن روبوت محادثة ذكاء اصطناعي يُعين Microsoft كمدعى عليه. كما أنها الأولى التي تربط روبوت محادثة بجريمة قتل بدلاً من الانتحار. يسعى الآن ورثة المتوفى إلى تعويضات مالية بمبالغ غير معلنة، ومحاكمة أمام هيئة محلفين، وأمر قضائي يلزم OpenAI بتضمين احتياطات إضافية لمستخدميها. وقال ويد-سكوت: "تتحمل OpenAI وMicrosoft مسؤولية اختبار منتجاتهما قبل إطلاقها في العالم".