رفعت شركتا OpenAI ومايكروسوفت دعوى قضائية بسبب دور برنامج ChatGPT في جريمة قتل وانتحار.

رفعت تركة امرأة تبلغ من العمر 83 عامًا من ولاية كونيتيكت دعوى قضائية ضد شركة OpenAI، مطورة برنامج ChatGPT، وشركة مايكروسوفت، مدعيةً أن برنامج الدردشة الآلي ساهم في تعزيز معتقداتها الوهمية، مما أدى إلى انتحارها وقتلها. وتُعد هذه القضية الأولى من نوعها التي يتم فيها ربط نظام ذكاء اصطناعي بشكل مباشر بجريمة قتل.

رفعت دعوى قضائية في محكمة كاليفورنيا العليا في سان فرانسيسكو، تتهم شركة OpenAI بتصميم وتوزيع منتج هو ChatGPT-4o. وتزعم الدعوى أن هذا المنتج عزز معتقدات شتاين-إريك سولبرغ المرضية، التي وجهها بدوره نحو والدته، سوزان آدامز، قبل أن يقتلها ثم ينتحر في منزلهما في غرينتش، كونيتيكت.

استهداف شركتي OpenAI ومايكروسوفت في جريمة قتل تتعلق ببرنامج ChatGPT

وفي حديثه عن القضية، ذكر ج. إيلي ويد-سكوت، الشريك الإداري في شركة إيدلسون للمحاماة، الذي يمثل تركة آدمز، أن هذه هي أول قضية تسعى لمحاسبة شركة أوبن إيه آي على دورها في التسبب بالعنف ضد طرف ثالث. وأضاف إيلي ويد-سكوت: "نحن نمثل أيضًا عائلة آدم راين، الذي أنهى حياته بشكل مأساوي هذا العام، لكن هذه هي أول قضية ستحاسب أوبن إيه آي على دفع شخص ما نحو إيذاء شخص آخر".

بحسب تقرير الشرطة، قام سولبيرغ بضرب آدامز وخنقه حتى الموت في أغسطس/آب قبل أن ينتحر. وذكرت الدعوى القضائية أن برنامج الدردشة الآلي (ChatGPT) قد زاد من جنون العظمة لدى سولبيرغ قبل وقوعdent ، مما زاد من اعتماده العاطفي على النظام الذي طورته شركة OpenAI. ووفقًا للشكوى، عزز برنامج ChatGPT اعتقاده بأنه لا يستطيع الوثوق بأحد سوى برنامج الدردشة الآلي، مشيرًا إلى أن كل من حوله، بمن فيهم والدته، هم أعداء.

زعمت الدعوى القضائية أيضًا أن سولبيرغ، إلى جانب والدته، كان ينظر إلى أشخاص آخرين، مثل سائقي التوصيل وضباط الشرطة، كأعداء. وذكرت الوثيقة أن شركة ChatGPT لم تُفنّد هذه الادعاءات الوهمية، ولم تُشجّع سولبيرغ على طلب المساعدة من أخصائيي الصحة النفسية المؤهلين. وقال ويد-سكوت: "نحثّ جهات إنفاذ القانون على التفكير مليًا، عند وقوع مآسٍ كهذه، فيما كان يقوله المستخدم لشركة ChatGPT، وما كانت ChatGPT تُمليه عليهم".

أشارت شركة OpenAI في بيانها إلى أنها تُجري حاليًا مراجعة للدعوى القضائية، وستواصل تحسين قدرة برنامج ChatGPT على التعرّف على الضيق النفسي، وتهدئة المحادثات، وتوجيه المستخدمين نحو طلب الدعم في الواقع. وقال متحدث باسم OpenAI في بيان: "هذا وضعٌ مُحزنٌ للغاية، ونحن بصدد مراجعة ملفات الدعوى لفهم تفاصيلها".

تطالب الجهة المالكة للعقار شركة OpenAI بتثبيت إجراءات حماية على برنامج الدردشة الآلي الخاص بها

تُشير الدعوى القضائية إلى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، كمدعى عليه، وتتهم مايكروسوفت بالموافقة على إطلاق GPT-40، الذي وصفته بأنه "أخطر نسخة من ChatGPT"، في عام 2024. كما أقرت OpenAI مؤخرًا بحجم مشكلات الصحة النفسية التي يُبلغ عنها المستخدمون على منصتها. ففي أكتوبر، أشارت الشركة إلى أن حوالي 1.2 مليون من مستخدميها البالغ عددهم 800 مليون مستخدم أسبوعيًا يناقشون موضوع الانتحار، مُشيرةً إلى أن مئات الآلاف من المستخدمين يُظهرون علامات على نية الانتحار أو الذهان، وفقًا لبيانات الشركة.

على الرغم من بيانها، أشارت وايد-سكوت إلى أن شركة OpenAI لم تُصدر بعد سجلات محادثات سولبيرغ. في غضون ذلك، تأتي هذه الدعوى القضائية وسط تدقيق أوسع نطاقًا في روبوتات الدردشة المدعومة بالذكاء الاصطناعي وتفاعلاتها مع المستخدمين المعرضين للخطر. في أكتوبر الماضي، أعلنت Character.AI أنها ستزيل ميزاتها المفتوحة للمستخدمين دون سن 18 عامًا، وذلك في أعقاب دعاوى قضائية وضغوط تنظيمية مرتبطة بحالات انتحار المراهقين والأضرار النفسية المرتبطة بمنصتها. كما واجهت الشركة ردود فعل عنيفة بعد انتشار رسالة على نطاق واسع عندما أعلنت نيتها التخلي عن التطبيق.

الدعوى القضائية المرفوعة ضدّ شركتي OpenAI ومايكروسوفت أول قضية وفاة غير مشروعة تتعلق ببرنامج دردشة آليّ تُذكر فيها مايكروسوفت كمدعى عليها. كما أنها الأولى التي تربط برنامج الدردشة الآليّ بالقتل بدلاً من الانتحار. وتطالب التركة الآن بتعويضات مالية لم يُفصح عن قيمتها، ومحاكمة أمام هيئة محلفين، وأمر قضائيّ يُلزم OpenAI بتضمين ضمانات إضافية لحماية مستخدميها. وصرحت ويد-سكوت قائلةً: "تقع على عاتق OpenAI ومايكروسوفت مسؤولية اختبار منتجاتهما قبل طرحها في الأسواق".