كيف وصلت ثلاث محادثات مع Claude إلى الشرطة في سبع أسابيع

من 11 أغسطس إلى 30 سبتمبر، وصلت ثلاث محادثات مع كلود من أنثروبيك إلى الشرطة. يواجه اثنان من هؤلاء المستخدمين الآن تهم جنائية خطيرة.

أما الثالث، وهو رجل من سان فرانسيسكو ادعى أنه هدد الرئيس التنفيذي داريو أمودي، فلم يتم القبض عليه.

اعتقال سان أنطونيو وتهديد بـ AR-15 ضد أمودي يفتح آب

كانت أول محادثة في 11 أغسطس في سان أنطونيو. أخبر ناثانيال مايكل كارسكو، البالغ من العمر 22 عاماً، Anthropic AI بأنه يريد الحصول على سلاح وإطلاق النار على طلاب مدرسة سيرنا الابتدائية، وفقاً لـ affidavit الإيداع القضائي.

أبلغ قسم عمليات التهديدات الوطنية في مكتب التحقيقات الفيدرالي (FBI) الشرطة المحلية في 28 أغسطس. وربط الضباط كاراسكو بالحساب من خلال طلبات الإفصاح الطارئة المقدمة إلى ت-موبايل، وتشارتر كومونيكيشنز، وجوجل، والتي طابقت رقم هاتفه، وحركة بيانات عنوان البروتوكول (IP)، وعنوانه مع الحساب.

قال مدير المدرسة إن كاراسكو اعتُقل في 30 أغسطس بتهمة جنحة من الدرجة الثالثة تمثل تهديداً إرهابياً يسبب خوفاً عاماً بإصابة جسدية خطيرة. وأضافت أن المدرسة لم تكتشف التهديد المحدد ضد حرمها إلا من خلال التغطية الإخبارية.

بعد ثلاثة أيام من محادثة سان أنطونيو، في 14 أغسطس، زعم رجل أنه قال لـ Claude إنه اشترى بندقية AR-15 وأن لديه "أمودي في sightsه"، وفقاً لـ report تقرير شرطة سان فرانسيسكو. في الثلاثاء التالي، أبلغت Anthropic SFPD.

أثبتت الشرطة أن الرجل لم يكن موجوداً في مكتب الشركة الواقع في شارع هاوارد 500.

قال متحدث باسم أنثروبيك إن الشركة حظرت الحساب وأحالت القضية إلى السلطات القانونية، مشيرةً إلى أن ذلك يمثل عمل إجراءات الحماية كما هو مُصمَّم. وحتى أوائل سبتمبر، لم يتم اعتقاله أو توجيه تهم إليه.

أرسلت فريق المراجعة في أنثروبيك 26 رسالة إلى مساعدي مكتب ال sheriff في مقاطعة لي

تنص سياسة الخصوصية الخاصة بأنثروبيك، التي دخلت حيز التنفيذ في 10 سبتمبر، على أنه يمكنها مشاركة البيانات مع السلطات القانونية إذا كانت لديها اعتقاد حسن النية بأن ذلك ضريرياً بشكل معقول لمنع أذى جسيم. وتحتفظ شروط خدمة المستهلكين بحق الإبلاغ عن مدخلات المستخدمين أو مخرجاتهم أو أفعالهم للسلطات القانونية "وفقاً لتقديرها الخاص وحده".

ذكر report التقرير أن كارلي ميشيل هيلر، من بونيتا سبرينغز، فلوريدا، كتبت في 26 سبتمبر أنها ستقوم بإطلاق النار على مكتب شريف مقاطعة لي. يقول المحققون إنها كتبت في اليوم التالي أنها حصلت على سلاح جديد.

يذكر التقرير أن العبارات قد تم وضع علامة عليها من خلال أنظمة المراقبة التابعة لأنثروبيك. وقد أحال فريق المراجعة البشرية هذه العبارات إلى السلطات القانونية نظراً لخطورتها.

اعتقل المساعدين هيلر في منزلها دون أي حوادث. وهي تواجه تهمة إصدار تهديد خطي بالعنف، ولها موعد قضائي في نوفمبر. وقال الشريف كارمين مارسينو إنها وصفت لاحقاً استخدام الذكاء الاصطناعي كدفتر يوميات.

"الذكاء الاصطناعي أداة قوية، ويمكن، مثل أي تقنية أخرى، أن يتم إساءة استخدامها"، قال ماركينو في بيان.

في أبريل، أفاد Cryptopolitan بأن Anthropic بدأت تتطلب هوية حكومية وصورة سيلفي مباشرة لبعض الميزات.

في أغسطس، أفاد Cryptopolitan بأن الشركة ضبطت ذاكرة Claude لتخطي الصحة والسياسة وهوية النوع الاجتماعي ما لم يختار المستخدمون خلاف ذلك.