وزارة الدفاع الأمريكية تُكمل برنامجًا تجريبيًا يستخدم روبوتات الدردشة في الطب العسكري

اختُتم بنجاح أحد آخر المشاريع المرتبطة بوزارة الدفاع الأمريكية في عهد إدارة بايدن. فقد أكمل مكتب كبير مسؤولي التحول الرقمي والذكاء الاصطناعي التابع لوزارة الدفاع الأمريكية المرحلة التجريبية لبرنامج ضمان الجودة باستخدام الذكاء الاصطناعي الجماعي (CAIRT). تهدف هذه المبادرة إلى دمج روبوتات الدردشة المدعومة بالذكاء الاصطناعي في الخدمات الطبية العسكرية. 

تم تطبيق نماذج اللغة الكبيرة (LLM) في برنامج CAIRT. بالإضافة إلى ذلك، CAIRT وزارة الدفاع الأمريكية في تطوير استراتيجيات لامركزية تعتمد على التعهيد الجماعي للحد من مخاطر الذكاء الاصطناعي وضمان جودته.

ساهم أكثر من 200 من مقدمي الرعاية السريرية ومحللي الرعاية الصحية فيdentنقاط الضعف المحتملة في استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التطبيقات الطبية العسكرية. والجدير بالذكر أن المشروع التجريبيdentمئات المشكلات المحتملة، وفقًا لتقرير وزارة الدفاع الأمريكية.

ولهذا الغرض، قالت وزارة الدفاع: "ستؤدي هذه العملية إلى مخرجات قابلة للتكرار والتوسع من خلال تطوير مجموعات بيانات مرجعية، والتي يمكن استخدامها لتقييم البائعين والأدوات المستقبلية من حيث التوافق مع توقعات الأداء". 

برنامج CAIRT من وراء الكواليس

بحسب وزارة الدفاع الأمريكية، قامت منظمة غير ربحية معنية بالاستخبارات الإنسانية بتنفيذ البرنامج التجريبي CAIRT LLM. وقد تحقق ذلك بالشراكة مع وكالة الصحة الدفاعية (DHA) والمكتب التنفيذي لبرنامج أنظمة إدارة الرعاية الصحية الدفاعية (PEO DHMS).

بالإضافة إلى ذلك، استخدمت وحدة الاستخبارات الإنسانية منهجية فريق الهجومdentمشكلات النظام المحددة. وشمل ذلك الاختبار الداخلي لمرونة النظام باستخدام تقنيات معادية. 

علاوة على ذلك، استقطبت فرق الاختبار الأحمر مشاركين مهتمين بالتفاعل مع التقنيات الناشئة، ومستفيدين محتملين في المستقبل. وقد أتيحت لهم الفرصة للمساهمة في تحسين الأنظمة.

في هذا البرنامج، استخدمت الاستخبارات الإنسانية فرق البحث الأحمر التي تعتمد على التعهيد الجماعي لمعالجة تطبيقين محتملين في الطب العسكري: تلخيص الملاحظات السريرية وبرنامج دردشة استشاري طبي.

نقاط الضعفdent، أكدت وزارة الدفاع الأمريكية أن "هذه النتائج ستلعب دورًا حاسمًا في صياغة سياسات وزارة الدفاع وأفضل الممارسات للاستخدام المسؤول للذكاء الاصطناعي التوليدي، مما سيؤدي في نهاية المطاف إلى تحسين الرعاية الطبية العسكرية. وإذا ما تضمنت حالات الاستخدام المحتملة هذه، عند تطبيقها، الذكاء الاصطناعي المشمول المحدد defiOMB M-24-10، فسوف تلتزم بجميع ممارسات إدارة المخاطر المطلوبة".

ومع ذلك، صرّحت وزارة الدفاع الأمريكية بأن برنامج ضمان CAIRT سيواصل اختبار أنظمة التعلم الآلي وأنظمة الذكاء الاصطناعي. من شأن ذلك تسريع عمل خلية القدرات السريعة للذكاء الاصطناعي التابعة لمكتب رئيس قسم تطوير الذكاء الاصطناعي، وجعل هدف الجيل القادم من الذكاء الاصطناعي أكثر فعالية، والمساعدة في بناء الثقة في جميع حالات استخدام وزارة الدفاع.

وقال الدكتور ماثيو جونسون، قائد مبادرة CDAO، أيضاً: "بما أن تطبيق الذكاء الاصطناعي العام لمثل هذه الأغراض داخل وزارة الدفاع لا يزال في مراحل مبكرة من التجريب والاختبار، فإن هذا البرنامج بمثابة دليل أساسي لتوليد كمية كبيرة من بيانات الاختبار، وتحديد المجالات التي يجب مراعاتها، والتحقق من صحة خيارات التخفيف التي ستشكل البحث والتطوير وضمان أنظمة الذكاء الاصطناعي العام التي قد يتم نشرها في المستقبل".

من المتوقع أن تواصل الإدارة القادمة هذه المشاريع. فريق ترامب منفتح على الذكاء الاصطناعي حتى في ظل سعيه لمنافسة الصين.

ما مدى أمان الذكاء الاصطناعي في المجال الطبي؟ 

على الرغم من أن الذكاء الاصطناعي له تأثير إيجابي هائل على العلوم الطبية، إلا أنه يتبعه العديد من المخاطر والأخطار الكبيرة.

تستخدم أنظمة الذكاء الاصطناعي، لأغراض التقييم، خوارزميات محددة تتطلب مجموعات بيانات ضخمة لزيادة الدقة. هذه الطريقة تُعرّض بيانات المرضى الحساسة للخطر، مما يؤثر على أمنها وخصوصيتها وسريتهاdentونظرًا لاهتمام شركات الأدوية والتأمين بهذه البيانات، فقد توسعت عمليات الاختراق بشكل كبير. وقد يكون اختراق الملفات الطبية جزءًا من هجوم إلكتروني حكومي.

إضافةً إلى ذلك، يُعدّ تسميم البيانات، أي التعديل المتعمد للبيانات الطبية بهدف إحداث أخطاء أو تحيزات في الرعاية الصحية، خطرًا رئيسيًا آخر لسوء استخدام البيانات الطبية. وهذا يُؤثر سلبًا على دقة وموثوقية النصائح الطبية. وقد يُؤدي استخدام الذكاء الاصطناعي لنماذج بيانات وبائية مختلفة، كما هو الحال في جائحة كوفيد-19، إلى نتائج متباينة.

تتمثل إحدى المشكلات الأخرى في وجود خلل في الخوارزمية الطبية. وقد يعود ذلك إلى عدم كفاية اختبار الخوارزمية لعدم وجود معايير معتمدة لاختبار صحتها. فعلى سبيل المثال، تُعدّ التجارب المعشاة ذات التعمية المزدوجة الطريقة الأكثر فعالية لإثبات فعالية العلاج. 

ومع ذلك، من يتحمل مسؤولية مثل هذا الخطأ - الطبيب المعالج، أم المستشفى، أم مُورّد المعدات، أم مُطوّر الخوارزمية؟ وبالتالي، فإن الأخطاء الطبية الناجمة عن عطل في الجهاز تُثير قضايا قانونية خطيرة.

هل يمكن لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي أن تلعب دور الطبيب؟ 🤖 ليس تمامًا بعد.

كشفت دراسة أن مهاراتهم التشخيصية ضعيفة في أحسن الأحوال.

لا يزال الذكاء الاصطناعي في مجال الرعاية الصحية بحاجة إلى مزيد من التطوير قبل أن يُعتمد عليه في إدارة صحتك. 🩺 pic.twitter.com/W2ast8S7iO

— CAD Black Ops (@CADBlackOps) ٢ يناير ٢٠٢٥

كما أن الذكاء الاصطناعي قد يؤثر سلبًا على العلاقة بين الطبيب والمريض. لذا، يُطلب من الأطباء فهم تقييم الذكاء الاصطناعي وأدائه لشرح دوره للمرضى وتخفيف قلقهم.

وأخيرًا، هناك ظاهرة تُعرف بتأثير "الطبيب الكسول". فإذا اعتمد الطبيب بشكل حصري على خوارزميات الذكاء الاصطناعي في التشخيص والعلاج، فقد يؤدي ذلك إلى فقدان تدريجي لا رجعة فيه للمهارات العملية والإبداع الفكري والقدرة على حل المشكلات الطبية.

مع ذلك، اعتاد الناس على استخدام برامج الدردشة الآلية في حياتهم اليومية. وبفضل البحث الدقيق، يمكن لبرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي أن تقلل من الأخطاء البسيطة التي يرتكبها الأطباء، مما يجعل المجال الطبي أكثر أمانًا.