وزارة الدفاع الأمريكية (DoD) تكمل برنامجًا تجريبيًا باستخدام روبوتات الدردشة للطب العسكري

لقد انتهى بنجاح أحد المشاريع الأخيرة المرتبطة بوزارة الدفاع الأمريكية (DoD) وخاضعة لإدارة بايدن. أكملت الإدارة الرئيسية للرقمنة والذكاء الاصطناعي (CDAO) بوزارة الدفاع الأمريكية (DoD) المرحلة التجريبية لبرنامج ضمان الاختبار الجماعي لاختبار اختراق الذكاء الاصطناعي (CAIRT). يكرس هذا المبادرة لدمج روبوتات الدردشة بالذكاء الاصطناعي في الخدمات الطبية العسكرية. 

تم تنفيذ روبوتات الدردشة القائمة على نماذج اللغة الكبيرة (LLM) في برنامج CAIRT. بالإضافة إلى ذلك، CAIRT ساعدت وزارة الدفاع في تطوير استراتيجيات لامركزية ومجتمعية لتخفيف مخاطر الذكاء الاصطناعي وضمانه.

ساهم أكثر من 200 مقدم رعاية صحية ومحلل في تحديد الثغرات المحتملة في استخدام روبوتات الدردشة بالذكاء الاصطناعي في التطبيقات الطبية العسكرية. ومن الجدير بالذكر أن المرحلة التجريبية حددت عدة مئات من المشكلات المحتملة، كما أفادت وزارة الدفاع.

وبهذا الصدد، قالت وزارة الدفاع: "ستؤدي هذه التمرين إلى إنتاج نتائج قابلة للتكرار والقابلية للتوسع من خلال تطوير مجموعات بيانات معيارية، يمكن استخدامها لتقييم البائعين والأدوات المستقبلية للتأكد من توافقها مع توقعات الأداء." 

ما وراء كواليس برنامج CAIRT

ووفقاً لوزارة الدفاع، أجرت منظمة غير ربحية للذكاء البشري المرحلة التجريبية لـ LLM في برنامج CAIRT. وقد حققت ذلك بالشراكة مع وكالة الصحة الدفاعية (DHA) ومكتب تنفيذ البرنامج لمكتب أنظمة إدارة الرعاية الصحية الدفاعية (PEO DHMS).

بالإضافة إلى ذلك، استخدم الذكاء البشري منهجية اختبار الاختراق لتحديد مشكلات النظام المحددة. وشمل ذلك الاختبار الداخلي لمرونة النظام باستخدام تقنيات معادية. 

وعلاوة على ذلك، جذب اختبار الاختراق المشاركين المهتمين بالتفاعل مع التقنيات الناشئة وكأصحاب مصلحة محتملين في المستقبل. وقد أتيحت لهم الفرصة للمساهمة في تحسين الأنظمة.

في هذا البرنامج، استخدم الذكاء البشري اختبار الاختراق الجماعي لمعالجة تطبيقين محتملين في الطب العسكري: تلخيص الملاحظات السريرية وروبوت دردشة استشاري طبي.

وعلى الرغم من تحديد الثغرات، سلطت وزارة الدفاع الضوء على أن: "ستلعب هذه النتائج دوراً حاسماً في صياغة سياسات وزارة الدفاع وأفضل الممارسات للاستخدام المسؤول لـ الذكاء الاصطناعي التوليدي (GenAI)، مما يؤدي في النهاية إلى تحسين الرعاية الطبية العسكرية. وإذا، عند نشرها، شملت حالات الاستخدام المستقبلية الذكاء الاصطناعي المشمول كما هو محدد في توجيه OMB M-24-10، فستلتزم بجميع ممارسات إدارة المخاطر المطلوبة."

ومع ذلك، ذكرت وزارة الدفاع أن برنامج ضمان CAIRT سيستمر في اختبار نماذج LLM وأنظمة الذكاء الاصطناعي. سيسرع ذلك من عمل خلية القدرات السريعة للذكاء الاصطناعي التابعة لـ CDAO، ويجعل هدف الذكاء الاصطناعي التوليدي أكثر فعالية، ويساعد في بناء الثقة عبر جميع حالات الاستخدام في وزارة الدفاع.

وقال أيضاً الدكتور ماثيو جونسون، قائد CDAO لهذه المبادرة: "نظراً لأن تطبيق الذكاء الاصطناعي التوليدي لأغراض مثل هذه داخل وزارة الدفاع لا يزال في مراحل مبكرة من التجريب والتجربة، فإن هذا البرنامج يعمل كمستكشف أساسي لتوليد كمية هائلة من بيانات الاختبار، وكشف المجالات التي تستحق النظر فيها، والتحقق من صحة خيارات التخفيف التي ستشكل البحث المستقبلي، والتطوير، وضمان أنظمة الذكاء الاصطناعي التوليدي التي قد يتم نشرها في المستقبل،"

من المتوقع أن تستمر الإدارة القادمة في هذه المشاريع. فريق ترامب منفتح على الذكاء الاصطناعي حتى وهو يتطلع إلى المنافسة مع الصين.

ما مدى أمان الذكاء الاصطناعي في المشهد الطبي؟ 

على الرغم من أن للذكاء الاصطناعي تأثيراً مفيداً بشكل هائل على العلوم الطبية، إلا أنه يتبعه عدة مخاطر وأخطار كبيرة.

من حيث الوضع الحالي، تستخدم أنظمة الذكاء الاصطناعي خوارزميات محددة تتطلب مجموعات بيانات ضخمة لزيادة الدقة. تضع هذه الطريقة البيانات الحساسة للمرضى في خطر من حيث الأمان والخصوصية والسرية. حالياً، نظراً لاهتمام شركات الأدوية والتأمين بمثل هذه المجموعات البيانات، لقد توسع الاختراق بشكل كبير. قد يكون اختراق الملفات الطبية أيضاً جزءاً من هجوم سيبراني حكومي.

بالإضافة إلى ذلك، يُعد تسميم البيانات، وهو التعديل المتعمد للبيانات الطبية لإحداث أخطاء أو تحيزات في الرعاية الصحية، خطراً رئيسياً آخر لسوء استخدام البيانات الطبية. هذا يضر بدقة وموثوقية النصائح الطبية. قد تؤدي نماذج البيانات الوبائية المختلفة المستخدمة في الذكاء الاصطناعي، كما حدث في جائحة كوفيد-19، إلى نتائج متنوعة.

مشكلة أخرى قد تكون خوارزمية طبية معيبة. قد يكون ذلك بسبب عدم كفاية اختبار الخوارزمية نظراً لعدم وجود معايير راسخة لاختبار صحتها. على سبيل المثال، تعتبر التجارب العشوائية ذات الشقين الأكثر فعالية لإثبات فعالية العلاج. 

ومع ذلك، من المسؤول عن مثل هذا الخطأ: الطبيب الشخصي، أو المستشفى، أو مزود المعدات، أو مطور الخوارزمية؟ وبالتالي، تثير الأخطاء الطبية الناجمة عن خلل في الآلة قضايا قانونية خطيرة.

روبوتات الدردشة بالذكاء الاصطناعي تلعب دور الطبيب؟ 🤖 ليس بعد.

تكشف دراسة أن مهارات التشخيص لديهم هزيلة في أحسن الأحوال.

لا تزال الذكاء الاصطناعي للرعاية الصحية بحاجة إلى دفعة عقلية قبل أن يمكن الوثوق بها بصحتك. 🩺 pic.twitter.com/W2ast8S7iO

— CAD Black Ops (@CADBlackOps) يناير 2، 2025

أيضاً، قد يعيق الذكاء الاصطناعي علاقات الطبيب بالمريض. لذلك، يُطلب من الأطباء فهم تقييم الذكاء الاصطناعي وأدائه لشرح دوره للمرضى وتقليل قلق المرضى.

وأخيراً، هناك ظاهرة تُعرف بتأثير "الطبيب الكسول". إذا اعتمد الطبيب حصرياً على خوارزميات الذكاء الاصطناعي للتشخيص والعلاج، فقد يؤدي ذلك إلى فقدان تدريجي وغير قابل للعلاج للمهارات العملية، والإبداع الفكري، والقدرة على حل المشكلات الطبية.

ومع ذلك، اعتاد الناس على روبوتات الدردشة في حياتهم اليومية. مع البحث المناسب، يمكن لروبوتات الدردشة بالذكاء الاصطناعي القضاء على الأخطاء الصغيرة التي يرتكبها الأطباء، مما يجعل المجال الطبي أكثر أماناً.