تنظيم روبوتات الدردشة بالذكاء الاصطناعي أمر ضروري لسلامة المرضى في الرعاية الصحية

تظهر أدوات الدردشة التوليدية القائمة على نماذج اللغات الكبيرة (LLMs)، مثل ChatGPT وMedPaLM من Google، وعداً كبيراً في المجال الطبي. ومع ذلك، فإن الاستخدام غير المنظم لروبوتات الدردشة بالذكاء الاصطناعي يشكل مخاطر متأصلة. يتعمق مقال حديث في القضية الدولية العاجلة لتنظيم نماذج اللغات الكبيرة (LLMs) بشكل عام وفي الرعاية الصحية على وجه التحديد. يؤكد البروفيسور ستيفن جيلبرت، الخبير في تنظيم الأجهزة الطبية، على الحاجة إلى تطوير أطر عمل جديدة تعطي الأولوية لسلامة المرضى عند استخدام هذه الروبوتات القوية.

تُعرف نماذج اللغات الكبيرة (LLMs) بنماذج الشبكات العصبية اللغوية المعروفة بمهاراتها الحوارية المذهلة. يمكنها توليد ردود تشبه البشر والمشاركة في محادثات تفاعلية. ومع ذلك، فإن أحد المخاوف الرئيسية هو أنها غالباً ما تقدم معلومات مقنعة للغاية لكنها غير صحيحة أو غير لائقة. حالياً، لا توجد طريقة موثوقة لتحديد جودة أو مستوى الأدلة أو اتساق المعلومات السريرية والأدلة الداعمة المقدمة من هذه الروبوتات. وبالتالي، يمكن أن يكون الاعتماد عليها للحصول على نصائح طبية غير آمن، مما يستدعي إنشاء أطر عمل جديدة لضمان رفاهية المرضى.

تكامل روبوتات الدردشة مع محركات البحث

تظهر الأبحاث أن العديد من الأفراد يبحثون عن الأعراض عبر الإنترنت قبل طلب المشورة الطبية، وغالباً ما يعتمدون على نتائج محركات البحث. قد يؤدي التكامل القادم لروبوتات الدردشة القائمة على نماذج اللغات الكبيرة (LLMs) مع محركات البحث إلى زيادة ثقة المستخدمين في الردود المقدمة من هذه الأدوات الحوارية. ومع ذلك، أظهرت الدراسات أن نماذج اللغات الكبيرة (LLMs) يمكن أن تنتج معلومات خطيرة للغاية عند مواجهة استفسارات طبية. هذا يؤكد الحاجة الملحة للرقابة التنظيمية على دمج نماذج اللغات الكبيرة (LLMs) مع محركات البحث.

تكمن مشكلة جوهرية في نماذج اللغات الكبيرة (LLMs) في افتقارها إلى نموذج "حقيقة طبية" مرجعية، مما يجعلها تنطوي على مخاطر متأصلة. وقد وقعت بالفعل حالات قدمت فيها نماذج اللغات الكبيرة المزودة بواجهات محادثة استجابات طبية ضارة، أو استُخدمت بشكل غير أخلاقي في تجارب على المرضى دون الحصول على موافقتهم المستنيرة. تتطلب كل حالة استخدام طبية تقريبًا تتضمن نماذج اللغات الكبيرة إشرافًا تنظيميًا في الاتحاد الأوروبي والولايات المتحدة. في الولايات المتحدة، يستبعد عدم قابلية تفسيرها تصنيفها على أنها "أجهزة غير طبية". لا تُظهر أي من نماذج اللغات الكبيرة قابلية للتفسير، أو انخفاض التحيز، أو القدرة على التنبؤ، أو الدقة، أو مخرجات قابلة للتحقق. ونتيجة لذلك، لا تُستثنى من نهج الحوكمة الحالية أو المستقبلية.

التطبيقات المحتملة ضمن الأطر التنظيمية الحالية

يحدد مؤلفو الورقة السيناريوهات المحدودة التي يمكن فيها تطبيق نماذج اللغات الكبيرة ضمن الأطر التنظيمية الحالية. كما يصفون كيفية سعي المطورين لإنشاء أدوات تعتمد على نماذج اللغات الكبيرة قد تحصل على الموافقة كأجهزة طبية. ومع ذلك، من المهم ملاحظة أن روبوتات الدردشة الحالية القائمة على نماذج اللغات الكبيرة لا تستوفي المبادئ الأساسية للذكاء الاصطناعي في الرعاية الصحية، مثل التحكم في التحيز، والقابلية للتفسير، وأنظمة الإشراف، والتحقق، والشفافية. ولكسب مكانها في المجال الطبي، يجب تصميم روبوتات الدردشة لتحسين الدقة، وإثبات السلامة والفعالية السريرية المعتمدة من قبل الجهات التنظيمية.

يعد تنظيم روبوتات الدردشة القائمة على الذكاء الاصطناعي، ولا سيما تلك المستندة إلى نماذج اللغات الكبيرة، كأجهزة طبية أمرًا حيويًا لضمان سلامة المرضى في الرعاية الصحية. وتسلط المخاطر المرتبطة باستخدامها غير المنظم الضوء على ضرورة تطوير أطر تعالج قضايا الدقة والسلامة والفعالية السريرية. ولبناء الثقة في الأدوات القائمة على نماذج اللغات الكبيرة، يجب أن تلتزم بالمبادئ الرئيسية للذكاء الاصطناعي في الرعاية الصحية. ويعد التعاون بين المطورين والجهات التنظيمية أمرًا بالغ الأهمية لوضع مبادئ توجيهية تعزز التنفيذ المسؤول والأخلاقي لروبوتات الدردشة القائمة على نماذج اللغات الكبيرة في المجال الطبي.