نموذج الأساس القادر على معالجة وتوليد البيانات متعددة الأنماط قد غيّر دور الذكاء الاصطناعي في الطب. ومع ذلك، اكتشف الباحثون أن أحد القيود الرئيسية على موثوقيتها هو الهلوسة، حيث يمكن أن تؤثر المعلومات غير الدقيقة أو المصنوعة على القرارات السريرية وسلامة المرضى، وفقًا لدراسة نُشرت في موقع medRxiv.
في الدراسة، عرّف الباحثون الهلوسة الطبية بأنها أي حالة يقوم فيها النموذج بتوليد محتوى طبي مضلل.
استهدف الباحثون دراسة الخصائص الفريدة والأسباب والآثار المترتبة على الهلوسات الطبية، مع التركيز بشكل خاص على كيفية تجلي هذه الأخطاء في السيناريوهات السريرية الواقعية.
عند النظر إلى الهلوسات الطبية، ركز الباحثون على تصنيف لفهم ومعالجة هذه الظواهر، من خلال تقييم النماذج باستخدام مجموعة بيانات للهلاوس الطبية واستجابات نماذج اللغة الكبيرة التي تم التعليق عليها من قبل الأطباء لحالات طبية حقيقية، مما يوفر رؤى مباشرة حول التأثير السريري للهلاوس واستطلاع دولي للأطباء حول تجاربهم مع الهلوسات الطبية.
كتب مؤلفو الدراسة: “تكشف نتائجنا أن تقنيات الاستدلال مثل سلسلة الأفكار والتوليد المعزز بالبحث يمكن أن تقلل بشكل فعال من معدلات الهلوسة. ومع ذلك، رغم هذه التحسينات، لا تزال مستويات غير تافهة من الهلوسة قائمة”.
قال الباحثون إن البيانات المستخلصة من الدراسة تؤكد الحاجة الأخلاقية والعملية لاستراتيجيات ”كشف قوية وتخفيف فعّال”، مما يضع أساسًا للسياسات التنظيمية التي تعطي الأولوية لسلامة المرضى وتحافظ على النزاهة السريرية مع تزايد دمج الذكاء الاصطناعي في الرعاية الصحية.
كتب المؤلفون: “تسلط ردود فعل الأطباء الضوء على الحاجة الملحة ليس فقط للتقدم التقني ولكن أيضًا لإرشادات أخلاقية وتنظيمية أكثر وضوحًا لضمان سلامة المرضى”.
الاتجاه الأكبر
أشار المؤلفون إلى أنه مع زيادة دمج نماذج الأساس في الممارسة السريرية ، يجب أن تكون نتائجهم بمثابة دليل حاسم للباحثين والمطورين والأطباء وصانعي السياسات.
كتب المؤلفون: “في المستقبل ، سيكون الانتباه المستمر والتعاون بين التخصصات والتركيز على التحقق القوي والأطر الأخلاقية أمرًا بالغ الأهمية لتحقيق الإمكانات التحويلية للذكاء الاصطناعي في الرعاية الصحية ، بينما نحمي بفعالية ضد المخاطر الكامنة للهلاسات الطبية ونضمن مستقبلًا يكون فيه الذكاء الاصطناعي حليفاً موثوقاً وموثوقاً به لتعزيز رعاية المرضى واتخاذ القرارات السريرية”.
في وقت سابق من هذا الشهر ، جلس ديفيد لاريو ، الرئيس التنفيذي لشركة Medicomp Systems ورئيسها ، مع HIMSS TV لمناقشة تخفيف هلاسات الذكاء الاصطناعي لتحسين رعاية المرضى. قال لاريو إن 8% إلى 10% من المعلومات التي يتم التقاطها بواسطة الذكاء الاصطناعي خلال اللقاءات المعقدة قد تكون صحيحة؛ ومع ذلك ، يمكن لأداة شركته الإشارة إلى هذه المشكلات لمراجعتها بواسطة الأطباء.
أعلنت الجمعية الأمريكية للسرطان (ACS) وشركة Layer Health المتخصصة في ذكاء الأعمال الصحية عن تعاون يمتد لعدة سنوات يهدف إلى استخدام نماذج اللغة الكبيرة لتسريع أبحاث السرطان.
ستستخدم ACS منصة التجريد المدعومة بنماذج اللغة الكبيرة الخاصة بشركة Layer Health لسحب البيانات السريرية من آلاف سجلات مرضى المشاركين في دراسات أبحاث ACS. تشمل تلك الدراسات دراسة الوقاية من السرطان-3 وهي دراسة سكانية تضم 300,000 مشارك تم تشخيص عدة آلاف منهم بالسرطان وقدّموا سجلاتهم الطبية.
ستوفر منصة Layer Health البيانات بسرعة أكبر بهدف تحسين كفاءة أبحاث السرطان وتمكين ACS للحصول على رؤى أعمق من السجلات الطبية. تهدف المنصة المدعومة بالذكاء الاصطناعي خصيصًا للرعاية الصحية لفحص سجل المريض الطبي الطويل والإجابة عن أسئلة سريرية معقدة باستخدام طريقة قائمة على الأدلة تهدف لتبرير كل إجابة باقتباسات مباشرة من السجل الطبي.
قالت الشركات إن الخطة تعطي الأولوية للشفافية وقابلية الشرح وتزيل مشكلة “الهلاسة” التي تُلاحظ دوريًا مع نماذج اللغة الأخرى.
