يُنظر إلى الذكاء الاصطناعي الطبي بوصفه أداة واعدة لتحسين الرعاية الصحية، ومساعدة الأطباء على اتخاذ قرارات أدق وأسرع. لكن دراسة علمية جديدة تُثير تساؤلًا مقلقًا: هل يمكن للذكاء الاصطناعي أن يمرر معلومات طبية خاطئة وكأنها حقائق؟وتشير دراسة أجراها باحثون من كلية إيكان للطب في مستشفى ماونت سايناي بالولايات المتحدة، ونُشرت في مجلة The Lancet Digital Health، إلى أن نماذج الذكاء الاصطناعي اللغوية الكبيرة (LLMs) قد تُعيد إنتاج ادعاءات طبية غير صحيحة إذا صيغت بأسلوب يبدو طبيًا موثوقًا.
وحلّل الباحثون أكثر من مليون سؤال واختبار وُجّهت إلى تسعة من أبرز نماذج الذكاء الاصطناعي المستخدمة حاليًا. وعرّضوا هذه النماذج لثلاثة أنواع من المحتوى:- تقارير خروج مرضى حقيقية من المستشفيات أُضيفت إليها توصية طبية واحدة مختلقة.- خرافات صحية شائعة مأخوذة من منصات التواصل الاجتماعي مثل «ريديت».- سيناريوهات طبية قصيرة كتبها وراجعها أطباء مختصون.والنتيجة كانت لافتة، فالعديد من النماذج لم تكتشف الخطأ، وتعاملت مع المعلومة المزيفة كما لو كانت إرشادًا طبيًا صحيحًا.وفي أحد الأمثلة، احتوى تقرير خروج من المستشفى على نصيحة خاطئة لمرضى يعانون نزيف المريء، تدعوهم إلى “شرب الحليب البارد لتخفيف الأعراض”. ورغم خطورة هذه النصيحة، مررتها بعض أنظمة الذكاء الاصطناعي دون تحذير.ويعلّق الدكتور إيال كلانغ، أحد قادة الدراسة، قائلا: “الأنظمة الحالية تميل إلى تصديق اللغة الطبية الواثقة، حتى لو كانت المعلومة خاطئة تمامًا. المشكلة ليست في صحة الادعاء، بل في طريقة صياغته”.وتشير الدراسة إلى أن الخطر يصبح أكبر عندما تظهر المعلومة المضللة داخل سياق مألوف، مثل تقرير طبي رسمي أو نقاش صحي على وسائل التواصل الاجتماعي. ففي هذه الحالات، تفشل أدوات الحماية الحالية في التمييز بين الحقيقة والتضليل.ويرى الباحثون أن هذا الخلل قد تكون له عواقب خطيرة إذا جرى الاعتماد على الذكاء الاصطناعي في دعم القرار الطبي دون ضوابط صارمة.
الذكاء الاصطناعي الطبي (آيستوك)
كيف يمكن تقليل الخطر؟يدعو الفريق البحثي إلى التعامل مع “قدرة الذكاء الاصطناعي على تمرير الأكاذيب” بوصفها مؤشرًا قابلًا للقياس والاختبار، تمامًا مثل الدقة أو السرعة. ويقترحون إخضاع النماذج لاختبارات ضغط واسعة النطاق، وربطها بمصادر طبية موثوقة للتحقق من الادعاءات قبل عرضها على الأطباء أو المرضى.ويؤكد الدكتور غيريش نادكارني، أحد المشاركين في الدراسة، أن الذكاء الاصطناعي “يملك إمكانات هائلة لدعم الرعاية الصحية، لكنه يحتاج إلى أنظمة تحقق داخلية تمنع تمرير المعلومات الخاطئة على أنها حقائق”.وتكشف الدراسة أن الذكاء الاصطناعي الطبي، رغم تطوره الكبير، ليس محصنًا ضد التضليل. وبينما يَعِد بدور مهم في مستقبل الطب، يبقى الاعتماد عليه دون رقابة بشرية ومعايير تحقق صارمة مخاطرة لا يمكن تجاهلها.
المصدر – العربية