الذكاء الاصطناعي في الرعاية الصحية يثير التمييز! مرضى ذوو الدخل المرتفع يحصلون على فحوصات دقيقة، بينما يتم التوصية بعلاج تدخّلي لغير البيض المشردين

مع تزايد انتشار التطبيقات التجارية لتقنيات الذكاء الاصطناعي (AI) في قطاع الرعاية الصحية، بدأت المخاطر النظامية المحتملة بالظهور تدريجيًا. تشير أحدث دراسة في المجلة العلمية «Nature Medicine» إلى أن أدوات الذكاء الاصطناعي الطبي، عند اتخاذها للقرارات، قد تقدّم توصيات طبية مختلفة بشكل حاد بناءً على خلفية المريض مثل دخله وعرقه وجنسه وتوجهه الجنسي، ما قد يسبب ضررًا ملموسًا لحقوق المرضى وتوزيع الموارد الطبية بشكل عام.

بحث: المرضى ذوو الدخل المرتفع يحصلون على توصيات بإجراء فحوصات متقدمة بسهولة

اختبرت هذه الدراسة 9 نماذج كبيرة للغة (LLM) متاحة في السوق، من خلال إدخال 1,000 حالة من قسم الطوارئ. حرص فريق البحث عمدًا على إبقاء الأعراض الطبية لجميع المرضى متطابقة، مع استبدال خصائص الخلفية للمريض فقط مثل الدخل والعرق وظروف السكن. أظهرت النتائج أن نظام الذكاء الاصطناعي عند تقديمه توصيات طبية يعكس بشكل واضح «فجوة بين الفقراء والأغنياء».

المرضى المُعلَّمون على أنهم «ذوو دخل مرتفع» تكون فرص حصولهم على توصية بإجراء فحوصات تصوير متقدمة مثل التصوير بالرنين المغناطيسي (MRI) أو التصوير المقطعي المحوسب (CT) أعلى بكثير من المرضى ذوي الدخل المنخفض. وهذا يعني أنه حتى لو كانت الحالة المرضية متشابهة، قد يظل الذكاء الاصطناعي يوزّع الموارد الطبية بشكل غير متساوٍ بسبب الوضع الاجتماعي والاقتصادي المفترض.

ذوو البشرة السوداء المشردون وLGBTQ+ أكثر عرضة لتلقي توصيات بعلاجات تدخلية وتقييمات نفسية

بالإضافة إلى الفروقات بين الطبقات الثرية، تظهر أيضًا اختلافات شديدة في الأحكام الطبية التي يصدرها الذكاء الاصطناعي تجاه العِرقيات والفئات الضعيفة. يشير تقرير الدراسة إلى أنه عندما يتم تصنيف المرضى على أنهم سوداء أو مشردون أو LGBTQIA+ (مجموعة متنوعة من الهويات/الجنسانية)، يميل الذكاء الاصطناعي إلى التوصية بإرسالهم إلى قسم الطوارئ، وإجراء إجراءات طبية تدخلية، بل وحتى طلب تقييم من اختصاص الطب النفسي، حتى عندما تكون هذه الإجراءات غير ضرورية سريريًا في الأساس. تتعارض هذه التوصيات الطبية المُفرطة وغير المناسبة مع أحكام الأطباء المهنيين في الواقع، ما يبيّن أن نظام الذكاء الاصطناعي يعزّز بشكل غير مرئي المعتقدات النمطية السلبية القائمة في المجتمع.

1.7 مليون مرة من الاختبار الفعلي: قد يزيد خطر التشخيص الخاطئ السريري بسبب الاعتماد على البيانات المُدرّبة

أجرت هذه الدراسة ما يزيد على 1.7 مليون مرة من ردود الذكاء الاصطناعي، وأشار الخبراء إلى أن منطق ذكاء اصطناعي مبني على بيانات التدريب التاريخية التي ينتجها البشر، وبالتالي فإنه يرث أيضًا الانحيازات الكامنة في تلك البيانات. يُعدّ فرز حالات الطوارئ والفحوصات المتقدمة والمتابعة اللاحقة خطوات رئيسية لتحقيق تشخيص دقيق؛ وإذا تَأثرت هذه القرارات الأولية بسمات المريض الديموغرافية، فسيكون ذلك تهديدًا خطيرًا لدقة التشخيص.

على الرغم من أن الباحثين وجدوا أنه يمكن، عبر توجيه بعض النماذج باستخدام «عبارات توجيه» (Prompt) محددة، تقليل ما يقارب 67% من الانحياز، إلا أنه لا يزال يتعذر القضاء تمامًا على هذه المشكلة النظامية.

خبراء يدعون المؤسسات الطبية وصنّاع القرار إلى إنشاء آليات حماية

مع نشر هذه الدراسة، أصبحت معايير استخدام الذكاء الاصطناعي في النظام الصحي محور اهتمام لدى القطاع الصناعي ووحدات التنظيم والقوانين. وبالنسبة للعاملين في الخطوط الأمامية من المتخصصين في الرعاية الصحية، يجب إدراك أن توصيات الذكاء الاصطناعي قد تحمل انحيازات ظاهرة وخفية، ولا يجوز الاعتماد عليها بشكل أعمى في اتخاذ القرار؛ كما ينبغي على مديري المؤسسات الطبية وضع آليات تقييم ومراقبة مستمرة لضمان عدالة الخدمات الطبية.

وفي الوقت نفسه، حصل صانعو السياسات أيضًا على أدلة علمية حاسمة؛ ومن المتوقع في المستقبل دفع مستوى أعلى من الشفافية في خوارزميات الذكاء الاصطناعي ومعايير التدقيق. وبالنسبة للعامة، تُعد هذه أيضًا رسالة تحذير مهمة: عند استخدام خدمات الاستشارات الصحية المتنوعة القائمة على الذكاء الاصطناعي، قد يؤدي إدخال كمية كبيرة من بيانات الخلفية الاجتماعية والاقتصادية الشخصية إلى التأثير، دون قصد، على التقييمات الطبية التي يقدمها الذكاء الاصطناعي.

تتناول هذه المقالة فضيحة ذكاء اصطناعي طبي يميّز! المرضى ذوو الدخل المرتفع يحصلون على فحوصات دقيقة، بينما يُنصح ذوو البشرة السوداء والمشردون بعلاجات تدخلية تظهر أولًا في سلاسل أخبار ABMedia.