أظهرت دراسة حديثة أن نظم الذكاء الاصطناعي لا يزال بعيدًا عن الكمال وقد يكون متحيزًا في اتخاذ القرارات الطبية.
وحذرت الدراسة الأطباء الذين يعتمدون على هذه التقنية في تشخيص المرضى قد يواجهون صعوبة في اكتشاف التحيزات الموجودة في هذه الأنظمة.
مساعد جيد
صممت الدراسة لاختبار كيفية تأثير اتخاذ القرارات من قِبل الذكاء الاصطناعي على دقة التشخيص، وتبين أن استخدام الذكاء الاصطناعي ساعد الأطباء في تحسين دقتهم في التشخيص.
وعندما قام الباحثون باختبار نظام الذكاء الاصطناعي الذي برمج بوجه متعمد ليكون متحيزًا تجاه تشخيصات معينة للمرضى الذين يتمتعون بسمات محددة، لوحظ انخفاض في دقة التشخيص من قبل الأطباء.
وشددت الدراسة على أهمية الحذر عند تطوير نماذج الذكاء الاصطناعي، من أجل تجنب التحيزات المحتملة، ويعد هذا البحث خطوة هامة في توعية الأطباء بضرورة التعامل مع مشكلة التحيز في استخدام التقنيات الذكية في مجال الرعاية الصحية.
كما توصلت الدراسة إلى أن الذكاء الاصطناعي قد يكون متحيزًا في تشخيصاته، حيث تم تصميم ثلاثة تنبؤات للذكاء الاصطناعي بشكل متعمد ليكون لها تحيز، على سبيل المثال، كانت تنبؤات الذكاء الاصطناعي تعتمد على العمر وتزيد بشكل غير متناسب من احتمالية تشخيص المرضى الذين تزيد أعمارهم عن 80 عامًا بالتهاب رئوي.
تأثير تحيز الذكاء الاصطناعي
يقوم الذكاء الاصطناعي بتصنيف كل تشخيص محتمل على مقياس من 0 إلى 100، حيث يعتبر الرقم 100 الأكثر تأكيدًا، وفي حال الحصول على نتيجة 50 أو أعلى، يقدم الذكاء الاصطناعي تفسيرًا لكيفية وصوله إلى هذه النتيجة، مستندًا إلى "خرائط حرارية" ينشئها لتحديد مناطق الأشعة السينية على الصدر التي يعتبرها الذكاء الاصطناعي الأكثر أهمية في اتخاذ القرار.
وأوضحت نتائج الدراسة أن الذكاء الاصطناعي قد يكون متحيزًا في تشخيصاته واختيار العلاجات الصحيحة، ويمكن أن يؤثر سلبًا على قدرة الأطباء على تحديد التشخيص الصحيح، حيث وصلت نسبة الدقة إلى 55.1% فقط عندما استخدم الأطباء التنبؤات المتحيزة التي قدمها الذكاء الاصطناعي، بينما كانت نسبة الدقة بدون استخدام الذكاء الاصطناعي 70.3%.
وشدد ريكي ليونغ الأستاذ المتخصص في مجال الذكاء الاصطناعي والصحة والمشارك في الدراسة، على أهمية فهم الأطباء للنماذج الذكية التي يعتمدون عليها والتحقق من وجود أي تحيزات محتملة.
ونصح القائمون على الدراسة بتطوير أدوات الذكاء الاصطناعي المستخدمة في التشخيص واختبارها سريريًا، مع التركيز على تقليل التحيز، بالإضافة إلى تدريب الأطباء على كيفية استخدام الذكاء الاصطناعي بشكل صحيح في التشخيص والتعرف على علامات التحيز.
اقرأ أيضاً:
منصات جديدة تدعم الحكومة الرقمية في المملكة
تجربة استثنائية لضيوف الرحمن.. وزير الحج والعمرة يكشف سبب التحول من “اعتمرنا” إلى “نسك”
