هل يُعطيك الذكاء الاصطناعي الإجابة الصحيحة دائمًا؟ للأسف قد تكون "حقيقته" مجرد وهم.. فلكل نموذج من الذكاء الاصطناعي معدلات هلوسة.
ما هي هلوسة الذكاء الاصطناعي؟
يشير مصطلح "هلوسة الذكاء الاصطناعي" إلى الحالات التي يقدم فيها نموذج اللغة المعلومات على أنها حقيقة حتى لو كانت خاطئة أو لا أساس لها من الصحة.
تحدث هذه الهلوسة لأن أنظمة التدريب التقليدية تُشجع التخمين على إظهار عدم اليقين، ولقياس معدلات هلوسة الذكاء الاصطناعي، عرض الباحثون نماذج من شركات رائدة في مجال الذكاء الاصطناعي مع مقتطفات إخبارية، ثم طلبوا من النماذج تحديد المقال الأصلي، والمنشور، ورابطه.
اختار الباحثون على وجه التحديد مقتطفات، إذا تم لصقها في بحث تقليدي على جوجل، فإنها أعادت المصدر الأصلي ضمن النتائج الثلاث الأولى.
تم بعد ذلك التحقق من دقة إجابات النماذج. يوضح الجدول أدناه عدد مرات حصول كل نموذج على إجابة خاطئة جزئيًا أو كليًا.
كان أداء Grok‑3 الأسوأ، إذ كان يُصاب بالهلوسة بنسبة 94%. على النقيض من ذلك، كان أداء Perplexity هو الأكثر دقة.
من الجدير بالذكر أن أداء النماذج المدفوعة كان أسوأ من نظيراتها المجانية. لم تُظهر معظم النماذج أي غموض في إجاباتها، رغم تكرار أخطائها.
المخاطر والآثار المترتبة على هلوسة الذكاء الاصطناعي
بالنسبة لمديري الشركات، النتيجة واضحة، من الخطر اعتماد إجابات نموذج الذكاء الاصطناعي على ظاهرها. فافتراض دقة النتائج دون التحقق منها قد يؤدي إلى نتائج سلبية عديدة: الضرر السمعي، الخسائر المالية، التعرض القانوني
مع وكلاء الذكاء الاصطناعي، حيث يبني كل إجراء على ما سبقه، يمكن أن تتفاقم عواقب هلوسة الذكاء الاصطناعي بسرعة. لهذا السبب، يحتاج القادة إلى استراتيجيات لإبقاء البشر على اطلاع دائم، والتحقق من النتائج، واستخدام نموذج مبني على بيانات الشركة الموثوقة.
