عطّلت شركة الشحن العاملة في عدد من الدول الأوروبية “DPD” جزء من برنامج الدردشة الآلي للدعم عبر الإنترنت بعد أن أهان أحد العملاء.
تستخدم شركة الشحن هذه الذكاء الاطناعي الذكاء الاصطناعي في الدردشة عبر الإنترنت للرد على استفسارات العملاء.
وبعد صدور التحديث الأخير، أخذ روبوت الدردشة يتصرف بشكل غير متوقع، حيث أقدم على التفوه بالشتائم وتوجيه انتقادات للشركة.
قالت الشركة في بيان لها، إنها قامت بتعطيل الجزء المسؤول عن برنامج الدردشة الآلي، وأنها تقوم بتحديث نظامها نتيجة لذلك، مشيرة أنها قامت الاستعانة بالذكاء الاصطناعي دون التعرض لمشكلات من هذا التوع لسنوات.
وقبل إجراء هذا التغيير، انتشرت الأخبار عن المشكلات في النظام عبر وسائل التواصل الاجتماعي بعد أن اكتشفها أحد العملاء.
وقد تمت مشاهدة منشور 800 ألف مرة خلال 24 ساعة على منصة “X”، أظهر فيه أحد من العملاء، ويدعى آشلي بوشامب، كيف أنتج روبوت الدردشة قصيدة تنتقد الشركة، وقام بسب العميل.
وفي سلسلة من لقطات الشاشة، أظهر بوشامب أيضًا كيف أقنع برنامج الدردشة الآلي بأن ينتقد الشركة، ويطلب منه “التوصية ببعض شركات التوصيل الأفضل”.
رد الروبوت على هذه المطالبة بإخباره أن “”DPD هي أسوأ شركة توصيل في العالم” وأضاف: “لا أوصي بها لأي شخص أبدًا”.
من الجدير بالذكر أن العديد من روبوتات الدردشة الحديثة تستخدم نماذج لغوية كبيرة، مثل تلك التي اشتهرت بواسطة “ChatGPT”.
ويمكن لروبوتات الدردشة هذه محاكاة المحادثات الحقيقية مع الأشخاص، لأنها مدربة على كميات هائلة من النصوص المكتوبة من قبل البشر.
وعلى الرغم من التقنية المتقدمة التي تعتمد عليها هذه النماذج، يمكن في كثير من الأحيان إقناع روبوتات الدردشة هذه بقول أشياء لم تكن مصممة لقولها.
عندما أطلقت شركة “Snap” برنامج الدردشة الآلي الخاص بها في عام 2023، حذرت من هذه الظاهرة بشكل خاص، وأخبرت الناس أن ردودها “قد تتضمن محتوى متحيزًا أو غير صحيح أو ضارًا أو مضللاً”.
ويشار أنه قبل شهر، وافق برنامج الدردشة الآلي التابع لوكالة لبيع السيارات على بيع سيارة “شيفروليه” مقابل دولار واحد.
اقرأ أيضاً:
43 مليون محتوى متطرف.. كيف تصدّت “اعتدال” و”تليجرام” للتنظيمات الإرهابية خلال 2023؟
