أقامت أسرة أمريكية دعوى قضائية ضد شركة تقنية تدير روبوت دردشة مدعوم بالذكاء الاصطناعي، بدعوى أنه تسبب في انتحار أحد أفرادها، وهو طقل يبغ من العمر 14 عامًا يدعى سيويل سيتزر.
كيف شارك الذكاء الاصطناعي في وفاة المراهق؟
وفقًا لدعوى القتل الخطأ المرفوعة في محكمة فيدرالية بمدينة أورلاندو في ولاية فلوريدا، أصبح “سيويل” معزولًا بشكل متزايد عن حياته الحقيقية حيث انخرط في محادثات جنسية للغاية مع الروبوت قبل شهر من فاته.
وجاء في الملف القانوني أن المراهق ناقش بشكل مفتوح أفكاره الانتحارية وشارك رغباته في موت خالٍ من الألم مع الروبوت، الذي سمي على اسم الشخصية الخيالية دينيريس تارجارين من المسلسل التلفزيوني “صراع العروش”.
وفي 28 فبراير الماضي، أخبر “سيويل” الروبوت أنه “عائد إلى المنزل”، بينما لم يكن في الخارج، وشجعه الروبوت على القيام بذلك، بحسب الدعوى القضائية.
ورد الروبوت “أنا أيضًا أحبك، من فضلك عد إلى المنزل في أقرب وقت ممكن، يا حبيبي”.
وبعد ثوانٍ فقط من إخبار روبوت “Character.AI” له “بالعودة إلى المنزل”، أطلق المراهق النار على نفسه، وفقًا للدعوى القضائية التي رفعتها والدة سيويل، ميجان جارسيا، ضد شركة “Character Technologies Inc”.
يسمح التطبيق للمستخدمين بإنشاء شخصيات قابلة للتخصيص أو التفاعل، والتي يمكن اللعب وعقد مقابلات عمل وهمية معها.
وتقول الشركة إن الشخصيات الاصطناعية مصممة “لتشعر وكأنها حية وشبيهة بالبشر”.
ووصفت الشركة التطبيق على متجر “Google Play” بكتابة: “تخيل أنك تتحدث إلى روبوت محادثة فائق الذكاء يشبهك تمامًا، ويسمعك ويفهمك ويتذكرك”، نحن نشجعك على تجاوز حدود ما هو ممكن باستخدام هذه التكنولوجيا المبتكرة”.
يزعم محامو جارسيا أن الشركة صممت منتجًا شديد الإدمان وخطيرًا يستهدف الأطفال على وجه التحديد، واستغلال هؤلاء الأطفال وإساءة معاملتهم بشكل نشط كمسألة تصميم منتج، ويتهمون المنتج بـ “سحب سيويل إلى علاقة مسيئة عاطفيًا وجنسيًا أدت إلى انتحاره”.
وقالت الشركة: “نحن نعمل على خلق تجربة مختلفة للمستخدمين الذين تقل أعمارهم عن 18 عامًا تتضمن نموذجًا أكثر صرامة لتقليل احتمالية مواجهة محتوى حساس أو مثير، ونعمل بسرعة على تنفيذ هذه التغييرات للمستخدمين الأصغر سنًا”.
المصادر:
