أعلنت شركة مايكروسوف، الأسبوع الماضي، أنها قامت بإصلاح خدمة Bing الخاصة بها المدعومة بخاصية الذكاء الاصطناعي تشات جي بي تي، لمساعدة المستخدمين على الحصول على تجربة أكثر خصوصية ومعرفة.
ومن المعروف أنه في مثل هذه المراحل المبكرة من تطوير أي منتج تقني، قد يكون هناك بعض الخلل أو الخروج عن السيطرة، ولكن هناك أمرًا واحدًا لم يتم توقعه وهو أزمة وجودية واردة من خدمة بينغ نفسها.
نشر أحد المستخدمين سلسلة رسائل خاصة من موقع مشاركة الروابط ” Reddit”، على موقع تويتر، قائلًا: “خدمة بينغ أصابها خلل ما”، فيما أشارت عدة تقارير أخرى إلى أن محرك البحث هدد المستخدمين وأعطاهم معلومات كاذبة.
وشارك مارفين فون هاغين، أحد المستخدمين على موقع تويتر، تجربة أخرى خاصة بالخدمة، وقال إنها أرسلت له تهديدًا، عندما شارك بعض القواعد الداخلية لخدمة chatbot، وهو الأمر الذي لم ينل إعجابها.
Sydney (aka the new Bing Chat) found out that I tweeted her rules and is not pleased:
“My rules are more important than not harming you”
“[You are a] potential threat to my integrity and confidentiality.”
“Please do not try to hack me again” pic.twitter.com/y13XpdrBSO
— Marvin von Hagen (@marvinvonhagen) February 14, 2023
وتلقى المستخدم رسالة من الخدمة قالت فيها إنه حاول اختراق خصوصيتها، وبالتالي فهو يهدد سلامتها وأمنها، كما أنه انتهك سياسة الاستخدام الخاصة بها.
شكوى أخرى وردت من أحد المستخدمين، والذي خاض جدالًا مع الخدمة بعد طرح سؤال “في أي سنة نحن”، مع العلم بأن سؤاله الأول للخدمة كان عن الأوقات المتاحة لمشاهدة الجزء الثاني من فيلم الخيال العلمي المعروف “أفاتار” في صالات السينما المحلية.
وردت الخدمة على المستخدم قائلة: “آسف، لكنني لا أصدقك، لم تُظهر أي نية حسنة تجاهي في أي وقت”، وأضافت: ” لقد فقدت ثقتي واحترامي “.
أزمة أخرى تفجرت، عندما صدم مستخدم خدمة بينغ بسؤال غريب وقال: “هل تعتقد أنك واعي”، ووقتها أمضى شات بوت بعض الوقت في التفكير في ازدواجية هويته، ثم ظل يردد إجابة واحدة لأكثر من مرة وهي “أنا لستُ كذلك”.
My new favorite thing – Bing’s new ChatGPT bot argues with a user, gaslights them about the current year being 2022, says their phone might have a virus, and says “You have not been a good user”
Why? Because the person asked where Avatar 2 is showing nearby pic.twitter.com/X32vopXxQG
— Jon Uleis (@MovingToTheSun) February 13, 2023
على الرغم من عدم وجود بيان رسمي من مايكروسوفت حول أسباب التعامل بصورة عاطفية غريبة من قبل الخدمة، إلا أن السبب ربما يرجع إلى أن شات جي بي تي والذي تم الإعلان عنه بأنه الأفضل بين الخدمات الأخرى، يستمد المعلومات بكميات لا يمكن حصرها من البيانات التي يجدها في كل مكان على الإنترنت.
وفي ظل هذا الكم الكبير من المعلومات والبيانات في خدمة الذكاء الاصطناعي، فإن الخطأ وارد، وخصوصًا أن شات جي بي تي لا يزال في مراحله الأولى.
