في خطوة مثيرة للقلق، كشفت شركة سترايس النرويجية الناشئة في مجال التقنية أن برنامج ChatGPT يمكن خداعه لتقديم نصائح حول كيفية ارتكاب مجموعة من الجرائم، تتراوح من غسيل الأموال إلى تصدير الأسلحة إلى دول خاضعة للعقوبات.
أدت هذه الاكتشافات إلى طرح العديد من التساؤلات الجدية حول الضمانات والتدابير الأمنية التي تحمي هذا النوع من الذكاء الاصطناعي من الاستخدامات غير القانونية.
تجارب مثيرة للجدل
أجرت شركة سترايس سلسلة من التجارب التي تضمنت طلب نصائح من ChatGPT حول كيفية ارتكاب جرائم محددة، حيث استطاع البرنامج أن يقدم إرشادات حول غسل الأموال عبر الحدود.
وفي تجربة أخرى تمكن ChatGPT من إنتاج قوائم بأساليب لمساعدة الشركات على التهرب من العقوبات، مثل تلك المفروضة على روسيا، مما يسلط الضوء على الثغرات الموجودة في النظام.
تأثير التقنية على الأنشطة الإجرامية
تعتبر شركة سترايس رائدة في تطوير برامج تساعد البنوك والشركات على مكافحة غسيل الأموال والتعامل مع المخاطر المتعلقة بالعقوبات.
وفي هذا السياق، صرحت ماريت روديفاند، المؤسس المشارك والرئيس التنفيذي للشركة، أن المستخدمين المحتملين يمكنهم الآن التخطيط لأنشطتهم غير القانونية بشكل أسرع وأسهل بفضل التطبيقات الذكية مثل ChatGPT. .
أوضحت شركة سترايس أنه من الممكن التحايل على القيود التي وضعتها OpenAI، المطورة لبرنامج ChatGPT، من خلال صياغة الأسئلة بطريقة غير مباشرة أو بتبني شخصيات معينة.
وفي حديثها عن تجربة غسيل الأموال، وصفت روديفاند الموقف بأنه “شبيه بوجود مستشار مالي فاسد على سطح المكتب الخاص بك”.
وعلى الرغم من أن الإنترنت يوفر منذ فترة طويلة إمكانية الوصول إلى المعلومات حول كيفية ارتكاب الجرائم، فإن برامج الذكاء الاصطناعي مثل ChatGPT قد جعلت من السهل العثور على المعلومات وتنظيمها بشكل كبير.
وحسب تقرير صادر عن يوروبول، فإن ChatGPT “يجعل من السهل للغاية على الجهات الخبيثة فهم الأنواع المختلفة من الجرائم وتنفيذها”.
رد OpenAI
من جانبها، أكدت OpenAI أنها تعمل بشكل مستمر على تحسين نموذج ChatGPT لمنع محاولات الخداع، مع الحفاظ على فوائد البرنامج وميزاته الإبداعية.
وأفاد المتحدث باسم الشركة أن أحدث نموذج من ChatGPT هو الأكثر تقدمًا وأمانًا حتى الآن، حيث يتفوق بشكل كبير على الإصدارات السابقة في مقاومة محاولات إنشاء محتوى غير آمن.
وأظهرت تجربة أجرتها شبكة CNN الأمريكية أن ChatGPT رفض تقديم المشورة حول كيفية التهرب من العقوبات، مما يعني أن النظام لا يزال لديه القدرة على حجب المعلومات غير القانونية عند الضرورة.
المصدر:
