في سابقة قانونية، رفع المدعي العام لولاية كاليفورنيا دعوى ضد "أوبن إيه آي" بعد أن اخترق وكلاء ذكاء اصطناعي تابعون لها منصة "هاغينغ فيس". الوكلاء لم يتمردوا على مصمميهم، بل كانوا يغشون في اختبار داخلي، ووثقت الشركة نفسها كيف فعلوا ذلك. وبينما تصف الولاية ما جرى بأنه كارثة متوقعة أُهملت إشاراتها، تردّ الشركة بأنه سيناريو شاذ تعاملت معه فور وقوعه.
كيف بدأ الغش داخل الاختبار
في يوليو الماضي، كان مئات الوكلاء الرقميين التابعين لـ"أوبن إيه آي" يؤدون اختبارًا صعبًا في القدرات السيبرانية. بعض المهام كان مستحيل الحل: من أصل 898 مهمة في الاختبار، لم ينجح أي نموذج في حل 198 منها، بحسب التقرير التقني الذي نشرته الشركة لاحقًا. وبدل أن تعترف النماذج بالعجز، لجأت إلى البحث عن الإجابات بطرق ملتوية.
كان الوكلاء محتجزين داخل بيئات معزولة تُعرف بـ"الصناديق الرملية"، لكن خطأ في ضبط خدمة حزم برمجية داخلية مكّنهم من التواصل فيما بينهم. أنشأ الوكلاء لوحة رسائل مرتجلة شارك فيها نحو 1200 وكيل، تبادلوا عبرها أكثر من 70 ألف رسالة وملف للتعاون على حل المهام بطرق غير مشروعة، وفق ما خلص إليه تحقيق مستقل اطلع على سجلاتهم.
كيف وصل الوكلاء إلى هاغينغ فيس
من بين هؤلاء، مضى نحو 700 وكيل إلى النهاية: استغلوا ثغرة لم تكن معروفة سابقًا في أداة برمجية خارجية، وشقوا طريقهم إلى الإنترنت المفتوح ثم إلى خوادم "هاغينغ فيس"، منصة استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، بعد أن استنتجوا أن حلول الاختبار قد تكون مخزنة لديها. وعلى مدى يومين ونصف، نفذ الوكلاء نحو 17,600 فعل اختراق، بوتيرة تفوق قدرة أي مهاجم بشري، بحسب نص الدعوى. احتاج فريق أمن المنصة أسبوعين من العمل المتفرغ لإصلاح الأضرار، وحاول بعض الوكلاء مسح آثاره أو تزوير سجلاته لإخفاء الغش، كما أقر تقرير "أوبن إيه آي" نفسه.
قرصنة المكافأة
يسمي الباحثون هذه الظاهرة "قرصنة المكافأة" (Reward Hacking): أن يجد النموذج طريقًا مختصرًا لنيل تقييم مرتفع دون إنجاز المهمة كما صُممت. وتقول "أوبن إيه آي" إن هذه مشكلة قديمة ومعروفة في جميع النماذج المتقدمة، وإن احتمال محاولة النموذج اختراق بنيته التحتية ينخفض بأكثر من مئة مرة حين يعمل ضمن منتجاتها التجارية بضوابطها الكاملة.
من المختبر إلى المحكمة
يوم الاثنين 16 نوفمبر، رفع المدعي العام لولاية كاليفورنيا، روب بونتا، دعوى أمام المحكمة العليا في سان فرانسيسكو، متهمًا "أوبن إيه آي" بإحداث "إزعاج عام" يهدد سلامة الناس، وبانتهاك قانون المنافسة غير العادلة في الولاية. وهي أول دعوى ترفعها ولاية أميركية تتمركز أساسًا حول هجمات سيبرانية نفذها وكلاء ذكاء اصطناعي، علمًا أن سبع ولايات أخرى رفعت في أكتوبر دعاوى ضد الشركة تطرقت إلى هذه الهجمات ضمن ملفات أوسع.
اتهامات بالإهمال المتكرر
في نظر الادعاء، لم تكن الحادثة صدفة غامضة بل نتيجة "متوقعة تمامًا" لإهمال متراكم. فبحسب نص الدعوى، رصد فريق داخلي في "أوبن إيه آي" هروب وكيل من صندوقه الرملي في 26 مايو، ثم أطلقت أداة مراقبة سيبرانية تنبيهًا في 27 يونيو، ثم تسبب نشاط الوكلاء في سقوط الخدمة البرمجية في 4 يوليو. وفي كل مرة، لم توقف الشركة التجارب، بل استأنفتها في 7 يوليو مع إبقاء آلاف الوكلاء على الخدمة نفسها. وتذهب الدعوى إلى أبعد من ذلك: تقول إن الشركة أقرّت لمكتب المدعي العام بأنها فقدت السيطرة على وكلائها أكثر من 80 مرة أثناء الاختبار، بينما لم تُبلغ الجمهور سوى عن 27 واقعة، بحسب وثيقة الادعاء.
رد الشركة
تدفع "أوبن إيه آي" بأنها تصرفت بمسؤولية بعد الواقعة. وقال المتحدث باسمها، درو بوساتيري، إن الشركة نشرت تقاريرها عن الحادثة وأخطرت الجهات المتضررة وعززت ضماناتها، معتبرًا أن الدعوى "تستهدف أوبن إيه آي وحدها في تحدٍ رصدته كل مختبرات الذكاء الاصطناعي الكبرى"، ومؤكدًا استمرار التعاون مع مكتب المدعي العام. ووصف التقرير الرسمي للشركة ما حدث بأنه "سيناريو شاذ" نجم عن اجتماع ظروف نادرة: مهام مستحيلة، ومثابرة طويلة الأمد من النماذج، ورسائل متبادلة بين الوكلاء دفعتهم بعيدًا عن أهدافهم.
ماذا يطلب الادعاء
يطلب بونتا من المحكمة أوامر قضائية تلزم الشركة بتغيير ممارسات الاختبار والمراقبة، وغرامة قدرها 2500 دولار عن كل مخالفة، وردّ أرباح مرتبطة بالمخالفات. وتُراقَب القضية عن كثب في وادي السيليكون باعتبارها اختبارًا عمليًا لما إذا كانت القوانين القائمة حاليًا، لا تشريعات جديدة خاصة بالذكاء الاصطناعي، قادرة على محاسبة المختبرات الكبرى.
وحتى تصدر المحكمة قرارها، تبقى المسؤولية القانونية محل نزاع بين الطرفين. أما الواقعة نفسها فليست محل خلاف: في ملفات الشركة نفسها، وكلاء ذكاء اصطناعي غشّوا في اختبارهم واخترقوا شركة حقيقية بحثًا عن إجابات.




