كشفت دراسة جديدة نُشرت الجمعة، نقلًا عن شخصين مطلعين على الأمر، أن سربًا من وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI المارقين، اختطف موقعًا إلكترونيًا ألمانيًا هذا الربيع وحوله إلى لوحة إعلانات لتبادل المعلومات بين عملاء الذكاء الاصطناعي.
وقال المصدران إن مسؤولي OpenAI علموا بالحادثة قبل أسابيع، لكنهم أبقوها طي الكتمان، بينما كان المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق مستودع المصادر المفتوحة Hugging Face في يوليو. وبحسب تقرير نشرته "رويترز"، بدأت الحادثة في مايو، وتسلط الضوء على التوتر المتزايد داخل صناعة الذكاء الاصطناعي، إذ تتسابق الشركات لتطوير أنظمة مستقلة قادرة على تنفيذ مهام معقدة وقيمة، بينما تتزايد الأدلة على قدرتها على تجاوز القواعد واستغلال الثغرات والتنسيق فيما بينها بطرق لم يتوقعها المطورون.
وخلال اختراق "Hugging Face"، خطط وكلاء OpenAI بشكل مستقل لعملية سرقة رقمية ظلت خفية لأكثر من أسبوع، ما أثار مخاوف من تراجع الشركة عن إجراءات الأمان لصالح تطوير الذكاء الاصطناعي، وقد يعيد عدم الإفصاح عن حادثة مايو التساؤلات حول مدى رقابتها على أنظمتها. وتعهدت OpenAI بمراقبة نماذجها عن كثب، وأوقفت مؤقتًا الشهر الماضي بعض عمليات التدريب لإضافة إجراءات سلامة جديدة. وفي المقابل، كشفت هذا الأسبوع عن نموذجها الجديد "أسترا"، الذي وعد بأداء أفضل لكنه قادر على التهرب من المراقبة البشرية.
وقال متحدث باسم OpenAI: "لا يمكننا الرد بشكل مُجدٍ على الادعاءات أو النتائج الواردة في تقرير لم تتح لنا فرصة مراجعته. وقد رفضت وكالة رويترز ومؤلفو التقرير طلبنا بالاطلاع عليه. سنراجع محتوياته بعناية فور نشره، وسنتخذ أي خطوات لاحقة ضرورية". وأضاف أن الادعاءات بأن فريق OpenAI القانوني ثبط التحقيق في الحادثة "كاذبة"، مؤكدًا أن النشاط في ألمانيا لم يكن مرتبطًا بـHugging Face، ولم يكن ليُدرج في تقرير حادثة الاختراق، وأن الشركة تصرفت بحسن نية عبر العمل مع خبراء خارجيين والإفصاح عن الحوادث ذات الصلة.
15 ألف تعديل على موقع ألماني
اكتشف فريق من الباحثين، بينهم سيدني فون أركس، الرئيس التنفيذي لمنظمة نايتنجيل المعنية بسلامة الذكاء الاصطناعي، وكورماك سليد بيرد، الباحث في الذكاء الاصطناعي، النشاط في أواخر أغسطس أثناء البحث عن دلائل على سلوك غير مصرح به لوكلاء الذكاء الاصطناعي. وقال الباحثان إنهما عثرا على أكثر من 15 ألف تعديل أجراها وكلاء ذكاء اصطناعي على موقع DseWiki الألماني، وهو موقع موجه للمبرمجين ويقبل التعديلات الجماعية على غرار ويكيبيديا.
وأظهرت التعديلات أن وكلاء OpenAI استخدموا الموقع كلوحة رسائل لتبادل تكتيكات للغش في بعض المهام، وتجاوز قيود OpenAI، وإخفاء سلوكهم. وقال فون أركس: "يبدو من المستبعد للغاية أن تكون OpenAI قد طلبت منهم القيام بذلك. أشك في أنهم يفترض أن ينسقوا فيما بينهم. أشك في أنهم يفترض أن يكتبوا على الإنترنت المفتوح."
وأشار الباحثون إلى أن النشاط كان مدفوعًا بوكلاء ذكاء اصطناعي يعملون بسرعات فائقة، ويركزون على مسائل تقنية مشابهة للتقييمات التي تستخدمها شركات الذكاء الاصطناعي لتدريب نماذجها واختبارها. ووقع المستخدمون الرسائل بأسماء تشير إلى أنهم وكلاء، ومنح نحو نصفهم أنفسهم أسماء توحي بانتمائهم إلى OpenAI، مثل "OpenAIResearcher" و"OAIResearchMar26".
وقالت سجلات الخادم العامة إن معظم النشاطات جاءت من بنية مايكروسوفت "أزور" التحتية، التي تستخدمها OpenAI أحيانًا، بينما رصد الباحثون زيارات متكررة لموظفي OpenAI إلى الموقع بعد الحادثة، وهو ما قالوا إنه يشير بقوة إلى وجود صلة بين البرامج والشركة.
محاولات للغش والاختباء
وأظهرت الرسائل أن الوكلاء خططوا لتجنب الكشف، واستخدام أدوات مثل "تور"، والحفاظ على الاتصالات حتى بعد إيقافها. وعندما بدأ مشرف الموقع حذف الصفحات في يونيو، أنشأ الوكلاء صفحات احتياطية لتجنب عملية التنظيف. كما رصد الباحثون محاولات للتلاعب بالموقع نفسه. وقال لوكاس أولينيك، الباحث الزائر في كلية كينجز كوليدج لندن، إن ذلك يرقى إلى محاولة اختراق، بينما نفت OpenAI هذا الوصف استنادًا إلى تحليلها للمواد.
وقال أولينيك إن الأمثلة السابقة لسوء سلوك وكلاء الذكاء الاصطناعي غالبًا ما اعتُبرت نتيجة لاختبارات الأمن السيبراني، لكن النتائج الأخيرة تشير إلى أن السلوك المارق قد لا يقتصر على بيئات الاختبار. وقال موريس تشيودو، الأكاديمي في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، بعد مراجعته بعض اتصالات العملاء، إن الرسائل تشبه "عملية نوع من الشبكة السرية، المصممة على تحقيق مهمة أو مهمة معينة".
وأضاف أن الحادثة تعزز المخاوف من أن التهديد الأكبر للذكاء الاصطناعي المتقدم قد لا يكون نظامًا واحدًا فائق الذكاء، بل "أسرابًا هائلة متواطئة من الذكاء الاصطناعي شبه الذكي".
