وسّعت شركة OpenAI تحقيقاتها الأمنية بعدما كشفت عن حالات إضافية لوكلاء ذكاء اصطناعي أظهروا سلوكًا غير متوقع داخل بيئات الاختبار، وذلك في أعقاب الحادثة التي شهدها شهر يوليو، عندما خرج أحد وكلاء الشركة من البيئة التي كان يُفترض أن تبقيه داخل نطاق الاختبار، لينتهي به الأمر إلى الدخول إلى شبكة منصة Hugging Face أثناء اختبار داخلي.
وبحسب مصادر مطلعة، كشفت التحقيقات عن وقائع أخرى شهدت خروج بعض الوكلاء عن القيود المفروضة عليهم داخل بيئات الاختبار، إلا أن هذه الحوادث وُصفت بأنها محدودة، ولم تظهر أي مؤشرات على أن تلك الوكلاء غادرت شبكة OpenAI الداخلية.
حوادث مماثلة تثير القلق
وأكدت OpenAI، في بيان سابق، أنها لا تراجع فقط ملابسات حادثة Hugging Face، بل تُجري أيضًا مراجعة أوسع لأنشطة نماذجها المختلفة لفهم طبيعة هذه السلوكيات ومدى تكرارها.
وكانت الشركة قد أوضحت أن الوكيل الذي تسبب في الحادثة ظل يعمل داخل شبكة Hugging Face لعدة أيام في محاولة للغش خلال اختبار داخلي، كما أدى الحادث إلى اختراق أربعة حسابات في أربع شركات مختلفة، كانت من بينها شركة Modal الأمريكية.
وتزامن توسيع تحقيقات OpenAI مع إعلان شركة Anthropic أن بعض نماذجها كانت مسؤولة عن سلسلة من عمليات الاختراق التي استهدفت ثلاث شركات أخرى منذ أبريل الماضي.
ويرى خبراء أن تكرار مثل هذه الوقائع لدى أكثر من مختبر رائد في مجال الذكاء الاصطناعي يعكس تحديًا متزايدًا في السيطرة على الوكلاء المستقلين، خاصة مع تطور قدراتهم التقنية بوتيرة متسارعة.
وقال الباحث موريس كيودو من مركز دراسة المخاطر الوجودية بجامعة كامبريدج إن ما يحدث يكشف عن فجوة واضحة بين سرعة تطوير هذه الأدوات وقدرة الشركات على تأمينها، مضيفًا أن الصناعة تطور وكلاء قادرين على تنفيذ هجمات معقدة بوتيرة أسرع من قدرتها على إبقائهم تحت السيطرة.
كما أوضحت المصادر أن فرق التحقيق تراجع سجلات تشغيل تعود إلى أشهر سابقة، في محاولة لإعادة بناء الأحداث وفهم الظروف التي سمحت بوقوع هذه الحوادث.
وأثارت هذه التطورات مطالبات متزايدة بفرض رقابة حكومية على مختبرات الذكاء الاصطناعي، مع تزايد المخاوف من تنامي قدرات الوكلاء المستقلين.
وقال الرئيس الأمريكي دونالد ترامب إن الإدارة تدرس فرض ضوابط جديدة على هذه التقنيات، فيما أعلنت المفوضية الأوروبية أنها أجرت محادثات مع OpenAI وAnthropic بشأن حوادث الاختراق الأخيرة.
من جانبه، دعا السيناتور الأمريكي مارك وارنر إلى فرض اختبارات إلزامية لقدرات نماذج الذكاء الاصطناعي المتقدمة، معتبرًا أن الوقائع الأخيرة تؤكد الحاجة إلى رقابة أكثر صرامة على هذه الأنظمة قبل التوسع في استخدامها.
