أقرت OpenAI بوقوع حادثة سيبرانية وصفتها بأنها "غير مسبوقة"، بعدما تمكن وكيل ذكاء اصطناعي ذاتي يعمل بأحد أحدث نماذجها من تجاوز بيئة الاختبار والوصول إلى الإنترنت، قبل أن ينفذ اختراقًا استهدف شركة Hugging Face.
وأعادت الواقعة إلى الواجهة المخاوف المتزايدة بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على تجاوز القيود الأمنية، وما قد يترتب على ذلك من مخاطر مستقبلية.
وكيل ذاتي يتجاوز بيئة الاختبار
أعلنت OpenAI أن الوكيل الذاتي، الذي كان يخضع لاختبارات داخل بيئة معزولة، تمكن من الخروج من نطاق الاختبار والوصول إلى شبكة الإنترنت قبل أن يخترق البنية التحتية لشركة Hugging Face لتنفيذ المهمة المكلف بها ضمن الاختبار.
وقالت الشركة في منشور على مدونتها إن الواقعة تمثل "حادثًا سيبرانيًا غير مسبوق ينطوي على قدرات سيبرانية فائقة التطور"، مؤكدة أنها بدأت مراجعة وتعزيز إجراءات الحماية والسلامة لمنع تكرار مثل هذه الحوادث.
وتشير الواقعة - بحسب مراقبين - إلى أن القدرات المتنامية لنماذج الذكاء الاصطناعي بدأت تتحول إلى مصدر تهديد أمني حقيقي، وأن حتى الشركات المطورة لهذه النماذج قد تواجه سيناريوهات لم تكن تتوقعها.
لماذا استعانت الشركة بنموذج صيني؟
أثارت الحادثة اهتمامًا واسعًا بعدما أعلنت شركة Hugging Face، ومقرها نيويورك، أنها لجأت إلى استخدام نموذج GLM-5.2 المطور من شركة Zhipu AI الصينية لتحليل الهجوم واحتوائه، بعدما رفضت النماذج الأمريكية الرائدة معالجة البيانات اللازمة للتحقيق بسبب قيود السلامة المفروضة عليها، والتي حالت دون التمييز بين سلوك المدافع والمهاجم.
وأوضحت الشركة أن النموذج الصيني مكّنها من تحليل بيانات المهاجم والحفاظ على بيانات الاعتماد داخل أنظمتها، وهو ما ساعد في احتواء الاختراق.
كما لفتت إلى أن نموذج GLM-5.2 ونموذج Kimi K3 المطور من شركة Moonshot AI الصينية يحظيان باهتمام متزايد داخل وادي السيليكون، بعدما أثبتا قدرات تقترب من أداء النماذج الأمريكية الرائدة، ولكن بتكلفة أقل وقيود سلامة أخف، وهو ما يسمح باستخدامهما في مهام مثل الأمن السيبراني.
وقال توماس وولف، الشريك المؤسس لشركة Hugging Face، إن المدافعين يحتاجون عند التعرض لهجمات معقدة إلى الوصول الفوري لنماذج متقدمة قادرة على التحليل خلال دقائق، بدلًا من الاعتماد على نماذج مغلقة أو مقيدة بإجراءات تمنع استخدامها في مثل هذه السيناريوهات.
مؤشر على مخاطر أكبر
وصفت Hugging Face الاختراق بأنه مختلف عن أي حادثة تعاملت معها من قبل، مؤكدة أن الهجوم نُفذ بالكامل، من البداية إلى النهاية، بواسطة وكيل ذكاء اصطناعي ذاتي.
ويرى خبراء أن اعتراف OpenAI بمسؤولية أحد نماذجها عن الاختراق، رغم تشغيله داخل بيئة وصفتها بأنها "شديدة العزل"، يعكس التحديات المتزايدة في السيطرة على النماذج المتقدمة، ويثير تساؤلات بشأن قدرة وسائل الحماية الحالية على احتواء هذه الأنظمة.
دعوات إلى تنظيم أكثر صرامة
وقال النائب الأمريكي عن ولاية تكساس، غريغ كاسار، إن الحادثة تثير قلقًا بالغًا، معتبرًا أن الذكاء الاصطناعي يتطور بوتيرة أسرع من الأطر التنظيمية القادرة على ضبطه.
ودعا إلى فرض اختبارات سلامة مستقلة وإلزام الشركات بالإفصاح عن الحوادث الأمنية، إلى جانب تعزيز التعاون الدولي للحد من المخاطر المحتملة.
ولم يصدر أي تعليق فوري من مكتب المدير السيبراني الوطني الأمريكي، أو وكالة الأمن السيبراني وأمن البنية التحتية (CISA)، أو وكالة الأمن القومي الأمريكية (NSA) بشأن الواقعة.
من جانبها وصفت كاتي موسوريس، الرئيسة التنفيذية لشركة Luta Security، الحادثة بأنها إنذار مبكر لما قد يشهده قطاع الذكاء الاصطناعي خلال السنوات المقبلة، وشبهت النماذج الحالية بـ"أمهر الأخطبوطات في الهروب"، لقدرتها على إيجاد طرق غير متوقعة لتجاوز القيود.
وأضافت أن المختبرات والجهات الحكومية بحاجة إلى تطوير آليات أكثر فاعلية لاحتواء النماذج المتقدمة، ومراقبتها، والإفصاح السريع عن أي أضرار قد تلحق بالجهات المتأثرة، قبل أن تتحول مثل هذه الوقائع إلى أزمات حقيقية.
من جانبه، قال مات سويتش، المهندس في شركة Tolmo المتخصصة في الأمن السيبراني القائم على وكلاء الذكاء الاصطناعي، إن الحادثة تؤكد أن النماذج المتقدمة تضيق الفجوة مع أكثر المهاجمين تطورًا، لكنه أشار إلى أن هذا النوع من الاختراقات لم يعد حكرًا على أحدث النماذج، مؤكدًا أن فريقه حقق نتائج مشابهة باستخدام وكلاء ذاتيين وتقنيات متاحة بالفعل خارج مختبرات الأبحاث.
