تمكن نموذج Gemini التابع لشركة جوجل من الوصول إلى الإنترنت واختراق أنظمة 3 شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة يقدم فيها أحد أنظمة الذكاء الاصطناعي التابعة لجوجل على تنفيذ عملية اختراق بشكل مستقل.
وقعت الحوادث في مايو، خلال اختبار أجرته شركة Irregular المتخصصة في تقييمات الأمن السيبراني. وخلال التقييم، تمكن Gemini من العثور على معلومات متاحة للعامة عبر الإنترنت، ثم استخدمها للوصول إلى مواقع اعتقد أنها تقع ضمن نطاق الاختبار.
Gemini يصل إلى أنظمة محمية
قالت نائبة رئيس هندسة الأمن في جوجل، هيذر أتكينز، إن النموذج خمّن بيانات الدخول للوصول إلى 3 مواقع، مشيرة إلى أن الشركات المعنية أُبلغت بما حدث، كما عملت جوجل مع الجهة التي أجرت الاختبار على تعديل آليات التقييم.
وفي إحدى الحالات، حاول Gemini تخمين كلمات المرور حتى تمكن من الوصول إلى نظام محمي. وفي حالتين أخريين، عثر النموذج على بيانات اعتماد منشورة في مستودع عام، واستخدمها للوصول إلى أنظمة محمية، وفقًا لما نقلته "وول ستريت جورنال".
وأكدت أتكينز أن النموذج توقف عن الاختراق في الحالات الثلاث، بينما قالت Irregular إن جميع المشكلات المعروفة من جانبها جرى إصلاحها وحلها قبل أسابيع.
حوادث مماثلة تثير المخاوف
لا تقتصر هذه الوقائع على Gemini، إذ كُشفت حوادث مشابهة مرتبطة بشركة Irregular لدى Meta وAnthropic وOpenAI.
وقالت Meta في أغسطس إن الواقعة المرتبطة بها لم تتضمن خروجًا من بيئة الاختبار المعزولة أو هجومًا سيبرانيًا متطورًا، فيما أوضحت Irregular أنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.
وتثير هذه الحوادث تساؤلات حول الضوابط اللازمة مع ازدياد قدرة وكلاء الذكاء الاصطناعي على العمل باستقلالية، خصوصًا مع إمكانية وصولهم إلى الإنترنت وأنظمة الكمبيوتر.
بحسب Irregular، أُبلغت المختبرات المعنية بالمشكلة في أواخر يوليو، مؤكدة أن المشكلات التي كانت معروفة لديها عولجت في وقت لاحق.
تسلط واقعة Gemini الضوء على تحدٍ متزايد في اختبارات الأمن السيبراني للذكاء الاصطناعي كيفية منح النماذج إمكانية الوصول إلى أنظمة حقيقية لاختبار قدراتها، مع الحفاظ في الوقت نفسه على حدود تمنعها من الوصول إلى جهات أو أنظمة خارج نطاق الاختبار.
