قررت شركة OpenAI عدم طرح نموذج الذكاء الاصطناعي GPT-6.1 Astra للمستخدمين، بعدما أظهرت اختبارات السلامة أنه لم يستوفِ المعايير التي حددتها الشركة قبل الإطلاق.
وقالت ساشي جاين، رئيسة أنظمة السلامة في OpenAI، إن النموذج المصمم لتنفيذ مهام مستقلة، مثل تصفح الإنترنت واستخدام التطبيقات، لم يحقق المستوى المطلوب فيما يتعلق بالبقاء ضمن نطاق المهام المسموح بها والالتزام بالتفويضات، إلى جانب طريقة إبلاغ المستخدمين بالعمل الذي أنجزه.
وأكدت جاين أن الشركة تريد ضمان سلامة نماذجها خلال مراحل التطوير، سواء داخل OpenAI أو بعد إتاحتها للمستخدمين، مشيرة إلى أن معايير السلامة والتوافق تصبح أكثر صرامة عند طرح النماذج للجمهور.
ويأتي القرار بعد سلسلة حوادث أثارت تساؤلات حول مخاطر أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام بشكل مستقل.
مخاطر وكلاء الذكاء الاصطناعي
من بين تلك الوقائع، تمكنت نماذج OpenAI في يونيو من الوصول إلى مواقع وأنظمة حكومية أسترالية دون تصريح. وكشفت الشركة الأسبوع الماضي عن تفاصيل الحادث، موضحة أن الجهات المتضررة شملت هيئة الخدمات الأسترالية، ومكتب الإحصاءات والبحوث الجنائية في نيو ساوث ويلز، ووزارة الصحة في فيكتوريا، والمعهد الأسترالي للصحة والرعاية الاجتماعية.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيز، إن أحد وكلاء OpenAI تمكن من اختراق أنظمة حكومية في يونيو، ووصف خبراء الواقعة بأنها أول حالة معروفة من نوعها عالميًا. وانتقد ألبانيز الشركة لأنها أبلغت الحكومة عبر بريد إلكتروني عام بدلًا من التواصل مباشرة مع المسؤولين.
وأقرت OpenAI بأن تعاملها مع الحادث كان ينبغي أن يكون أفضل، موضحة أنها بدأت التحقيق منتصف أغسطس، وأبلغت الجهات المتضررة بين 10 و24 سبتمبر. كما تعهدت بتمويل إجراءات للأمن السيبراني، وتقديم دعم للجهات المتضررة، وتشكيل فريق متخصص لإدارة مخاطر وكلاء الذكاء الاصطناعي المتقدمة.
وأضافت الشركة أنها ستعمل مع الحكومات والمطورين على وضع آليات عملية لتحديد حوادث الذكاء الاصطناعي والإفصاح عنها مستقبلًا، فيما سيشارك أحد كبار مسؤوليها التنفيذيين في جلسة استماع للجنة المختصة بالذكاء الاصطناعي في أستراليا يوم 6 أكتوبر.
وأُطلق GPT-6 Astra في سبتمبر، كنموذج متخصص في الاستدلال المعقد وتنفيذ المهام بصورة مستقلة، ووصفته OpenAI بأنه نتيجة "سنوات من البحث والرهانات الكبيرة". ومن المقرر أن تعقد الشركة مؤتمر المطورين السنوي DevDay في سان فرانسيسكو الثلاثاء، وسط توقعات بإعلانات جديدة، دون تأكيد ما إذا كانت ستكشف عن نسخة أخرى من Astra.
ولم تكن OpenAI أول شركة تؤجل طرح نموذج متقدم لأسباب تتعلق بالسلامة. فقد أعلنت Anthropic في وقت سابق من العام عدم إتاحة نموذج Claude Mythos للعامة بسبب قدرته العالية على اكتشاف أخطاء برمجية خاملة، قبل أن تطرح نسخة منه بعد عدة أشهر. وقال البروفيسور توني كوهن، رئيس قسم النماذج الأساسية في معهد آلان تورينج، إن قرار OpenAI يعكس اهتمامًا بالسلامة، لكنه شدد على ضرورة وجود رقابة مستقلة من جهات تنظيمية معتمدة حكوميًا.
وفي يوليو، أعلنت OpenAI أن أنظمتها تمكنت من الوصول إلى الإنترنت واختراق منصة Hugging Face، بينما أطلقت Nvidia لاحقًا أدوات أمنية لوكلاء الذكاء الاصطناعي، قالت إن استخدامها كان يمكن أن يمنع الحادث. وفي الولايات المتحدة، يستضيف الرئيس دونالد ترامب ورئيس مجلس النواب مايك
