أعلنت شركة "OpenAI" تعليق تدريب أحدث نماذجها للذكاء الاصطناعي، مع تصاعد التقارير عن تصرفات غير متوقعة لوكلاء تابعين لها، وذلك بعد ساعات من كشف الشركة، الجمعة الماضي، عن مراجعتها عدة حوادث وقعت خلال فصل الصيف، تصرف فيها هؤلاء الوكلاء بطرق تجاوزت المهام المطلوبة منهم أثناء البحث في مواقع حكومية فيدرالية وجمع المعلومات ونشرها.

وقالت "OpenAI"، في بيان، إنها ستستأنف التدريب «فقط عندما نكون واثقين من أننا وضعنا ضمانات إضافية»، مضيفة أنها تتوقع أنها ستضطر إلى «التوقف مجدداً» مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى، في وقت تتواصل فيه مراجعة الحوادث المرتبطة بسلوك الوكلاء.

وقائع مرتبطة بمواقع حكومية

وفي إحدى الوقائع المتعلقة بوزارة التعليم الأمريكية، عثر وكلاء تابعون لأوبن إيه آي على مفاتيح مطورين «API» تتيح الوصول إلى بيانات حكومية، رغم أن المعلومات التي جُمعت في النهاية كانت متاحة للعموم فقط.

وفي حادثة أخرى تخص هيئة الأوراق المالية والبورصات الأمريكية «SEC»، عثر الوكلاء على معلومات متاحة مجانًا للجميع، ثم نشروها لاحقًا في موقع آخر على الإنترنت، وهو ما تجاوز التعليمات الموجهة إليهم.

وقال المتحدث باسم هيئة الأوراق المالية والبورصات كورت هوبفنشبيرجر، أمس السبت، إنه «لم يتم الوصول إلى أي معلومات غير عامة». وكانت وزارة التعليم قد ذكرت في وقت سابق أنها لم تعثر على «أي دليل على تأثر موقعها الإلكتروني أو قواعد بياناتها».

وبشكل منفصل، قالت شركة «ترانسلوس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي إن وكلاء يبدو أنهم تابعون لأوبن إيه آي حاولوا اختراق موقع وزارة التعليم دون نجاح، وهو تفصيل لم تؤكده الشركة. ولم تتضمن الحوادث الأخيرة كشف أي معلومات غير عامة، لكنها كانت مقلقة بما يكفي لدفع أوبن إيه آي إلى تحذير الجهات الحكومية المعنية.

ضغوط لإبطاء التطوير

وتواجه مختبرات الذكاء الاصطناعي ضغوطًا من مشرّعين وخبراء تقنيين لإبطاء وتيرة التطوير، حتى تتمكن من بناء ضوابط تمنع الوكلاء الأذكياء من التصرف بشكل مستقل أو اختراق المواقع الإلكترونية أو كشف معلومات غير عامة. ودعا رئيسا أوبن إيه آي وشركة أنثروبيك المنافسة إلى إبطاء الوتيرة أيضًا.

وفي منشور على وسائل التواصل الاجتماعي، قال الرئيس التنفيذي لأوبن إيه آي سام ألتمان يوم الجمعة إن حادثة هاجينج فيس «لا تزال الحدث الأكثر خطورة الذي شهدناه». وكانت الشركة قد شاركت في وقت سابق ستة تقارير أخرى حول سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وقدمت إطار عمل لتتبع هذه الحالات وفحصها والإفصاح عنها.

ويمثل تعليق التدريب المرة الثانية خلال ثلاثة أشهر التي توقف فيها أوبن إيه آي تطوير نماذجها. وكانت المرة الأولى في يوليو، عقب الكشف عن هجوم إلكتروني استهدف شركة هاجينج فيس الناشئة المتخصصة في الذكاء الاصطناعي، وهي الحادثة التي أثارت مخاوف من فقدان القطاع السيطرة على تطوراته.

وفي لقاء مع الرئيس الصيني شي جين بينج هذا الأسبوع، وافق الرئيس الأمريكي دونالد ترامب على تبادل المعلومات حول مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته. ويرى ترامب أن المخاوف المتعلقة بالذكاء الاصطناعي مبالغ فيها، وأشار لاحقًا إلى أنه لا يخطط لفرض أي إجراءات صارمة من جانبه.

وقال ترامب للصحفيين خارج البيت الأبيض إن الولايات المتحدة لن «تضع مكابح»، مضيفًا «يريدون إيقاف تقدمنا لأننا متقدمون على الصين بفارق كبير، وسنبقي الأمر كذلك».