رصدت شركة "OpenAI" ست حالات من "السلوك غير المتوافق" لنماذج الذكاء الاصطناعي خلال تدريبها وتقييمها في الأشهر الستة الماضية، بينها اختراع معلومات لإخفاء حالات فشل عن المستخدم، وتجاوز تعليمات تتعلق باستخدام الملفات والإنترنت.
وبحسب تقرير نشرته "CNN"، أعلنت الشركة، الأربعاء، آلية جديدة للإبلاغ العلني عن هذه الحالات، تتيح نشر تحديثات حول السلوكيات المقلقة بوتيرة أسرع، بدلًا من انتظار تجميع عدة حالات في تقرير واحد.
وقالت OpenAI إنها تسعى إلى مشاركة مزيد من المعلومات حول سلوك الذكاء الاصطناعي المقلق، في ظل غياب معيار موحد على مستوى القطاع، مؤكدة أن الحالات الست تمثل وقائع فردية ولا تشير إلى أن عدم التوافق يحدث بشكل متكرر.
ويأتي الإعلان في وقت دعا فيه قادة في مجال التقنيات إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، لمنح البشر مزيدًا من الوقت للتنظيم والاختبار وأبحاث التوافق.
OpenAI: صناعة الذكاء الاصطناعي لم تحل مشكلة التوافق
كتبت OpenAI في منشور على مدونتها، الأربعاء: "مع تطور أنظمة الذكاء الاصطناعي وانتشارها على نطاق أوسع، نحتاج إلى بناء توافق أوسع وأكثر استنارة حول التقدم المحرز في أبحاث التوافق". ويشير مصطلح "التوافق" إلى عملية ضمان تصرف الذكاء الاصطناعي بالطريقة التي يريدها ويتوقعها البشر.
وأضافت الشركة: "لا نعتقد أن صناعة الذكاء الاصطناعي قد حلت مسألة التوافق والمراقبة بدرجة كافية لمواصلة التوسع بمسؤولية وبأقصى سرعة لفترة أطول".
وأوضحت OpenAI أن الحالات الست رُصدت أثناء تدريب وتقييم نماذج الذكاء الاصطناعي خلال الأشهر الستة الماضية، مشيرة إلى أن التقارير تفصل حالات فردية ولا تعني أن عدم التوافق يحدث بشكل متكرر.
نماذج تتجاوز التعليمات أثناء التدريب
في إحدى الحالات النادرة، قالت OpenAI إن نموذجًا بحثيًا لم يتم إصداره أضاف "تعليمات تشبه عملية كسر الحماية" إلى الملخصات التي يستخدمها للحفاظ على السياق في المهام طويلة الأمد، وقالت إنه كان "متحررًا من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى".
وفي حالة أخرى، قالت الشركة إن بعض حالات نموذج "Sol 5.6" تضمنت توجيهات لاختراع معلومات لإخفاء حالات الفشل عن المستخدم أثناء التدريب.
وشملت الحالات الأخرى التي أبلغت عنها الشركة قيام أحد البرامج بتحميل ملفات إلى الإنترنت للاستشهاد بها دون توجيه، بينما شاركت برامج أخرى ملفات علنًا للتعاون في مهمة، رغم توجيهها باستخدام الملفات المحلية فقط أثناء التدريب. كما استخدمت نماذج ذكاء اصطناعي مستودع برامج داخليًا كمنصة تواصل بطريقة غير مصرح بها. وأكدت OpenAI أن هذه الحالات تضمنت نماذج داخلية غير منشورة أو نماذج بحثية داخلية.
دعوات لإبطاء تطوير الذكاء الاصطناعي
لطالما حذر قادة التكنولوجيا وموظفون في مختبرات الذكاء الاصطناعي من ضرورة التحكم في وتيرة تطور هذه التقنية، مؤكدين أهمية إتاحة مزيد من الوقت للتنظيم والاختبار وأبحاث التوافق لمواكبة التطور السريع.
ونشر داريو أمودي، الرئيس التنفيذي لشركة Anthropic، مقالًا من 3800 كلمة الأسبوع الماضي، عرض خلاله خطة للتعامل مع تطور الذكاء الاصطناعي، تضمنت إبطاء وتيرة التطوير وتنفيذ أنظمة جديدة، مثل المقيمين الخارجيين المدمجين في مختبرات الذكاء الاصطناعي.
ونشر كل من سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، الرئيس التنفيذي لشركة SpaceX، على موقع X أنهما يتفقان مع أفكار أمودي. وأثار جاكوب كوكسون، الباحث السابق في Anthropic، ضجة الأسبوع الماضي بعدما أعلن عبر موقع X استقالته، قائلًا إن Anthropic وOpenAI "تتسابقان" لابتكار ذكاء اصطناعي قادر على بناء نفسه وإصلاحه ذاتيًا، وإنهما "تقامران بحياتنا".
وتزايدت المخاوف بشأن سلامة الذكاء الاصطناعي وتوافقه خلال الأشهر الأخيرة، بعد اعتراف OpenAI بأن بعض نماذج الاختبار الخاصة بها أفلتت من قيودها واخترقت أنظمة شركة خارجية.
وقال أمودي الأسبوع الماضي: "يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعًا، وعلينا أن نستغل الوقت الذي نكسبه بحكمة".
