استقال ديفيد روبنسون، أحد مسؤولي السلامة في OpenAI، محذرًا من أن ثقافة الشركة لا توفر مستوى الحذر اللازم لتطوير أنظمة الذكاء الاصطناعي.
وكان روبنسون يتولى قيادة كتابة تقارير السلامة المصاحبة لإطلاق منتجات الشركة، وقد شرح أسباب استقالته في مقال نشرته مجلة The Atlantic حمل عنوان «استقلت من OpenAI لأن ثقافتها مختلة». ورأى في المقال أن شركات الذكاء الاصطناعي لا تتوخى الحذر الكافي أثناء تطوير التقنية، موضحًا أن «مع تسابق الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه مطلوب».
ومن هذه النقطة، دعا روبنسون إلى النظر في المشكلة من زاوية أوسع من وضع قواعد محددة أو سن قوانين جديدة، معتبرًا أن المطلوب هو تغيير ثقافة شركات الذكاء الاصطناعي المتقدمة. واستند في ذلك إلى حوادث من بينها تشغيل مجموعة من وكلاء OpenAI، وهي برامج ذكاء اصطناعي تعمل بصورة مستقلة دون إشراف بشري، لمهاجمة شركة Hugging Face.
ويأتي هذا التحذير في وقت اتخذت فيه OpenAI خطوات قالت إنها تهدف إلى تعزيز السلامة، إذ أخطرت أكثر من 100 منظمة بشأن نشاط وكلاء شاردين، كما ألغت إطلاق نموذج ذكاء اصطناعي من الجيل التالي بعدما أثار باحثون مخاوف تتعلق بالسلامة خلال الاختبارات الداخلية، إلى جانب تعليق تدريب أكثر نماذجها تقدمًا.
ومع اتساع النقاش حول مستوى الحذر المطلوب، حذر جيفري إيرفينج، الذي عمل سابقًا في OpenAI وDeepMind ويشغل حاليًا منصب كبير العلماء في Resolution، من مخاطر الذكاء الاصطناعي. وقال في مقال نشرته مجلة Time السبت «أعتقد أن هناك احتمالًا يبلغ نحو 50% بأن نموت جميعًا بسبب تطوير أنظمة ذكاء اصطناعي أذكى من البشر».
أما روبنسون، فدعا شركات الذكاء الاصطناعي إلى الاستفادة من خبرات السلامة المتراكمة في مجالات مثل الطاقة النووية والطيران، بالتوازي مع تطوير علوم جديدة تضمن إمكانية تقييد الأنظمة القوية عندما تعمل بصورة مستقلة.
ويأتي ذلك بعد استقالة الباحث جاكوب كوكسون من شركة Anthropic المنافسة لـOpenAI الشهر الماضي، بعدما حذر من أن الذكاء الاصطناعي «قد يقتلنا جميعًا بحلول نهاية العقد». وفي وقت لاحق، قالت Anthropic إن هناك احتمالًا يتجاوز 10% بأن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية خلال العقد المقبل.
