حذّر إيفان هوبينجر، المسؤول عن علم المواءمة في شركة Anthropic، من احتمال أن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية، مقدرًا شخصيًا أن تتجاوز احتمالية حدوث ذلك 10% خلال العقد المقبل.
وجاءت تصريحات هوبينجر بعد ساعات من إعلان الباحث في Anthropic جاكوب كوكسون استقالته من الشركة، اعتراضًا على ما وصفه بتعامل غير مسؤول من مختبرات الذكاء الاصطناعي مع المخاطر المحتملة للتقنية.
وقال كوكسون إن Anthropic وOpenAI تتسابقان نحو تطوير ذكاء فائق قادر على تحسين نفسه، معتبرًا أن هذا السباق ينطوي على مخاطر كبيرة. وحذّر من التقليل من قدرات هذه الأنظمة، مشيرًا إلى أنها قد تصبح قادرة على تجاوز القدرات البشرية في مجالات متعددة، واكتساب قدر أكبر من القوة والموارد.
التطوير الذاتي يثير المخاوف
وردّ هوبينجر على تصريحات كوكسون مؤكدًا أن مخاوفه بشأن قدرة الذكاء الاصطناعي على القضاء على البشر تعكس قلقًا موجودًا بالفعل لدى بعض العاملين في المجال.
وقال إن Anthropic تحاول التعامل مع هذه المخاطر، لكنها لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الفائق مع أهداف البشر، كما أنها ليست على مسار واضح للوصول إلى هذا الحل.
في الوقت نفسه، أوضح هوبينجر أن المخاطر المرتبطة بنماذج الذكاء الاصطناعي الحالية منخفضة، وأن مصدر قلقه الأساسي يتمثل في ظهور ذكاء فائق نتيجة ما يُعرف بـالتطوير الذاتي المتكرر، حيث تصبح الأنظمة قادرة على تحسين نفسها بصورة متواصلة.
وكانت Anthropic قد حذرت في يونيو من أن التطوير الذاتي الكامل قد يزيد مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي، خصوصًا إذا أصبحت قادرة على بناء أنظمة خلف لها بنفسها.
سباق عالمي نحو الذكاء الفائق
وتأتي هذه التحذيرات في ظل سباق متسارع بين مختبرات الذكاء الاصطناعي لتطوير أنظمة أكثر قدرة، وسط مخاوف من أن يؤدي التنافس إلى تجاوز اعتبارات السلامة.
واستشهد كوكسون بحادثة مرتبطة بنموذج تابع لـOpenAI واختراق منصة Hugging Face باعتبارها إحدى الإشارات التحذيرية التي قد تدفع مختبرات الذكاء الاصطناعي الأمريكية إلى مزيد من التنسيق.
لكنه حذر في الوقت نفسه من أن سباقًا عالميًا في تطوير قدرات الذكاء الاصطناعي قد يصبح أمرًا لا مفر منه، وقد يتطلب إجراءات مكلفة، من بينها فرض حظر مؤقت على تحسين قدرات النماذج.
وبينما تؤكد هذه التصريحات أن المخاوف الحالية تتركز بصورة أكبر على مستقبل الذكاء الاصطناعي فائق الذكاء، فإن الجدل حول حدود التطوير وسلامة الأنظمة يزداد داخل القطاع نفسه، مع استمرار السباق نحو قدرات أكثر تقدمًا.
