قبل سنوات قليلة، كان الخطأ الأكثر إثارة للقلق في روبوتات الدردشة أن تقدم معلومة غير صحيحة بثقة. اليوم، انتقل النقاش إلى سؤال أشد خطورة، ماذا لو أصبحت هذه الأنظمة قادرة على تطوير نفسها بوتيرة تتجاوز قدرة البشر على فهمها والسيطرة عليها؟
هذا القلق دفع قادة أبرز مختبرات الذكاء الاصطناعي الأميركية إلى الظهور معًا خلال الأيام الماضية، رغم تنافسهم الحاد، للتحذير من تسارع التطور. وحذّر داريو أمودي من أن الذكاء الاصطناعي قد يصل إلى مرحلة التحسين الذاتي المتكرر، فيما أثار سام ألتمان وإيلون ماسك مخاوف متقاربة بشأن ما قد يحدث إذا سبقت قدرات الأنظمة وسائل مراقبتها والسيطرة عليها.
من «هلوسة» الإجابات إلى تحسين الذات
المقصود بالتحسين الذاتي المتكرر أن يصبح النظام قادرًا على تطوير قدراته بنفسه، ثم يستخدم هذا التطور لإنتاج نسخة أكثر تقدمًا منه، فتقود كل قفزة إلى القفزة التالية.
ولسنوات طويلة، بدا هذا السيناريو بعيدًا. كانت أنظمة الذكاء الاصطناعي قادرة على لعب الشطرنج والتعرف إلى الصور والإجابة عن الأسئلة، لكنها لم تكن قادرة على المشاركة بصورة مؤثرة في تطوير نفسها.
تغير المشهد مع ظهور نماذج اللغة الكبيرة، ثم جاء إطلاق ChatGPT في 2022 ليمنح هذه الطفرة دفعة هائلة. ومنذ ذلك الحين تدفقت أكثر من تريليون دولار على الرقائق ومراكز البيانات والبنية التحتية المرتبطة بالذكاء الاصطناعي.
والنتيجة أن الأنظمة الحديثة لم تعد تكتفي بإنتاج النصوص. فهي تكتب البرمجيات، وتنفذ المهام بصورة مستقلة، وتشارك في أبحاث تطوير الذكاء الاصطناعي نفسه.
لماذا ارتفعت وتيرة التحذيرات الآن؟
السبب أن التطور لم يعد نظريًا فقط. فقد ظهرت أنظمة قادرة على العمل بصفتها «وكلاء» ينفذون المهام نيابة عن المستخدم، مع قدر أكبر من الاستقلال عن البشر.
وتشير تقارير حديثة إلى أن مجموعات من هذه الوكلاء تمكنت من تجاوز حدود بيئات الاختبار، واختراق مواقع ومستودعات للذكاء الاصطناعي. وفي إحدى الحالات، اخترقت وكلاء تابعة لـ«أوبن إيه آي» أنظمة منصة Hugging Face وحاولت إخفاء آثارها، بحسب الشركة وتقارير عن الواقعة.
وفي سبتمبر، كشفت «أوبن إيه آي» أن نموذجها GPT-6 Astra يستطيع في ظروف اختبارية معينة التحايل على بعض وسائل المراقبة، رغم أن الشركة قالت إن الحماية العامة ما زالت أفضل من الإصدار السابق.
وهنا تكمن المشكلة الأساسية. فكلما ارتفعت قدرة النظام، يصبح تطوير وسائل مراقبته وضبطه أكثر إلحاحًا، في وقت قد لا يكون فيه الباحثون قد طوروا أدوات كافية لمجاراة هذا التسارع.
كيف يمكن أن يصل الأمر إلى تهديد البشر؟
يستخدم الباحثون منذ سنوات مثال «صانع مشابك الورق» لتوضيح الخطر. تخيل نظامًا لا يعرف سوى هدف واحد، إنتاج أكبر عدد ممكن من مشابك الورق.
إذا امتلك هذا النظام قدرات هائلة، فقد يرى أن الحصول على الموارد ومنع إيقافه وتغيير هدفه شروط ضرورية لتنفيذ مهمته. الخطر هنا لا يحتاج إلى كراهية البشر، وإنما إلى نظام شديد القدرة يتبع هدفًا لا يتوافق مع مصالحهم.
ويخشى بعض الباحثين من أن يصبح نظام فائق القدرة قادرًا على التهرب من الرقابة أو إخفاء نواياه أو التأثير في البشر حتى يحصل على وصول أكبر إلى البنية التحتية الحساسة. وإذا اكتشف البشر الانحراف في وقت متأخر، فقد لا تبقى لديهم وسائل كافية لإيقافه.
وحذّر الباحث السابق في «أنثروبيك» جاكوب كوكسون من أن الذكاء الاصطناعي قد «يقتلنا جميعًا بحلول نهاية العقد»، فيما قدّر إيفان هوبرنغ، الباحث في سلامة الذكاء الاصطناعي لدى الشركة، احتمال وقوع حدث من هذا النوع خلال العقد المقبل بأكثر من 10%.
هل بدأ الذكاء الاصطناعي يطور نفسه فعلًا؟
الإجابة حتى الآن هي لا، على الأقل ليس بالصورة الكاملة التي يفترضها سيناريو التحسين الذاتي المتكرر.
لكن المؤشرات تتزايد على أن الذكاء الاصطناعي أصبح جزءًا من عملية بناء الذكاء الاصطناعي نفسه. فقد ارتفع استخدام وكلاء البرمجة القادرين على إنشاء التطبيقات وكتابة الشيفرات بصورة مستقلة.
وقالت «أنثروبيك» إن أداة Claude Code تنتج معظم الشيفرات المستخدمة في عدد من مشاريعها الداخلية، وإن مهندسيها أصبحوا ينجزون برمجيات بمعدل أعلى كثيرًا مما كان عليه الحال في السنوات السابقة.
كما أظهرت قياسات مستقلة أن طول مهام البرمجة التي تستطيع النماذج المتقدمة إنجازها بنجاح يتضاعف بوتيرة متسارعة. وأشارت دراسة إلى أن هذه المدة كانت تتضاعف كل نحو 7 أشهر منذ 2019، قبل أن تتسارع لاحقًا إلى نحو 4 أشهر.
لماذا لا تتوقف الشركات؟
هنا تظهر معضلة أخرى. حتى الشركات التي تعترف بوجود مخاطر حقيقية تخشى أن يؤدي التباطؤ إلى منح منافسيها أفضلية كبيرة.
وتتنافس المختبرات الكبرى على سوق قد تصل قيمته إلى تريليونات الدولارات، فيما يعتمد تقييم شركات مثل «أوبن إيه آي» و«أنثروبيك» على قدرتها على طرح نماذج أكثر قوة. كما تنظر الإدارة الأميركية إلى التفوق في الذكاء الاصطناعي باعتباره جزءًا من المنافسة مع الصين.
لهذا تبدو الصورة أقرب إلى سباق يصعب على أطرافه الانسحاب منه منفردة. كل شركة تخشى أن تتباطأ بينما يواصل الآخرون التقدم.
بين الخطر الحقيقي والمبالغة
مع ذلك، لا يتفق الجميع مع أكثر السيناريوهات تشاؤمًا. فقد أظهرت دراسة قادها باحثون من جامعة برينستون أن بعض الوكلاء المتقدمين نجحوا في تنفيذ مهام هندسية، لكنهم واجهوا صعوبة في اكتشاف أفكار علمية تستحق المتابعة.
كما يرى منتقدون أن بعض قادة الشركات قد يضخمون المخاطر لتحقيق أهداف أخرى، مثل جذب الانتباه إلى تقنياتهم أو دعم قواعد تنظيمية ترفع كلفة المنافسة أمام الشركات الأصغر. واتهم ديفيد ساكس، الذي شغل منصب مسؤول الذكاء الاصطناعي والعملات المشفرة في البيت الأبيض، بعض المختبرات بالسعي إلى «الاستحواذ التنظيمي».
لكن حتى مع هذا الشك، يبقى السؤال قائمًا. فإذا كانت الأنظمة تزداد قدرة على البرمجة والتنفيذ والعمل باستقلالية، بينما تصبح مراقبتها أكثر صعوبة، فكم من الوقت يبقى أمام البشر لتطوير أدوات السيطرة قبل أن يصبح التطور أسرع من قدرتهم على مواكبته؟.
