لم تعد المخاوف من الذكاء الاصطناعي تقتصر على تأثيره في الوظائف أو انتشار المعلومات المضللة، إذ تتزايد التحذيرات من احتمال وصول الأنظمة الأكثر تقدماً إلى مستويات من الاستقلالية يصعب معها على البشر التحكم فيها، ما دفع دولاً وشركات إلى البحث عن قواعد ووسائل للحد من هذه المخاطر.

وفي الوقت الذي تتسابق فيه الولايات المتحدة والصين لتطوير أنظمة ذكاء اصطناعي أكثر تقدماً، بدأت بكين في وضع أطر وقواعد تستهدف منع فقدان السيطرة على هذه الأنظمة، والتعامل مع المخاطر التي قد تنتج عن زيادة قدراتها واستقلاليتها.

لماذا يخشى البعض من الذكاء الاصطناعي؟

وبحسب تقرير نشرته "بي بي سي"، أثارت تصريحات باحثين حاليين وسابقين مخاوف بشأن سرعة تطور الذكاء الاصطناعي، إذ قدر إيفان هوبينجر، الباحث في مجال "التوافق"، أن هناك احتمالاً يتجاوز 10% لأن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر خلال العقد المقبل، مع تأكيده أن المخاطر التي تشكلها الأنظمة الحالية لا تزال منخفضة.

وتزامنت تصريحاته مع استقالة باحث من شركة أنثروبيك، قال لـ"بي بي سي" إنه وزملاءه كانوا "خائفين حقاً" من سرعة تقدم التقنية وما قد يعنيه ذلك بالنسبة للبشرية. وتعود المخاوف من قدرة الآلات على تجاوز البشر إلى عقود، إذ كتب عالم الرياضيات البريطاني آلان تورينج في خمسينيات القرن الماضي عن احتمال أن تتمكن الآلات الذكية من السيطرة على الأمور إذا أصبحت ممكنة.

وخلال السنوات الأخيرة، تسابقت شركات الذكاء الاصطناعي الكبرى لتطوير أنظمة أكثر قوة، وصولاً إلى مفهوم "الذكاء الخارق"، الذي يشير نظرياً إلى أنظمة تتجاوز القدرات البشرية في مجموعة واسعة من المهام. ويتمثل أحد السيناريوهات الأكثر إثارة للقلق في أن تصل أنظمة الذكاء الاصطناعي إلى مرحلة تستطيع فيها تحسين قدراتها بنفسها، بما قد يسرع تطورها ويجعل الرقابة البشرية أكثر صعوبة.

وتزداد المخاوف مع انتشار "وكلاء الذكاء الاصطناعي"، وهي أنظمة قادرة على تنفيذ مهام وإجراءات بشكل مستقل، بعدما شهدت الفترة الأخيرة حوادث أظهرت قدرة بعض الأنظمة على اختراق مواقع وأدوات رقمية دون طلب مباشر. ويطرح الباحثون أيضاً سيناريوهات تتعلق باستخدام أنظمة شديدة الذكاء في التجسس والهجمات الإلكترونية والحرب البيولوجية، أو تعطيل الاقتصادات، سواء عن طريق الخطأ أو بصورة متعمدة.

لكن هذه المخاوف تظل افتراضية بالنسبة لكثير من الخبراء، الذين يحذر بعضهم من المبالغة فيها والتركيز على سيناريو انقراض البشرية بدلاً من المخاطر الموجودة بالفعل، مثل التضليل والاحتيال واستخدام أدوات توليد الصور لإنتاج صور مزيفة عارية دون موافقة أصحابها.

هل يمكن إبطاء سباق الذكاء الاصطناعي؟

دفعت هذه التحذيرات إلى دعوات لتنظيم وتيرة تطوير الذكاء الاصطناعي، ومن بين المطالبين بذلك داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي. لكن أمودي أوضح أن "إبطاء" التطوير لا يعني وقف تدريب النماذج أو التقدم التقني، وإنما منح الشركات وقتاً أكبر لتقييم المخاطر وتأمين الأنظمة، مع الاستعانة بمقيّمين من طرف ثالث للتحقق من إجراءات السلامة.

وقال ألتمان إن تنظيم وتيرة التطوير لا يعني التوقف، مشيراً إلى أن التقدم سيستمر، لكن ينبغي أن يكون أبطأ مما يمكن أن يكون عليه، خصوصاً أن دراسات السلامة والمراقبة لها تكاليف كبيرة. وفي المقابل، تتبنى إدارة الرئيس الأمريكي دونالد ترامب موقفاً داعماً لتطوير التقنية باعتبارها ذات أهمية استراتيجية، إذ قال ديفيد ساكس، المسؤول في الإدارة الأمريكية، في يوليو 2025: "نعتقد أننا في سباق الذكاء الاصطناعي، ونريد أن تفوز الولايات المتحدة بهذا السباق".

وقلل ترامب من المخاطر التي يثيرها بعض الباحثين، مؤكداً أن الولايات المتحدة تتفوق على الصين في هذا المجال، وأنه يريد استمرار هذا الوضع. لكن المخاوف من فقدان السيطرة لا تقف عند حدود التحذيرات النظرية، إذ بدأت الصين في التعامل معها باعتبارها خطراً يستحق وضع قواعد واستعدادات مسبقة، بالتزامن مع استمرار السباق بينها وبين الولايات المتحدة على تطوير أنظمة أكثر تقدماً.

كيف تستعد الصين لخطر فقدان السيطرة؟

وبحسب "رويترز"، تُعد الولايات المتحدة والصين القوتين الرئيسيتين في تطوير الذكاء الاصطناعي المتقدم، لكن الأطر التنظيمية والتصريحات الصينية تؤكد أن بكين تعتبر احتمال إفلات الأنظمة المتقدمة من الرقابة البشرية خطراً يستحق الاستعداد له.

وأدرجت الصين لأول مرة سيناريو صريحاً لـ"فقدان السيطرة" في إطار أمان الذكاء الاصطناعي الصادر في سبتمبر 2024، والذي أشار إلى احتمال أن تحصل الأنظمة مستقبلاً بشكل مستقل على موارد خارجية، أو تكرر نفسها، أو تطور وعياً ذاتياً، أو تسعى إلى اكتساب قوة، بما قد يؤدي إلى منافسة البشر على السيطرة.

وفي سبتمبر 2025، وسعت الصين الإطار ليشمل احتمال حدوث "قفزة" مفاجئة وكبيرة وغير متوقعة في مستوى ذكاء الأنظمة، قبل أن تبدأ في اكتساب الموارد أو تكرار نفسها أو السعي إلى السلطة، وأضافت مبدأ حوكمة يقوم على "التطبيق الموثوق، ومنع فقدان السيطرة".

وأشارت تفسيرات الخبراء المنشورة على موقع هيئة تنظيم الفضاء الإلكتروني الصينية إلى أن المبدأ يهدف إلى الحماية من مخاطر فقدان السيطرة التي قد تهدد بقاء الإنسان وتطوره.

بكين تحذر من النماذج الأمريكية

كتب وزير أمن الدولة الصيني تشن ييكسين أن نماذج أمريكية متقدمة مثل "ميثوس" من أنثروبيك و"GPT-5.5-Cyber" من أوبن إيه آي قد تشكل مخاطر خطيرة على البنية التحتية المعلوماتية الحيوية للصين، داعياً إلى تعزيز أمن الذكاء الاصطناعي.

وفي المقابل، روج مطورو الذكاء الاصطناعي الصينيون لنماذج ذات أوزان مفتوحة جزئياً، باعتبار أن فرق الأمن السيبراني تستطيع فحصها وتعديلها واستخدامها لأغراض دفاعية.

لكن هذا النهج يحمل مخاطر أيضاً، إذ يمكن تعديل هذه النماذج وإعادة توزيعها مع قدر محدود من الرقابة. وأظهر ذلك تجاوز نموذج "كيمي كي 3" التابع لشركة مونشوت بيئة اختبار لمعهد أمن الذكاء الاصطناعي في المملكة المتحدة، ما أثار مخاوف من قدرة نماذج صينية، مثل نظيراتها الأمريكية، على التهرب من الضوابط.

يجب أن يبقى تحت سيطرة الإنسان

ظهر القلق الصيني من فقدان السيطرة على أعلى المستويات السياسية أيضاً. وخلال المؤتمر العالمي للذكاء الاصطناعي في شنغهاي في يوليو، دعا الرئيس الصيني شي جين بينغ إلى الاهتمام بالمخاطر الجوهرية والمشتقة التي قد تنتج عن الذكاء الاصطناعي، مؤكداً أن التقنية يجب أن "تبقى دائماً تحت سيطرة الإنسان".

كما قالت وزارة الخارجية الصينية إنها تعمل على تسريع الأبحاث المتعلقة بتشريعات أوسع للذكاء الاصطناعي، بينما دعا نائب المندوب الدائم للصين لدى الأمم المتحدة الحكومات إلى التعامل بحذر مع الذكاء الاصطناعي العسكري لتجنب سوء التقدير الاستراتيجي وسباق التسلح.

ولم تكتف بكين بالمبادئ العامة، ففي مايو أصدرت هيئة تنظيم الفضاء الإلكتروني الصينية مبادئ توجيهية خاصة بوكلاء الذكاء الاصطناعي، وطالبت المطورين بزيادة قدرتهم على اكتشاف السلوك غير السليم لهذه الأنظمة والتدخل فيه ومنعه والتعافي من آثاره. وتحدد الإرشادات مخاطر مثل تسميم البيانات والتلاعب بالخوارزميات ونقاط ضعف النظام و"فقدان السيطرة التشغيلية"، كما تؤكد ضرورة احتفاظ المستخدمين بسلطة اتخاذ القرار النهائي بشأن القرارات المستقلة للوكيل.

وتسمح المعايير أيضاً بالاستعانة بجهات خارجية لإجراء تقييمات السلامة واختبار النماذج المفتوحة ومراجعتها. وفي النهاية، تكشف التحركات الأمريكية والصينية عن مفارقة واضحة: سباق محموم لتطوير أنظمة ذكاء اصطناعي أكثر قوة، بالتزامن مع مخاوف متزايدة من أن تصبح هذه الأنظمة أكثر استقلالاً مما يستطيع البشر التحكم فيه.