مع التطور السريع للذكاء الاصطناعي، تتزايد المخاوف بشأن المخاطر التي قد تشكلها هذه التكنولوجيا على البشرية، في ظل سلسلة من التحذيرات من احتمال أن تؤدي إلى القضاء على البشرية إذا تُركت دون رقابة.
وكان Dario Amodei، رئيس شركة Anthropic، إحدى أكبر شركات الذكاء الاصطناعي في العالم، قد دعا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وإخضاع تطويرها لمراقبة أكثر صرامة، وقال إن أي إجراءات للحد من وتيرة التطوير ينبغي أن تتم "من دون التضحية بالميزة التجارية".
أما Jack Clark أحد المؤسسين السبعة لشركة Anthropic، قد أوضح أن وجود (مفتاح إيقاف) للذكاء الاصطناعي، يمكن لجهة خارجية التحقق منه، قد يصبح مطلبًا إلزاميًا للشركات، وأضاف أن "معظم المختبرات لديها طرق مختلفة تمكنها من فصل أنظمتها"، فلماذا لا يصبح وجود مثل هذه الوسيلة إلزاميًا على الشركات العاملة في مجال الذكاء الاصطناعي؟
وتتزايد هذه التحذيرات مع تصاعد المخاوف من المخاطر التي قد يشكلها الذكاء الاصطناعي على مستقبل البشرية. فقد استقال باحث من Anthropic بسبب مخاوفه من احتمال أن تؤدي التكنولوجيا إلى انقراض البشرية، فيما قال Evan Hubinger -عالم Anthropic - إنه يرى احتمال حدوث ذلك بأكثر من 10% خلال العقد المقبل، بينما وصف عالم الحاسوب والحائز على جائزة نوبل Geoffrey Hinton هذا الاحتمال بأنه ليس مستبعدًا.
يتحفظ Jack Clark على اختزال هذه المخاطر في نسب محددة، لكنه يحذر من استمرار الذكاء الاصطناعي دون تنظيم، مؤكدًا أن القطاع بحاجة إلى تغيير مساره. وفي ظل هذه المخاوف، يتزايد النقاش حول ضرورة وضع آليات أكثر وضوحًا للسيطرة على أنظمة الذكاء الاصطناعي، من بينها وجود وسيلة موثوقة لإيقافها عند الضرورة.
طرح أعضاء في الكونغرس الأمريكي مشروع قانون يُعرف باسم "قانون مفتاح الإيقاف"، من شأنه إلزام الشركات بامتلاك وسيلة لإيقاف أدوات الذكاء الاصطناعي التي تسبب مشكلات.
كما سيمنح القانون بعض الجهات الحكومية صلاحية مطالبة الشركات بإيقاف أدوات معينة أو تقييدها.
لكن هذه التوجهات لا تحظى بإجماع سياسي؛ إذ رفض الرئيس الأمريكي Donald Trump أي محاولات لإبطاء تطوير الذكاء الاصطناعي، معتبرًا أن المخاوف من سيطرة الذكاء الاصطناعي على العالم وتدميره للبشرية "خدعة". وحذّر من أن المنافسة في مجال الذكاء الاصطناعي ترتبط بالتفوق العالمي، قائلًا: "من يفوز بالذكاء الاصطناعي، يفوز".
وفي المملكة المتحدة، اتخذت الحكومة موقفًا مختلفًا، إذ رفضت فكرة إنشاء "مفتاح إيقاف" للذكاء الاصطناعي، معتبرة أن مثل هذا الإجراء لن يمنع تطوير التقنيات أو إساءة استخدامها في أماكن أخرى.
جدل حول حجم المخاطر
يرى بعض العاملين في قطاع الذكاء الاصطناعي أن المخاوف من أن تؤدي التكنولوجيا إلى تدمير البشرية مبالغ فيها، أو أن التحذيرات بشأنها قد تُستخدم أحيانًا لإثارة مزيد من الاهتمام بالقطاع.
وفي الوقت نفسه، تواصل Anthropic تطوير نماذج ذكاء اصطناعي أكثر قدرة، من بينها Claude، روبوت المحادثة الذي طورته الشركة، كما أبلغت كل من Anthropic وOpenAI عن حالات تصرفت فيها أنظمة الذكاء الاصطناعي بطرق لم يتوقعها المطورون، ما يزيد التساؤلات حول كيفية مراقبة هذه الأنظمة والسيطرة عليها.
