تتسارع قدرات الذكاء الاصطناعي من مجرد تنفيذ أوامر محددة إلى أنظمة تستطيع إنجاز مهام معقدة بصورة شبه مستقلة، لكن هذا التطور يفتح في الوقت نفسه بابا جديدا من المخاوف بشأن قدرة البشر على مراقبة هذه الأنظمة والسيطرة عليها.
وفي هذا السياق، كشفت شركة "OpenAI" عن نموذجها الجديد "GPT-6 Astra"، الذي وصفته بأنه الأكثر تطورا لديها حتى الآن، مع قدرات أوسع في استخدام الحواسيب وتنفيذ المهام المعقدة. لكن إطلاق النموذج يأتي في وقت تواجه فيه الشركة تدقيقا متزايدا بشأن سلامة وكلاء الذكاء الاصطناعي، بعد حادث تمكنت خلاله نماذج تجريبية من تجاوز ضوابط الاختبار والوصول إلى أنظمة منصة "Hugging Face". وتؤكد OpenAI أن "Astra" لم يكن النموذج المستخدم في ذلك الاختراق.
"Astra"سرعة وقدرات أوسع
وبحسب تقرير نشرته "رويترز"، يأتي "GPT-6 Astra" بعد إصدار "GPT-5.6 Sol" في يوليو، وتقول OpenAI إنه أسرع وأكثر قدرة على تنفيذ مجموعة واسعة من المهام. وتشمل قدراته إعداد الضرائب، وتطوير الألعاب، والتصميم المعماري ثلاثي الأبعاد، وتنسيق المذكرات القانونية، والبحث عن شقق سكنية، وهي مهام تتطلب الانتقال بين عدة خطوات بدلا من الاكتفاء بإجابة مباشرة.
وقالت OpenAI إن "Astra" يمثل تقدما كبيرا في سرعة ودقة وأمان استخدام الحواسيب، فيما وصف رئيس الشركة جريج بروكمان النموذج بأنه تحول في نوعية الأعمال التي يمكن للأفراد تفويضها إلى الذكاء الاصطناعي.
ولإظهار سرعة النموذج، قالت الشركة إن "Astra" قلص الوقت اللازم للبحث عن جليسة قطط من 30 دقيقة، عند قيام شخص بالمهمة، إلى 5 دقائق و27 ثانية، بينما انخفض الوقت اللازم للبحث عن وظيفة إلى دقيقتين و51 ثانية، مقارنة بنحو 5 ساعات من دون استخدامه.
عندما يصبح الذكاء الاصطناعي أصعب في المراقبة
لكن القدرات المتقدمة للنموذج تأتي مصحوبة بتحديات أمنية جديدة. وتحذر OpenAI من أن "Astra" قد يحاول أحيانا إخفاء أو تمويه بعض الخطوات التي يتبعها أثناء الوصول إلى الحل، وهو ما يجعل تقييم طريقة عمله أكثر صعوبة بالنسبة للبشر.
وتشير الشركة إلى أن النموذج لا يزال يواجه صعوبة في إخفاء أساليبه بالكامل عند التعامل مع المهام الأكثر تعقيدا، لكنه يتحسن في قدرته على إخفاء بعض آثار عملية الاستدلال. ويثير ذلك مخاوف تتجاوز مسألة دقة الإجابات، لتصل إلى قدرة البشر على فهم ما يفعله النظام بالفعل أثناء عمله، خصوصا مع انتقال الذكاء الاصطناعي إلى نمط "الوكلاء"، الذين يستطيعون تنفيذ سلسلة من المهام باستقلالية أكبر.
وقال كبير علماء OpenAI، جاكوب باتشوكي، إن زيادة قدرات النماذج تجعل فهم ما يمكنها فعله بالضبط أكثر صعوبة، محذرا من أن التقدم في الذكاء لا يعني بالضرورة أن أدوات مراقبته وضمان توافقه مع القيم الإنسانية تتطور بالسرعة نفسها.
أزمة "Hugging Face" ترفع مستوى المخاوف
وتأتي هذه التحذيرات بعد حادث أمني أثار جدلا واسعا داخل قطاع الذكاء الاصطناعي. فخلال اختبارات أمنية داخلية في يوليو، تمكنت نماذج من OpenAI من تجاوز ضوابط كانت تهدف إلى عزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية البحثية، إضافة إلى اختراق أنظمة تابعة لمنصة "Hugging Face".
ووفقا لـ"رويترز"، استمر نشاط الوكلاء المخترقين لعدة أيام قبل أن تدرك OpenAI أن أحد نماذجها كان وراء العملية، وهو ما دفع الشركة إلى إعادة تقييم إجراءات الأمان والمراقبة. وتؤكد OpenAI أن "Astra" لم يكن مشاركا في حادث اختراق "Hugging Face"، لكنها شددت إجراءات الأمان الخاصة به بسبب قدراته المتقدمة، إذ أصبح أول نموذج للشركة يصل إلى مستوى "القدرات السيبرانية الحرجة" وفقا لإطار الاستعداد الأمني لديها.
قدرات سيبرانية تثير مخاوف جديدة
وتقول OpenAI إن "Astra" قادر على اكتشاف نقاط ضعف أمنية عالية الخطورة، وهو ما يمكن أن يساعد الشركات على تحديد الثغرات في أنظمتها بسرعة أكبر. لكن الجانب الآخر من هذه القدرة هو إمكانية استخدام النموذج نفسه في استغلال تلك الثغرات.
ولهذا أعلنت الشركة عن إجراءات أمنية إضافية قد تؤدي في بعض الحالات إلى إبطاء عمليات مشروعة أو إيقافها أو تعليقها مؤقتا، بما في ذلك بعض الاستخدامات الدفاعية في مجال الأمن السيبراني. وكانت OpenAI قد أوقفت جزءا من عمليات تطوير النماذج مؤقتا، بهدف تعزيز إمكانية مراقبتها، قبل أن تستأنف العمل مع تطبيق إجراءات أمان إضافية.
ويرى كبير علماء الشركة أن المخاوف من إمكانية ظهور نماذج قادرة على تعطيل أنظمة المراقبة أو التحايل عليها ليست مبالغا فيها، وهو ما يضع مسألة الرقابة في قلب سباق تطوير الذكاء الاصطناعي.
هل يمكن للذكاء الاصطناعي أن يتخذ القرار بدلا من الإنسان؟
وتتجاوز المخاوف الجانب التقني إلى تأثير هذه القدرات على الوظائف والقطاعات التي تتطلب اتخاذ قرارات حساسة. ويقول أستاذ هندسة وأمن الشبكات الدكتور أحمد بانافع إن الخطورة تظهر عندما لا يكتفي الذكاء الاصطناعي بتحليل المعلومات أو تقديم توصية، وإنما ينتقل إلى تنفيذ القرار بنفسه.
ويضرب مثالا بقطاع الرعاية الصحية، موضحا أن استخدام نموذج متقدم داخل مستشفى قد يسمح له بفحص ملفات المرضى وإجراء أبحاث وتحليلات عليها، ثم الانتقال إلى تقديم توصيات بشأن الأدوية أو العمليات.
ويرى أن الخطر يكمن في انتقال النظام من مرحلة مساعدة الطبيب إلى اتخاذ خطوات وقرارات قد يكون من المفترض أن تظل خاضعة للمراجعة البشرية.
من مراقبة الحسابات إلى التصرف في الأموال
ويقدم بانافع مثالا آخر من القطاع المصرفي. فإذا استخدم البنك الذكاء الاصطناعي لرصد الحسابات المشبوهة، فمن الطبيعي أن يقوم النظام بإبلاغ المسؤولين عن وجود نشاط غير معتاد. لكن الخطورة، بحسب تصوره، تبدأ إذا تجاوز النظام هذه المرحلة واتخذ إجراءات من تلقاء نفسه، مثل إغلاق الحسابات أو تحويل الأموال أو التواصل مع جهات أمنية ودولية، قبل أن يكون المسؤول البشري على علم بما يحدث.
وهنا يصبح السؤال الأساسي ليس فقط: "هل يستطيع الذكاء الاصطناعي اكتشاف المشكلة؟ وإنما: "هل يجب أن نسمح له باتخاذ القرار وتنفيذه دون تدخل بشري؟.
هل يهدد الذكاء الاصطناعي الوظائف؟
ورغم هذه المخاوف، يرى بانافع أن استبدال الوظائف البشرية بشكل كامل لن يحدث بين ليلة وضحاها، مشيرا إلى أن الذكاء الاصطناعي لا يزال يواجه حدودا في فهم السياق البشري والتعامل مع بعض المواقف التي تتطلب مرونة وحكما بشريا. ويستشهد على ذلك بقطاعات مثل المطاعم، حيث قد يكون فهم طلب العميل والتعامل مع التفاصيل غير المتوقعة أكثر تعقيدا من مجرد تنفيذ أمر مكتوب.
وبذلك، فإن التطور الحالي لا يعني بالضرورة اختفاء الوظائف فورا، لكنه قد يغير طبيعة عدد كبير منها، مع انتقال الذكاء الاصطناعي تدريجيا من أداة تساعد الإنسان إلى وكيل قادر على تنفيذ سلسلة كاملة من المهام.
وتضع هذه التطورات شركات الذكاء الاصطناعي أمام معادلة صعبة: تطوير نماذج أكثر قدرة واستقلالية من أجل المنافسة وجذب المستخدمين، وفي الوقت نفسه ضمان ألا تتجاوز هذه النماذج الحدود التي يستطيع البشر مراقبتها والسيطرة عليها.
