"كلود ميثوس" يثير جدلًا حول الخوف من الذكاء الاصطناعي

كشفت شركة الذكاء الاصطناعي "أنثروبيك" عن نموذجها الجديد "كلود ميثوس"، مشيرة إلى أنه يتمتع بقدرات متقدمة في اكتشاف الثغرات السيبرانية تفوق القدرات البشرية، محذّرة من تداعيات محتملة على الأمن السيبراني والاقتصادات والسلامة العامة إذا استُخدمت تقنيات مماثلة بشكل غير مسؤول.

مخاوف حول الذكاء الاصطناعي

وقالت الشركة في منشور على مدونتها إن النموذج قد يحمل "عواقب خطيرة على الأمن القومي"، في حين ذهبت بعض التحذيرات من خبراء الأمن إلى وصف قدراته بأنها قد تُحدث تغييرات واسعة في البنية الرقمية للحياة اليومية.

ووفقًا لـ" BBC" تأتي هذه التصريحات ضمن سلسلة تحذيرات متكررة من شركات الذكاء الاصطناعي الكبرى بشأن المخاطر المحتملة لتقنياتها، وهو ما يثير جدلاً بين خبراء الأمن السيبراني حول مدى واقعية هذه المخاوف.

وفي المقابل، يشكك بعض المختصين في هذه الطروحات، معتبرين أنها قد تُستخدم للتأثير على الرأي العام وصرف الانتباه عن التحديات الحالية المرتبطة باستخدام الذكاء الاصطناعي، إلى جانب تعزيز الدعوات لتخفيف القيود التنظيمية على القطاع.

وقالت شانون فالور، رئيسة قسم أخلاقيات البيانات والذكاء الاصطناعي في جامعة إدنبرة، إن تصوير هذه التقنيات على أنها "شديدة الخطورة" قد يخلق شعورًا بالعجز لدى الجمهور، ويعزز الاعتماد على الشركات المطورة باعتبارها الجهة الوحيدة القادرة على التحكم بها.

جدل متصاعد في وادي السيليكون

أفاد متحدث باسم شركة "أنثروبيك" بأن الشركة كانت واضحة في مواقفها المتعلقة بهذه القضايا، مشيرًا إلى أنها شاركت منشورات من جهات أخرى تدعم القدرات السيبرانية لنموذج "ميثوس"، دون التعليق على النقاط التفصيلية الواردة في التقرير، باستثناء تعليق واحد.

ويأتي ذلك في سياق جدل أوسع داخل قطاع الذكاء الاصطناعي حول تطوير النماذج المتقدمة، حيث أشار التقرير إلى أن الرئيس التنفيذي للشركة، داريو أمودي، سبق أن شارك في تطوير أدوات وُصفت سابقًا بأنها عالية الخطورة خلال عمله في شركة "أوبن إيه آي"، ومنها نموذج GPT-2 الذي جرى تأجيل إطلاقه في 2019 بسبب مخاوف تتعلق بالاستخدامات الضارة قبل أن يتم إتاحته لاحقًا.

كما أورد التقرير تصريحات سابقة لسام ألتمان، الرئيس التنفيذي لـ"أوبن إيه آي"، انتقد فيها ما وصفه بـ"التسويق القائم على الخوف" في قطاع الذكاء الاصطناعي، رغم تحذيرات سابقة أطلقها هو نفسه بشأن المخاطر المحتملة للتقنية.

ويشير التقرير أيضًا إلى بيانات ومبادرات مشتركة لعدد من أبرز قادة شركات التكنولوجيا، من بينهم ألتمان وأمودي وبيل غيتس وديميس هاسابيس، دعت إلى إعطاء أولوية للحد من مخاطر الذكاء الاصطناعي، إلى جانب تحذيرات سابقة من ضرورة إبطاء تطوير النماذج المتقدمة.

في المقابل، ترى إميلي إم بيندر، أستاذة اللغويات الحاسوبية ومعالجة اللغات الطبيعية في جامعة واشنطن، أن الخطاب السائد في صناعة الذكاء الاصطناعي يتضمن قدرًا من المبالغة في تصوير المخاطر المستقبلية، بما قد يساهم في صرف الانتباه عن التحديات الحالية المرتبطة بالأثر البيئي والاجتماعي للتكنولوجيا.

ثغرات أمنية شديدة الخطورة

أعلنت شركة "أنثروبيك" أن نموذجها الجديد تمكن من اكتشاف آلاف الثغرات الأمنية المصنفة "شديدة الخطورة" في قطاعات تقنية متعددة، مؤكدة أن قدراته في هذا المجال تفوق خبرات بشرية متخصصة، كما كشفت عن شراكة مع أكثر من 40 شركة ومؤسسة في إطار ما وصفته بـ"تحرك عاجل" لسد هذه الثغرات قبل استغلالها من قبل جهات خبيثة.

وقال متحدث باسم الشركة إن "أنثروبيك" تعمل على التعاون مع مؤسسات مختلفة لمعالجة الثغرات في أنظمة الحوسبة الأساسية التي تمثل "الجزء الأكبر من التحدي الأمني".

في المقابل، قوبلت هذه الادعاءات بتشكيك من خبراء في مجال الأمن السيبراني، بينهم الدكتورة هايدي خلف، كبيرة علماء الذكاء الاصطناعي في معهد "الذكاء الاصطناعي الآن"، التي أشارت إلى أن مؤشرات الأداء الأساسية في هذا المجال، مثل معدلات الإنذارات الكاذبة، لم يتم توضيحها بشكل كافٍ من قبل الشركة.

كما وردت بعض الادعاءات بأن شركة أنثروبيك ربما تكون قد أخرت إطلاق لعبة ميثوس على نطاق واسع لعدم قدرتها على توفير القدرة الحاسوبية اللازمة . ولم ترد الشركة على استفساري بهذا الشأن أيضاً.

وقالت خلف إن هذا المؤشر يُعد "الأكثر أهمية لقياس فعالية أدوات الكشف عن الثغرات"، مضيفة أن الشركة لم تقدم مقارنة واضحة بين نموذجها والأدوات التقليدية المعتمدة في أمن المعلومات.

كما أثيرت تساؤلات حول تأخر الإطلاق الواسع للنموذج، وسط مزاعم بأن ذلك قد يكون مرتبطًا بقدرات الحوسبة المطلوبة، دون أن تقدم الشركة تعليقًا رسميًا على ذلك.

ورغم الجدل، أكدت خلف أن استخدام الذكاء الاصطناعي في اكتشاف الثغرات الأمنية يمثل تهديدًا حقيقيًا وفرصة في الوقت ذاته، لكنها شددت على أن المزاعم المتعلقة بتفوق مطلق للنموذج ما زالت تفتقر إلى أدلة كافية.