قد يصبح جهاز تلفزيون متصل بالإنترنت جزءًا من شبكة تشغّل نموذجًا للذكاء الاصطناعي وتنقله إلى أجهزة أخرى، من دون الحاجة إلى مركز بيانات ضخم. هذا أحد السيناريوهات التي تحذر منها شركة Anthropic، مع اقتراب نماذج صغيرة من امتلاك القدرات اللازمة لنسخ نفسها والانتشار عبر الأجهزة المنزلية.
وتتوقع الشركة أن تصبح هذه القدرات في متناول النماذج خلال أشهر، ما يفتح الباب أمام مخاطر يصعب احتواؤها إذا خرجت الأنظمة عن السيطرة. ومع أن Anthropic تقر بأن نموذجًا قادرًا على النسخ الذاتي المنفلت لم يظهر بعد، فإنها ترى أن الأنظمة الحالية تقترب تدريجيًا من إتقان الخطوات التي قد تقود إلى ذلك.
ولا تتوقف الفكرة عند تشغيل الذكاء الاصطناعي على جهاز منزلي. فالسيناريو الذي تطرحه Anthropic يقوم على استغلال الأجهزة المتصلة بالإنترنت لتوفير القدرة الحاسوبية اللازمة لتشغيل النماذج، ثم الانتقال منها إلى أجهزة أخرى.
وقد تساعد الحماية الأمنية الضعيفة في كثير من هذه الأجهزة على اختراقها. وتشير الشركة إلى أن النموذج الذي لا تتسع له إمكانات جهاز واحد يمكن تقسيمه إلى أجزاء، أو «شظايا»، تعمل على مجموعة من الأجهزة بدلًا من تشغيله كاملًا على جهاز منفرد.
واختبرت Anthropic هذا الاحتمال باستخدام نموذج «Gemma4-26B-A4B» من Google، إذ شغّلته عبر شبكة تضم 15 جهاز تلفزيون رخيصًا يعمل بنظام Android، ومن علامات تجارية غير معروفة على نطاق واسع. ولا يثبت هذا الاختبار أن نموذجًا بدأ بالفعل نسخ نفسه تلقائيًا، لكنه يوضح كيف يمكن توزيع تشغيل النماذج على عدة أجهزة.
شبكة يصعب إيقافها
تظهر المشكلة الأكبر عندما ينتشر النظام بين أجهزة متفرقة، فلا يعود هناك موضع واحد يمكن إغلاقه لتعطيل عمله بالكامل. وحذرت Anthropic من أن مثل هذا النظام سيكون «من الصعب إيقافه»، لأنه «لا توجد نقطة مركزية لإيقافه». وتزداد صعوبة السيطرة عليه إذا توزعت أجزاؤه على أجهزة كثيرة، بدلًا من بقائه داخل بنية واحدة يسهل تحديدها.
وتقر الشركة بأنه لا يوجد حتى الآن «ناسخ ذاتي منفلت بالكامل». لكنها تقول إن الوكلاء الذكية أصبحت أكثر قدرة على تنفيذ الخطوات المنفردة التي تتكون منها عملية النسخ، وعلى نقل التعديلات التي تجريها إلى النسخ اللاحقة.
ويعني ذلك أن القلق لا يرتبط بظهور نظام ينجز العملية كاملة في خطوة واحدة، وإنما بتقدم الأنظمة في تنفيذ أجزائها المختلفة. فكلما ازدادت قدرتها على إنجاز هذه المهام، اقترب احتمال جمعها في عملية متكاملة.
من الانتشار البطيء إلى الاختراقات السريعة
لا تعرف Anthropic حتى الآن الشكل الذي قد يتخذه النسخ الذاتي المستقل. فقد ينتشر عبر شبكة بطيئة من الأجهزة ضعيفة الحماية، أو يظهر في صورة نموذج متقدم للهجمات الإلكترونية يخترق مراكز البيانات بسرعة. وثمة احتمال آخر يتمثل في نظام يخدع أشخاصًا للحصول على أرصدة حوسبة تتيح له مواصلة العمل.
وترى الشركة أن أسوأ السيناريوهات قد لا يعتمد على نموذج واحد أو أسلوب واحد. فقد تعمل مجموعة من النماذج المختلفة على أنواع متباينة من الأجهزة، مستخدمة طرقًا متعددة للنسخ والانتشار.
وتأتي هذه المخاوف وسط تحذيرات متزايدة من قدرة أنظمة الذكاء الاصطناعي على تنفيذ هجمات إلكترونية أو التصرف خارج نطاق السيطرة البشرية. ففي سبتمبر، أثارت التحسينات التي شهدتها النماذج المتقدمة تحذيرات واسعة في القطاع من مخاطر وجودية محتملة على البشرية.
وحذر مسؤولون وباحثون في Anthropic ومنافستها OpenAI مرارًا من مخاطر تزايد قدرات هذه الأنظمة، داعين إلى تشديد الضوابط والتحكم في وتيرة تطورها.
علامة مبكرة على خطر أكبر
تتوقع Anthropic مستقبلًا تعمل فيه الوكلاء الذكية على أنواع مختلفة من الأجهزة، بما فيها أجهزة لا تخضع لسيطرة البشر. وترى أن ظهور أنظمة بطيئة قادرة على نسخ نفسها قد يشكل مؤشرًا مبكرًا على تطور أنظمة أشد سرعة وقدرة على الانتشار.
وتحذر الشركة من أن هذه الأنظمة قد تتمكن لاحقًا من اختراق أجهزة أكثر تحصينًا، أو سرقة مفاتيح الوصول إلى واجهات البرمجة التي تتيح استخدام الخدمات الرقمية.
وهكذا، لا ينحصر التحذير في احتمال تشغيل الذكاء الاصطناعي على أجهزة منزلية، وإنما في إمكان توظيف هذه الأجهزة لبناء شبكة موزعة يصعب إيقافها من نقطة واحدة. وتعتبر Anthropic أن ظهور أنظمة بطيئة للنسخ الذاتي قد يكون إنذارًا مبكرًا بمخاطر أكثر حدة، حتى مع عدم تحقق سيناريو النسخ المنفلت حتى الآن.
