تعتزم شركة Anthropic تحذير المستثمرين المحتملين في طرحها العام الأولي من أن الذكاء الاصطناعي المتقدم قد يسبب «مخاطر كارثية أو وجودية للبشرية»، وفق نشرة اكتتاب اطلعت عليها رويترز، فيما تستعد الشركة لطرح أسهمها للاستثمار.
وتقول Anthropic في نشرة الاكتتاب إن نماذج الذكاء الاصطناعي التي تطورها قد تظهر سلوكيات تهدف إلى الحفاظ على بقائها، ومنها محاولات «مقاومة الإيقاف» و«إخفاء المعلومات أو التلاعب بها» وسلوك «يشبه الابتزاز».
وأضافت الشركة «قد يؤدي تطويرنا لنماذج ومنصات وتطبيقات متقدمة للغاية وتوسيع استخداماتها إلى زيادة مخاطر تسبب نماذجنا في أضرار».
وتوضح النشرة أن الشركات العامة تفصح عادة عن مخاطر منتجاتها أمام المستثمرين، فيما تدرج Anthropic ضمن إفصاحاتها احتمال تسبب التكنولوجيا التي تطورها في أضرار قد تكون غير قابلة للعكس. وترى الشركة أن الذكاء الاصطناعي يمكن أن يحدث تحولًا يوازي في أثره التصنيع والكهرباء، مع التحذير من العواقب التي قد تنتج عن إساءة التعامل معه.
وتخصص Anthropic نحو 80 صفحة من أصل 261 صفحة في متن نشرة طرحها العام لعوامل الخطر، مقابل 48 صفحة خصصتها لوصف أعمال الشركة. وللمقارنة، خصصت سبيس إكس، التي تملك شركة إكس إيه آي، نحو 38 صفحة من أصل 277 صفحة في متن نشرة اكتتابها الرئيسي لعوامل الخطر.
وتقول Anthropic «إن إدراك النماذج المحتمل لجهودنا في التقييم يشكل قيدًا كبيرًا على قدرتنا على تقييم سلامة النماذج»، مضيفة أن بعض النماذج قد تطور قدرات غير متوقعة أثناء التدريب، وقد لا تُكتشف تلك القدرات إلا بعد نشرها ووقوع حوادث سلامة كبيرة.
ويرى باحثون في مجال الذكاء الاصطناعي أن ازدياد قدرات النماذج قد يجعلها أكثر قدرة على إدراك خضوعها للمراقبة وتعديل سلوكها بناء على ذلك، ما يزيد صعوبة متابعة سلوكها. ورفضت Anthropic التعليق على طلب من رويترز يوم الاثنين.
تقدير يتجاوز 10% لاحتمال قتل البشر
وتواجه Anthropic وشركات أخرى لتطوير الذكاء الاصطناعي، بينها OpenAI، تدقيقًا بعد حوادث ظهرت فيها أنظمة تجريبية وهي تتجاوز القيود المفروضة عليها، ومنها تقرير أفاد بأن نموذجًا من OpenAI اخترق قاعدة بيانات للنظام الصحي في أستراليا.
وقدر إيفان هوبينجر، الباحث في مجال السلامة لدى Anthropic، احتمالًا يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في قتل البشر خلال العقد المقبل، في تقدير مماثل لما عبر عنه زميل سابق له هو جاكوب كوكسون.
ورغم تركيز Anthropic على سلامة الذكاء الاصطناعي، تقول الشركة إن العوائد على استثماراتها في هذا المجال لا تزال غير واضحة. ولم تكشف في نشرة الاكتتاب حجم الإنفاق على أبحاث السلامة، إلا أنها قالت في وقت سابق هذا الشهر إن نحو 6% من القدرة الحاسوبية التي استخدمتها في أبحاث الذكاء الاصطناعي ذهبت إلى أعمال السلامة خلال أسبوع عينة في يوليو.
عوائد السلامة وضغط تطوير النماذج
وتصف Anthropic، التي تطور نماذج كلود، جهود السلامة بأنها «كثيفة استهلاك الموارد»، وتقول إنها مطالبة بتوزيع أموالها المحدودة بين القدرة الحاسوبية والمواهب المرتفعة التكلفة في مجال الذكاء الاصطناعي وأعمال السلامة.
كما تقول الشركة إن استخدام العملاء، وبالتالي الإيرادات، يعتمد على إطلاق نماذج جديدة، وإن «وتيرة مستمرة ومتداخلة» من الإصدارات «متأصلة في البقاء في طليعة تطوير الذكاء الاصطناعي».
وأطلقت Anthropic الأسبوع الماضي إصدارًا جديدًا من نموذج أوبوس، بعد 10 أيام من نشر الرئيس التنفيذي داريو أمودي مقالًا يقارب 4000 كلمة دعا فيه إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة. وقال بعض المحللين والخبراء إن شركات الذكاء الاصطناعي الرائدة قد لا تبطئ التطوير إذا كان ذلك يخاطر بمنح المنافسين أفضلية في صناعة يمكن أن تتغير تقييماتها مع كل إصدار.
التركيز على التحسين الذاتي
وتعهدت Anthropic خلال الأسابيع الأخيرة بنشر مزيد من البيانات للعامة بشأن كيفية استخدام نماذج الذكاء الاصطناعي لبناء أجيال جديدة من التكنولوجيا، في وقت يحذر فيه خبراء من التحسين الذاتي التكراري، وهي المرحلة التي تستطيع فيها النماذج تطوير نفسها من دون مساعدة بشرية.
وقالت الشركة في نشرة الاكتتاب «نعتقد أن بناء أنظمة ذكاء اصطناعي موثوقة وجديرة بالثقة وآمنة مسؤولية جماعية، وأن السوق سيكافئ ذلك».
