تقنية

أعباء كبيرة لتطوير التقنية الفائقة.. تكاليف تدريب نماذج الذكاء الاصطناعي

تتطور تقنيات الذكاء الاصطناعي التوليدي بسرعة كبيرة، ومع الإنجازات التي تحققها الشركات العاملة بهذا المجال، تتحمل أعباء ضخمة مقابل الدفع نحو المستقبل.

كشف تقرير مؤشر الذكاء الاصطناعي لعام 2024 الصادر عن جامعة “ستانفورد” الأمريكية أن تدريب نماذج الذكاء الاصطناعي المتقدمة مثل “ChatGPT” من “OpenAI” و”Gemini Ultra” من “Google”.

تكلفة ضخمة

يستلزم تطوير نماذج الذكاء الاصطناعي متطلبات حسابية كبيرة، وبناءً عليه، ترتفع تكاليف الطاقة الحاسوبية اللازمة لتنفيذ هذا الإجراء.

تعاون مؤشر الذكاء الاصطناعي مع شركة الأبحاث “Epoch AI” لتقدير تكاليف تدريب نماذج الذكاء الاصطناعي على البيانات، والتي تعتمد بشكل كبير على أسعار تأجير الحوسبة السحابية.

تشمل العوامل الرئيسية التي تم تحليلها مدة تدريب النموذج، ومعدل استخدام الأجهزة، وقيمة أجهزة التدريب.

في العام الماضي، كلّف تدريب “GPT-4” من “OpenAI” ما يقدر بنحو 78.4 مليون دولار، وهو ارتفاع كبير عن نموذج “PaLM” من “Google”، والذي كلف 12.4 مليون دولار قبل عام واحد فقط.

للتعرف على الزيادة الكبيرة في تكاليف تطوير هذه التقنيات، تجدر الإشارة إلى أن تكلفة التدريب على “Transformer”، وهو نموذج مبكر للذكاء الاصطناعي تم تطويره في عام 2017، بلغت 930 دولارًا.

ومن الجدير بالذكر أن هذا النموذج يلعب دورًا أساسيًا في تشكيل بنية العديد من نماذج اللغات الكبيرة المستخدمة اليوم.

ويكلّف تدريب نموذج الذكاء الاصطناعي من “Google”، المعروف باسم “Gemini Ultra”، أكثر من منافسيه، حيث تنفق الشركة ما يصل إلى 191 مليون دولار على هذا الغرض.

وفقًا للبيانات المتاحة حتى أوائل عام 2024، يتفوق نموذج “Gemini” على “GPT-4” في العديد من المقاييس، أبرزها معيار فهم لغة المهام المتعددة.

يعد هذا المعيار بمثابة مقياس حاسم لقياس قدرات نماذج اللغات الكبيرة، فهو معروف بتقييم المعرفة وكفاءة حل المشكلات عبر 57 مجالًا موضوعيًا.

ونظراً لهذه التحديات، تجد شركات الذكاء الاصطناعي حلولاً جديدة لتدريب النماذج اللغوية لمكافحة ارتفاع التكاليف.

يتضمن ذلك عددًا من الأساليب، مثل إنشاء نماذج أصغر مصممة لأداء مهام محددة.

وتقوم شركات أخرى بتجربة إنشاء بيانات تركيبية خاصة بها لتغذيتها في أنظمة الذكاء الاصطناعي.

أظهرت نماذج الذكاء الاصطناعي التي تعتمد على الآليات غير المكلفة أنها غير مجدية، حيث تقدم استجابات سيئة عندما يتم سؤالها بمطالبات معينة، مما يؤدي إلى ما يشار إليه باسم “انهيار النموذج”.

المصادر:

موقع visualcapitalist