خطوات الاستخدام
الخطوة 1: إدخال عدد المعلمات (Parameters) – أدخل العدد الإجمالي لمعلمات النموذج، مثل 7 مليار (7B) أو 70 مليار (70B). هذا الرقم يؤثر مباشرةً على حجم الذاكرة المطلوبة، لأن كل معلمة تُخزَّن بقيمتها العددية التي تحتاج عدد معين من البايتات حسب الدقة المختارة. يمكن معرفة عدد المعلمات من ورقة النموذج أو من مواصفاته.
الخطوة 2: اختيار الدقة (Precision) – الدقة تحدد عدد البايتات لكل معلمة. مثلاً float32 (4 بايت)، float16/bfloat16 (2 بايت)، int8 (1 بايت). كلما زادت الدقة، زادت الذاكرة المستهلكة، ولكن قد تزداد دقة التدريب. يجب اختيار الدقة المناسبة للجهاز؛ فبعض وحدات المعالجة تدعم فقط دقة معينة في العمليات الحسابية.
الخطوة 3: إدخال حجم الدفعة (Batch Size) – عدد العينات التي تُعالج معًا في كل خطوة تدريب. حجم الدفعة يضاعف احتياج الذاكرة تقريبًا، لأنه يحدد عدد التنشيطات (Activations) المخزنة مؤقتًا. إذا كان حجم الدفعة كبيرًا، قد تحتاج لذاكرة إضافية لحساب التدرجات (Gradients) والتحسينات (Optimizer States).