قص معيار التدرج

أدخل متجه التدرج: قم بإدخال قيم التدرج لكل معلمة في النموذج، مفصولة بفواصل. هذه القيم تمثل مشتقات دالة الخسارة بالنسبة لكل وزن. يتم حساب التدرج من خلال الانتشار العكسي ويشير إلى اتجاه ومدى تحديث الأوزان.

أدخل قيمة القص (clipValue): هي عتبة قص متجه التدرج. اختر قيمة موجبة (مثل 1.0 أو 5.0) بناءً على حجم الشبكة ومعدل التعلم. القيم الصغيرة تمنع الانفجار لكنها قد تبطئ التدريب.

حساب معيار L2: يتم حساب الجذر التربيعي لمجموع مربعات عناصر المتجه. رياضياً: ||g||₂ = √(∑ gᵢ²). يمثل هذا المقياس مقدار التدرج الكلي.

مقارنة المعيار مع قيمة القص: إذا كان ||g||₂ > clipValue، يتم تطبيق القص بنسبة clipValue/||g||₂، مما يقلل من مقدار التدرج دون تغيير اتجاهه. أما إذا كان ||g||₂ ≤ clipValue، يبقى المتجه دون تغيير.