خسارة تنعيم التسميات

أدخل عدد الفئات (numClasses): يمثل عدد الفئات الممكنة في مشكلة التصنيف. هذا الرقم يحدد بُعد توزيع الاحتمالات المستهدف. كلما زاد عدد الفئات، أصبح تأثير التنعيم أكثر وضوحًا لأن معامل التنعيم يوزع بالتساوي على جميع الفئات. تأكد من أن الرقم صحيح لأن أي خطأ سيؤدي إلى حساب خاطئ للخسارة.

أدخل معامل التنعيم (smoothing): وهو معامل ε (عادة بين 0 و 1). يحدد مقدار التوزيع الاحتمالي الموحد الذي يُخلط مع التوزيع الواقعي (one-hot). على سبيل المثال، ε=0.1 يعني أن 90% من الوزن يذهب للفئة الصحيحة و 10% موزعة بالتساوي على جميع الفئات. هذا يمنع النموذج من أن يكون واثقًا جدًا في تنبؤاته ويحسن التعميم.

تحت الغطاء، تقوم الحاسبة بحساب التوزيع المستهدف المُنعَّم: target = (1 - ε) * one_hot + ε / K، حيث K هو عدد الفئات. ثم تحسب خسارة الإنتروبيا المتقاطعة (Cross-Entropy Loss) بين هذا التوزيع المُنعَّم وتوزيع الاحتمالات المتوقع من النموذج (softmax). الصيغة: Loss = - Σ target_i * log(p_i) حيث p_i هي الاحتمالات المتوقعة.

تنبيه عقدي: هذه الحاسبة لا تطلب توزيع النموذج المتوقع (لا إدخال للاحتمالات ولا لفئة الهدف)، لذا هي تعرض حالتين فقط قابلتين للحساب من (K, ε): الخسارة عند التنبؤ المنتظم p_i = 1/K وهي ln(K) كما في الخطوة الرابعة، والادنى الممكنة وهي انتروبيا الهدف المُنعَّم. تحت التنبؤ المنتظم يختصر معامل التنعيم جبريًا: Loss = -[(1-ε+ε/K) + (K-1)(ε/K)] ln(1/K) = ln(K) لكل ε، أي أن قيمة ln(K) لا تخبرك شيئًا عن شدة التنعيم. لأية قيمة أخرى (مثل توزيع [0.7, 0.2, 0.1] في المثال الأول أدناه) يجب الحساب يدويًا أو بإدخال الاحتمالات في مكتبة.

لكل فئة i، يتم حساب المساهمة في الخسارة. إذا كان predictive model يعطي توزيع احتمالي، فسيتم حساب اللوغاريتم الطبيعي لاحتمال كل فئة ثم ضربه في الهدف المُنعَّم. الناتج النهائي هو مجموع سالب هذه القيم. يمكن للحاسبة أيضًا عرض قيمة الخسارة لمثال افتراضي إذا لم يتم إدخال توزيع متوقع.

يُستخدم هذا المقياس بشكل شائع في تدريب نماذج التعلم العميق (خاصة التصنيف مع تسوية) لتحسين الأداء على البيانات غير المرئية. تكون الخسارة مع التنعيم أقل من الخسارة العادية عندما يكون النموذج واثقًا جدًا، مما يجعل التنبؤات أكثر سلاسة.