نسبة الضغط المجمعة

خطوات الاستخدام

الخطوة 1: إدخال نسبة ضغط التقليم (Pruning Factor). هذه النسبة تعبر عن مدى تقليص عدد المعاملات في النموذج الأصلي بعد تطبيق تقنية التقليم. على سبيل المثال، إذا تم إزالة 50% من المعاملات، تُصبح النسبة 2 (لأن الحجم الأصلي مقسوم على الحجم الجديد يساوي 2). يُفضل استخدام قيم أكبر من 1، حيث أن القيمة 1 تعني عدم وجود ضغط.

الخطوة 2: إدخال نسبة ضغط التكميم (Quantization Factor). هنا يتم إدخال عامل الضغط الناتج عن تقليل دقة الأوزان. مثلاً، إذا تم تحويل الأوزان من 32 بت إلى 8 بت، فإن عامل الضغط يكون 4 (32/8). هذا العامل يؤدي إلى تقليل حجم النموذج بشكل كبير مع الحفاظ على الأداء المقبول.

الخطوة 3: إدخال نسبة ضغط التقطير (Distillation Factor). التقطير يعتمد على تدريب نموذج أصغر (طالب) لمحاكاة نموذج أكبر (معلم). عامل الضغط هنا هو النسبة بين حجم النموذج المعلم إلى حجم النموذج الطالب. مثلاً، إذا كان حجم المعلم 200 MB والطالب 50 MB، فإن النسبة تكون 4.

الأسئلة الشائعة

نسبة الضغط المجمعة هي مقياس لتقليل حجم نموذج الذكاء الاصطناعي بعد تطبيق تقنيات الضغط المختلفة: التقليم (Pruning)، التكميم (Quantization)، والتقطير (Distillation). يتم حسابها ببساطة كحاصل ضرب عوامل الضغط لكل تقنية على حدة. فإذا كان لدينا عامل تقليم (ج) يعبر عن عدد مرات تقليص المعاملات، وعامل تكميم (ك) يعبر عن تخفيض دقة الأوزان، وعامل تقطير (ت) يعبر عن تقليص حجم النموذج بسبب استخدام معلم أصغر، فإن النسبة المجمعة = ج × ك × ت. هذا القانون يفترض أن التأثيرات مستقلة، وهو تقريب جيد في معظم الحالات العملية. القيمة الناتجة، على سبيل المثال 10، تعني أن النموذج النهائي أصغر بعشر مرات من الأصلي. يمكن استخدام هذه النسبة لتقدير احتياجات التخزين والذاكرة بسرعة، وهو أمر حيوي لنشر النماذج على الأجهزة ذات الموارد المحدودة مثل الهواتف الذكية وأجهزة إنترنت الأشياء.

النتيجة هي رقم موجب. كلما كانت أكبر، كان الضغط أكبر، وبالتالي النموذج النهائي أصغر. على سبيل المثال، النتيجة 1 تعني عدم وجود ضغط (جميع العوامل تساوي 1). النتيجة 2 تعني أن النموذج نصف الحجم الأصلي. النتيجة 10 تعني أن النموذج أصبح عُشر الحجم. النتيجة 100 تعني أن النموذج أصغر بمئة مرة. في الممارسة العملية، نادرًا ما يتجاوز الضغط الكلي 100 لنماذج كبيرة. من المهم ملاحظة أن الضغط العالي جدًا قد يؤدي إلى تدهور الأداء، لذا يجب الموازنة بين الحجم والدقة. يمكن استخدام هذه الآلة الحاسبة كأداة تقديرية أولية، ثم التحقق تجريبيًا من أداء النموذج المضغوط.

إذا لم يتم استخدام تقنية معينة، ببساطة أدخل القيمة 1 في الحقل الخاص بها. لأن عامل الضغط 1 يعني أن التقنية لا تغير حجم النموذج (لا يوجد ضغط). على سبيل المثال، إذا لم تستخدم التقطير، أدخل 1 في حقل التقطير. عندئذٍ ستكون نسبة الضغط المجمعة فقط حاصل ضرب عاملي التقليم والتكميم. هذا يسمح بحساب الضغط لأي مجموعة فرعية من التقنيات. هذه المرونة تجعل الآلة الحاسبة مفيدة لمختلف سيناريوهات ضغط النماذج.

نعم، هذه الآلة الحاسبة تقوم بحساب نظري ورياضي بسيط يفترض أن تأثيرات التقنيات مستقلة تمامًا. في الواقع، قد تتداخل هذه التقنيات، حيث أن التكميم بعد التقليم قد يكون له تأثير مختلف، والتقطير قد يتأثر بكل منهما. لذا فإن النتيجة هي تقدير تقريبي. أيضًا، يجب أن تكون عوامل الإدخال (التقليم، التكميم، التقطير) محسوبة بشكل صحيح من حالات الاستخدام الخاصة بك. على سبيل المثال، عامل التقليم هو النسبة بين عدد المعاملات الأصلية إلى عددها بعد التقليم، وليس النسبة المئوية المحذوفة. إذا حذفت 30% من المعاملات، فإن العامل = 1/(1-0.3) ≈ 1.429. أما بالنسبة للتكميم، فالعامل هو النسبة بين عدد البتات الأصلية والجديدة (مثلاً 32/8=4). بالنسبة للتقطير، هو النسبة بين حجمي المعلم والطالب. تأكد من فهم هذه التعريفات للحصول على نتائج دقيقة.

نسبة الضغط المجمعة

أدخل القيم

خطوات الاستخدام

أمثلة محلولة

أمثلة محسوبة

الأسئلة الشائعة