خطوات الاستخدام
أولاً، حدد عدد معدلات التعلم (learningRates): هو عدد القيم التي ستجرّبها لمعدل التعلم، مثل 3 قيم هي [0.001, 0.01, 0.1]. الحاسبة تطلب العدد فقط (3 هنا) لا القيم نفسها، لأن القوائم تُدخَل في كود البحث. كلما زاد عدد القيم، زادت المجموعات.
ثانياً، حدد عدد أحجام الدفعات (batchSizes): حجم الدفعة هو عدد العينات المعالَجة قبل تحديث النموذج، والقيم الشائعة ثلاثة مثل [16, 32, 64]. أدخل العدد (3) لا القائمة، لأن العقد يطلب عدد القيم لكل محور.
ثالثاً، حدد عدد أنواع المحسنات (optimizerTypes): الخوارزميات المستخدمة لتحسين دالة الخسارة، مثل ['Adam', 'SGD', 'RMSprop'] وهو عدده 3. أدخل العدد لا الأسماء.
رابعاً، حدد عدد تكوينات الطبقات (layerConfigs): أي عدد البنى المختلفة للشبكة التي تُجرَّب (مثل '[64]' و '[128,64]' أي عددهما 2). أيضًا يُدخل العدد وليس السلاسل النصية.
أخيراً، تقوم الآلة بحساب العدد الإجمالي للمجموعات بضرب عدد القيم في كل معامل. على سبيل المثال، إذا كان لديك 3 معدلات تعلم، 3 أحجام دفعات، 2 محسنات، و 2 تكوين طبقات، يكون الناتج 3 × 3 × 2 × 2 = 36 مجموعة. هذا الرقم يمثل عدد التجارب التي ستجرى في بحث الشبكة.
أمثلة محلولة
تطبيقات عملية على شبكة المعاملات الفائقة بخطوات الحل كاملة.
الحل
لحساب عدد المجموعات، نضرب عدد القيم في كل معامل: عدد معدلات التعلم = 2، عدد أحجام الدفعات = 2، عدد المحسنات = 2، عدد تكوينات الطبقات = 2. إذن المجموع = 2 × 2 × 2 × 2 = 16 مجموعة. هذا يعني أن بحث الشبكة سيجرب 16 توليفة مختلفة من المعاملات الفائقة. كل توليفة تمثل نموذجاً يتم تدريبه وتقييمه. هذه العملية قد تكون مكلفة حسابياً، خاصة إذا كانت البيانات كبيرة أو النموذج عميقاً. من المهم أيضاً مراعاة أن بعض المجموعات قد لا تكون صالحة (مثلاً تجمع بين معدل تعلم كبير وحجم دفعة صغير)، لذا قد تحتاج إلى فلترة بعض القيم قبل البدء.
الحل
عدد معدلات التعلم = 4، عدد أحجام الدفعات = 3، عدد المحسنات = 5، عدد تكوينات الطبقات = 1. إذن المجموع = 4 × 3 × 5 × 1 = 60 مجموعة. حتى مع تكوين طبقة واحد فقط، ينتج عن المعاملات الأخرى عدد كبير من التجارب. هذا يوضح كيف يمكن أن ينمو عدد المجموعات بسرعة مع زيادة عدد القيم في أي معامل. يُفضل في الممارسة العملية البدء بعدد صغير من القيم لكل معامل، ثم تضييق النطاق بناءً على النتائج الأولية. يمكن استخدام تقنيات مثل البحث العشوائي (Random Search) لتقليل العبء الحسابي.
أمثلة محسوبة
قيم مُدخَلة ونتيجة محسوبة فعليًا بواسطة شبكة المعاملات الفائقة.
شبكة 2×2×2×2: 16 توليفة للتدريب
- عدد معدلات التعلم
- 2
- عدد أحجام الدفعات
- 2
- عدد أنواع المحسنات
- 2
- عدد تكوينات الطبقات
- 2
4 معدلات و3 دفعات و5 محسنات وتكوين واحد: 60 تجربة
- عدد معدلات التعلم
- 4
- عدد أحجام الدفعات
- 3
- عدد أنواع المحسنات
- 5
- عدد تكوينات الطبقات
- 1
المثال الموثق في الخطوة 5: 3×3×2×2 = 36 مجموعة
- عدد معدلات التعلم
- 3
- عدد أحجام الدفعات
- 3
- عدد أنواع المحسنات
- 2
- عدد تكوينات الطبقات
- 2