خطوات الاستخدام
الخطوة الأولى: فهم مفهوم العينات خارج الحقيبة (OOB) - عند تدريب نموذج الغابة العشوائية، يتم بناء كل شجرة باستخدام عينة Bootstrap (عينة مع إعادة من مجموعة البيانات الأصلية). حوالي 63% من العينات الأصلية تظهر في كل عينة Bootstrap، بينما الـ 37% المتبقية لا تظهر في تلك الشجرة وتسمى العينات خارج الحقيبة (Out-of-Bag). يتم استخدام هذه العينات لتقييم أداء الشجرة دون الحاجة إلى مجموعة اختبار منفصلة. يُحسب خطأ OOB كمتوسط خطأ التنبؤ عبر جميع العينات، حيث يتم التنبؤ بكل عينة فقط باستخدام الأشجار التي لم تظهر فيها تلك العينة أثناء التدريب.
الخطوة الثانية: دور عدد الأشجار (trees) - عدد الأشجار لا يغيّر احتمال بقاء عينة خارج الحقيبة، بل يغيّر عدد الأصوات المتاحة لتقييمها: كل عينة تبقى خارج الحقيبة في نحو 36.8% من الأشجار، فمتوسط أصواتها يساوي trees × 0.368 (نحو 11 صوتًا بـ 30 شجرة ونحو 37 بـ 100 شجرة)؛ ولهذا يقل تباين تقدير OOB ويستقر مع زيادة الأشجار. (عادة 100-500 شجرة). من المهم إدخال عدد كافٍ من الأشجار (مثلاً 100 أو أكثر) للحصول على تقدير موثوق. القيم الصغيرة جداً (مثل 10 أشجار) تؤدي إلى تقدير غير مستقر.
الخطوة الثالثة: تأثير حجم العينة (samples) - عدد العينات (حجم مجموعة البيانات الأصلية) يؤثر على كمية العينات خارج الحقيبة. مع عدد عينات أكبر، يكون لدينا المزيد من العينات OOB لكل شجرة، مما يحسن دقة تقدير الخطأ. كما أن زيادة عدد العينات تقلل من تأثير التحيز في التقدير. لكن إذا كان عدد العينات صغيراً جداً (مثل أقل من 50)، فقد يكون تقدير OOB غير دقيق بسبب قلة العينات المتاحة للاختبار.
الخطوة الرابعة: حساب هندسة عينات OOB - تُشتق نواتج الحاسبة من عدد الأشجار وعدد العينات وحدهما. الصيغة المعتمدة هي احتمال بقاء عينة خارج حقيبة شجرة: (1 - 1/n)^n حيث n هو عدد العينات، وهو يقترب من e^-1 = 36.79% عندما يكبر n. تُخرج الحاسبة هذه النسبة وعدد العينات الخارجة لكل شجرة (n × النسبة)، ثم إجمالي تنبؤات OOB في الغابة (trees × هذا العدد) ومتوسط الأصوات التي تحصل عليها كل عينة (trees × النسبة)، واحتمال أن تكون عينة ما خارج الحقيبة في كل الأشجار. أما نسبة الخطأ نفسها فمتوسط تنبؤات حقيقية على العينات الخارجة (الخطوة الأولى) ولا تُشتق من العدادات، فلا تُخترع لها قيمة هنا؛ تُستخدم هذه النواتج لفهم موثوقية تقدير OOB قبل التدريب الفعلي. فمثلا 200 شجرة مع 5000 عينة تعطي 36.784% خارج الحقيبة و1839 عينة لكل شجرة ونحو 73.57 صوتًا لكل عينة؛ أما نسبة الخطأ نفسها فلا تأتي إلا من تنبؤات الأشجار المدربة على العينات الخارجة.
أمثلة محلولة
تطبيقات عملية على عينات الغابة العشوائية خارج الحقيبة بخطوات الحل كاملة.
الحل
احتمال بقاء عينة خارج حقيبة شجرة واحدة هو (1 - 1/5000)^5000 = 0.367843، أي 36.784262% من العينات خارج الحقيبة مقابل 63.215738% داخلها، وهو ما يعادل 1839.213 عينة لكل شجرة. بضربه في 200 شجرة تنتج الغابة 367842.62 تنبؤًا خارج الحقيبة، أي متوسط 73.569 صوتًا لكل عميل. عند خفض الأشجار إلى 50 يبقى للعميل 50 × 0.367843 = 18.392 صوتًا فقط، أي خمس الأصوات تقريبًا، وهذا جوهر عدم الاستقرار الذي تحذر منه الخطوة الثانية؛ أما نسبة الخطأ نفسها فتُقاس من تنبؤات الأشجار المدربة ولا تُشتق من العددات وحدها.
الحل
النسبة خارج الحقيبة هي (1 - 1/200)^200 = 0.366958، أي 36.695784% من العينات، فيكون لكل شجرة 73.392 عينة خارج الحقيبة (وهو رقم الـ 74 الذي تذكره الخطوات) و126.608 داخلها. عند 30 شجرة تحصل كل عينة على 30 × 0.366958 = 11.009 تقييمًا، وعند 100 شجرة تحصل على 36.696 تقييمًا؛ أي أن رفع عدد الأشجار يضاعف الأصوات أكثر من ثلاثة أضعاف فيستقر تقدير OOB. ومع 200 عينة يبقى التحقق المتقاطع أنصح لأن حجم العينات نفسه صغير.
أمثلة محسوبة
قيم مُدخَلة ونتيجة محسوبة فعليًا بواسطة عينات الغابة العشوائية خارج الحقيبة.
مثال 1: 200 شجرة و5000 عينة = 36.78% خارج الحقيبة و1839 لكل شجرة
- عدد الأشجار
- 200
- عدد العينات
- 5,000
مثال 2 بـ 30 شجرة: 73.39 عينة لكل شجرة و11.01 صوتًا لكل عينة
- عدد الأشجار
- 30
- عدد العينات
- 200
50 عينة و10 أشجار: 3.64 صوتًا فقط لكل عينة
- عدد الأشجار
- 10
- عدد العينات
- 50
عينة واحدة: لا شيء خارج الحقيبة والتقدير معدوم
- عدد الأشجار
- 100
- عدد العينات
- 1