عدد معاملات الشبكة العصبية

لحساب عدد المعاملات، نطبق الخطوات:

- الطبقة الأولى (input -> hidden1): number of parameters = (inputDim × neuronsPerLayer) + neuronsPerLayer = (784 × 128) + 128 = 100352 + 128 = 100480.

- الطبقة المخفية الثانية (hidden1 -> hidden2): نظرًا لأن الطبقة الثانية تتلقى مدخلات من الطبقة الأولى التي تحتوي على 128 خلية، فإن معاملاتها = (neuronsPerLayer × neuronsPerLayer) + neuronsPerLayer = (128 × 128) + 128 = 16384 + 128 = 16512.

- طبقة الخرج (hidden2 -> output): عدد الخلايا في آخر طبقة مخفية هو 128، وعدد المخرجات 10، إذن المعاملات = (neuronsPerLayer × outputDim) + outputDim = (128 × 10) + 10 = 1280 + 10 = 1290.

- المجموع الكلي = 100480 + 16512 + 1290 = 118282 معاملًا. (تنبيه تدقيق: كان هذا المثال يكتب الجداء 784 × 128 = 100480، والصواب 100352، لذا كان المجموع السابق 118410 مبالغًا فيه بمقدار 128).

وهذا العدد يمثل جميع الأوزان والتحيزات القابلة للتعلم في الشبكة. لاحظ أننا حسبنا تحيزات كل طبقة (الحدود الثابتة المضافة لكل خلية) والتي تظهر في كل حد من الحدود الثلاثة. هذه المعاملات تؤثر على حجم النموذج والذاكرة المطلوبة ووقت التدريب.

نقوم بالحساب خطوة بخطوة:

- الطبقة الأولى: (1000 × 512) + 512 = 512000 + 512 = 512512.

- الطبقة المخفية الثانية (من hidden1 إلى hidden2): (512 × 512) + 512 = 262144 + 512 = 262656.

- الطبقة المخفية الثالثة (من hidden2 إلى hidden3): (512 × 512) + 512 = 262656. (لاحظ أن عدد الخلايا ثابت في جميع الطبقات المخفية).

- طبقة الخرج (من hidden3 إلى output): (512 × 50) + 50 = 25600 + 50 = 25650.

- المجموع: 512512 + 262656 + 262656 + 25650 = 1,063,474 معاملًا.

هذا الرقم كبير نسبيًا ويوضح كيف يزيد عدد المعاملات بشكل تربيعي تقريبًا مع عدد الخلايا في الطبقات المخفية. إذا كان عدد الخلايا متغيرًا بين الطبقات، فيجب تعديل الحسابات وفقًا لذلك. هذه الحاسبة تفترض عدد خلايا ثابت لجميع الطبقات المخفية لتسهيل الحساب.