الشبكات العصبونية: العُقد والطبقات المخفية

لإنشاء شبكة عصبية يتعلم العلاقة غير الخطية، ابدأ ببنية النموذج المألوفة التالية: النموذج الخطي للنموذج $y' = b + w_1x_1 + w_2x_2 + w_3x_3$.

يمكننا تصور هذه المعادلة كما هو موضح أدناه، حيث $x_1$، $x_2$ و $x_3$ هي عُقد الإدخال الثلاث (باللون الأزرق)، و $y'$ هي عقدة الإخراج (باللون الأخضر).

التمرين 1

في النموذج أعلاه، يشتمل الوزن تم تحديد قيم الانحياز بشكل عشوائي التهيئة. قم بإجراء المهام التالية للتعرف على ونستكشف النموذج الخطي. يمكنك تجاهل القائمة المنسدلة دالة التفعيل في الوقت الحالي؛ سنناقش هذا الموضوع لاحقًا في الوحدة.

  1. انقر على الزر "تشغيل" (▶️) فوق الشبكة لحساب قيمة عقدة الإخراج لقيم الإدخال $x_1 = 1.00$، $x_2 = 2.00$، $x_3 = 3.00$.

  2. انقر فوق العقدة الثانية في طبقة الإدخال، وزيادة القيمة من 2.00 إلى 2.50. لاحظ أن قيمة عقدة الإخراج تتغير. اختَر الناتج العُقد (باللون الأخضر) وراجع لوحة العمليات الحسابية لمعرفة كيف يمكن أن يكون الناتج حساب القيمة.

  3. انقر فوق عقدة الإخراج (باللون الأخضر) لمشاهدة الوزن ($w_1$، $w_2$، $w_3$) قيم معلمة التحيز ($b$). خفض قيمة الوزن لـ $w_3$ (مرة أخرى، لاحظ أن قيمة عقدة الإخراج والحسابات أدناه تغيرت). بعد ذلك، قم بزيادة قيمة التحيز. الاطّلاع على كيفية إجراء هذه التغييرات قد أثرت في ناتج النموذج.

إضافة طبقات إلى الشبكة

لاحظ أنه عندما تم ضبط قيم الوزن والتحيز للشبكة في تمرين 1، الذي لم يغير الرياضيات الإجمالية العلاقة بين المدخلات والمخرجات. لا يزال نموذجنا خطيًا.

ولكن ماذا لو أضفنا طبقة أخرى إلى الشبكة بين طبقة الإدخال وطبقة الإخراج؟ في مصطلحات الشبكة العصبية، هناك طبقات إضافية بين تُسمى طبقة الإدخال وطبقة الإخراج الطبقات المخفية والعُقد في هذه الطبقات الخلايا العصبية.

وتُحسب قيمة كل خلية عصبية في الطبقة المخفية بنفس طريقة حساب ناتج نموذج خطي: ناتج عن مجموع حاصل ضرب كل واحد من مُدخلاته (الخلايا العصبية في طبقة الشبكة السابقة) ومعلَمة الوزن الفريدة، بالإضافة إلى التحيز. وبالمثل، فإن الخلايا العصبية في الطبقة التالية (هنا، طبقة الإخراج) باستخدام قيم الخلية العصبية في الطبقة المخفية كمدخلات.

تسمح هذه الطبقة الجديدة لنموذجنا بإعادة تجميع بيانات الإدخال باستخدام طبقة مجموعة من المعاملات. هل يمكن أن يساعد ذلك نموذجنا في تعلّم العلاقات غير الخطية؟

التمرين 2

لقد أضفنا طبقة خفية تحتوي على أربع خلايا عصبية إلى النموذج.

انقر على الزر "تشغيل" (▶️) فوق الشبكة لحساب قيمة العقد الأربعة المخفية الطبقات وعقدة الإخراج لقيم الإدخال $x_1 = 1.00$، و$x_2 = 2.00$، و $x_3 = 3.00$.

ثم استكشف النموذج، واستخدمه للإجابة عن الأسئلة التالية.

كم عدد والمعامل (القيم المرجحة والتحيزات) هذا التحليل نموذج الشبكة؟
4
كان لنموذجنا الأصلي في التمرين 1 أربع معلَمات: w11 وw21 w31 وb. ولأن هذا النموذج يحتوي على طبقة مخفية، فهناك المزيد من المعاملات.
12
تجدر الإشارة إلى أنّ العدد الإجمالي للمعلَمات يتضمّن كلتا المَعلمتَين. لحساب قيم العقدة في الطبقة المخفية من وقيم المدخلات والمعلمات المستخدمة لحساب قيمة الإخراج من قيم العقدة في الطبقة المخفية.
16
لاحظ أن العدد الإجمالي للمعلمات يشمل كلاً من الوزن ومعاملات التحيز.
21
هناك 4 معلمات مستخدمة لحساب كل قيمة من قيم العقدة الأربع في الطبقة المخفية—3 أوزان (واحدة لكل قيمة إدخال) التحيز - والذي مجموعه 16 معلمة. ثم يتم استخدام 5 معلمات لحساب قيمة المخرجات: 4 ترجيحات (واحدة لكل عقدة في طبقة مخفية) وتحيز. وبالإجمال، تضم هذه الشبكة العصبية 21 المعلَمات.

جرِّب تعديل معاملات النموذج ولاحظ التأثير في قيم العقدة المخفية الطبقة وقيمة المخرجات (يمكنك مراجعة لمعرفة كيف كانت هذه القيم، تظهر في لوحة العمليات الحسابية أدناه الحساب).

هل يمكن لهذا النموذج أن يتعلّم الأمور غير الخطية؟

نعم
انقر على كل عقدة من العقد في الطبقة المخفية وعقدة الإخراج، وراجع العمليات الحسابية أدناه. ما الذي تلاحظه حول كل هذه العمليات الحسابية؟
لا

إذا نقرت على كل عقدة في الطبقة المخفية وراجعت العمليات الحسابية أدناه، سترى أن جميعها تكون خطية (التي تشمل عمليات الضرب والجمع).

إذا قمت بعد ذلك بالنقر فوق عقدة الإخراج ومراجعة العملية الحسابية أدناه، سترى أن هذه العملية الحسابية خطية أيضًا. المساواة بين نقاط الاتصال العمليات الحسابية التي يتم إجراؤها على مخرجات العمليات الحسابية الخطية وكذلك خطية، مما يعني أن هذا النموذج لا يمكنه التعرف على الخطوط غير الخطية.