โครงข่ายระบบประสาทเทียม: โหนดและเลเยอร์ที่ซ่อนอยู่

เพื่อสร้างโครงข่ายระบบประสาทเทียม ที่เรียนรู้ความไม่เป็นเชิงเส้น เริ่มต้นด้วยโครงสร้างโมเดลที่คุ้นเคยดังต่อไปนี้ รูปแบบเชิงเส้นของแบบฟอร์ม y=b+w1x1+w2x2+w3x3

เราสามารถเห็นภาพสมการนี้ได้ดังที่แสดงด้านล่าง โดยที่ x1 x2 และ x3 คือโหนดอินพุต 3 โหนด (สีฟ้า) และ y คือโหนดเอาต์พุตของเรา (สีเขียว)

แบบฝึกหัด 1

ในรูปแบบด้านบน แอตทริบิวต์น้ำหนักและ ค่า อคติ มีการสุ่ม ได้เริ่มต้นแล้ว ดำเนินการต่อไปนี้เพื่อทำความคุ้นเคยกับ ของอินเทอร์เฟซ และสำรวจโมเดลเชิงเส้น คุณสามารถ ในตอนนี้ให้ไม่สนใจเมนูแบบเลื่อนลงฟังก์ชันการเปิดใช้งาน เราจะพูดถึงเรื่องนี้ หัวข้อต่อไปของโมดูล

  1. คลิกปุ่มเล่น (▶️) ด้านบนเครือข่ายเพื่อคำนวณค่าของ โหนดเอาต์พุตสำหรับค่าอินพุต x1=1.00, x2=2.00 และ x3=3.00

  2. คลิกโหนดที่สองใน เลเยอร์อินพุตและเพิ่ม ค่าจาก 20.00 เป็น 2.50 โปรดทราบว่าค่าของโหนดเอาต์พุตมีการเปลี่ยนแปลง เลือกเอาต์พุต โหนด (สีเขียว) และตรวจสอบแผงการคำนวณเพื่อดูเอาต์พุต มูลค่า

  3. คลิกโหนดเอาต์พุต (สีเขียว) เพื่อดูน้ำหนัก (w1, w2, w3) และ ค่าพารามิเตอร์การให้น้ำหนักพิเศษ (b) ลดค่าน้ำหนักสำหรับ w3 (ขอย้ำอีกครั้งว่าค่าของโหนดเอาต์พุตและการคำนวณด้านล่าง มีการเปลี่ยนแปลง) จากนั้นให้เพิ่มค่าการให้น้ำหนักพิเศษ ดูวิธีการเปลี่ยนแปลงเหล่านี้ ส่งผลต่อเอาต์พุตโมเดล

การเพิ่มเลเยอร์ลงในเครือข่าย

โปรดทราบว่าเมื่อคุณปรับค่าน้ำหนักและค่าความลำเอียงของเครือข่ายใน แบบฝึกหัด 1 ที่ไม่ได้เปลี่ยนแปลงคณิตศาสตร์โดยรวม ความสัมพันธ์ระหว่างอินพุตและเอาต์พุต โมเดลของเรายังคงเป็นโมเดลเชิงเส้น

แต่ถ้าเราเพิ่มเลเยอร์อีกชั้นหนึ่งลงในเครือข่าย โดยให้อยู่ระหว่างเลเยอร์อินพุต และเลเยอร์เอาต์พุตได้ไหม ในศัพท์เกี่ยวกับโครงข่ายระบบประสาทเทียม ชั้นเพิ่มเติมระหว่าง เลเยอร์อินพุตและเลเยอร์เอาต์พุตจะถูกเรียก เลเยอร์ที่ซ่อนอยู่ และโหนด ในเลเยอร์เหล่านี้เรียกว่า เซลล์ประสาท

ค่าของเซลล์ประสาทแต่ละเซลล์ในเลเยอร์ที่ซ่อนอยู่จะคำนวณในแบบเดียวกับ เอาต์พุตของโมเดลเชิงเส้น: นำผลรวมของผลคูณของอินพุตแต่ละรายการ (เซลล์ประสาทในเลเยอร์เครือข่ายก่อนหน้า) และพารามิเตอร์น้ำหนักที่ไม่ซ้ำ บวกกับอคติด้วย ในทำนองเดียวกัน เซลล์ประสาทในชั้นถัดไป (ตรงนี้คือเลเยอร์เอาต์พุต) คำนวณโดยใช้ค่าเซลล์ประสาทของเลเยอร์ที่ซ่อนอยู่เป็นอินพุต

เลเยอร์ที่ซ่อนอยู่ใหม่นี้ช่วยให้โมเดลของเรารวมข้อมูลอินพุตใหม่โดยใช้ ชุดพารามิเตอร์ สิ่งนี้จะช่วยให้โมเดลของเราเรียนรู้ความสัมพันธ์ที่ไม่ใช่เชิงเส้นได้ไหม

แบบฝึกหัด 2

เราได้เพิ่มเลเยอร์ที่ซ่อนอยู่ซึ่งมีเซลล์ประสาท 4 เซลล์ในโมเดล

คลิกปุ่มเล่น (▶️) ด้านบนเครือข่ายเพื่อคำนวณค่าของ โหนดเลเยอร์ที่ซ่อนอยู่ 4 โหนดและโหนดเอาต์พุตสำหรับค่าอินพุต x1=1.00, x2=2.00 และ x3=3.00

จากนั้นให้สำรวจโมเดลและนำมาใช้เพื่อตอบคำถามต่อไปนี้

มีกี่ parameters (น้ำหนักและน้ำหนักพิเศษ) จะประมวลผลระบบประสาทเทียมนี้ ของโมเดลเครือข่าย
4
12
16
21

ลองแก้ไขพารามิเตอร์โมเดล และสังเกตผลกระทบบน ค่าโหนดเลเยอร์ที่ซ่อนอยู่และค่าเอาต์พุต (คุณสามารถดู แผงการคำนวณด้านล่างเพื่อดูค่าเหล่านี้ ได้รับการคำนวณ)

โมเดลนี้เรียนรู้ความไม่เป็นเชิงเส้นได้ไหม

ใช่
ไม่ได้