เพื่อสร้างโครงข่ายระบบประสาทเทียม ที่เรียนรู้ความไม่เป็นเชิงเส้น เริ่มต้นด้วยโครงสร้างโมเดลที่คุ้นเคยดังต่อไปนี้ รูปแบบเชิงเส้นของแบบฟอร์ม y′=b+w1x1+w2x2+w3x3
เราสามารถเห็นภาพสมการนี้ได้ดังที่แสดงด้านล่าง โดยที่ x1 x2 และ x3 คือโหนดอินพุต 3 โหนด (สีฟ้า) และ y′ คือโหนดเอาต์พุตของเรา (สีเขียว)
แบบฝึกหัด 1
ในรูปแบบด้านบน แอตทริบิวต์น้ำหนักและ ค่า อคติ มีการสุ่ม ได้เริ่มต้นแล้ว ดำเนินการต่อไปนี้เพื่อทำความคุ้นเคยกับ ของอินเทอร์เฟซ และสำรวจโมเดลเชิงเส้น คุณสามารถ ในตอนนี้ให้ไม่สนใจเมนูแบบเลื่อนลงฟังก์ชันการเปิดใช้งาน เราจะพูดถึงเรื่องนี้ หัวข้อต่อไปของโมดูล
คลิกปุ่มเล่น (▶️) ด้านบนเครือข่ายเพื่อคำนวณค่าของ โหนดเอาต์พุตสำหรับค่าอินพุต x1=1.00, x2=2.00 และ x3=3.00
คลิกโหนดที่สองใน เลเยอร์อินพุตและเพิ่ม ค่าจาก 20.00 เป็น 2.50 โปรดทราบว่าค่าของโหนดเอาต์พุตมีการเปลี่ยนแปลง เลือกเอาต์พุต โหนด (สีเขียว) และตรวจสอบแผงการคำนวณเพื่อดูเอาต์พุต มูลค่า
คลิกโหนดเอาต์พุต (สีเขียว) เพื่อดูน้ำหนัก (w1, w2, w3) และ ค่าพารามิเตอร์การให้น้ำหนักพิเศษ (b) ลดค่าน้ำหนักสำหรับ w3 (ขอย้ำอีกครั้งว่าค่าของโหนดเอาต์พุตและการคำนวณด้านล่าง มีการเปลี่ยนแปลง) จากนั้นให้เพิ่มค่าการให้น้ำหนักพิเศษ ดูวิธีการเปลี่ยนแปลงเหล่านี้ ส่งผลต่อเอาต์พุตโมเดล
การเพิ่มเลเยอร์ลงในเครือข่าย
โปรดทราบว่าเมื่อคุณปรับค่าน้ำหนักและค่าความลำเอียงของเครือข่ายใน แบบฝึกหัด 1 ที่ไม่ได้เปลี่ยนแปลงคณิตศาสตร์โดยรวม ความสัมพันธ์ระหว่างอินพุตและเอาต์พุต โมเดลของเรายังคงเป็นโมเดลเชิงเส้น
แต่ถ้าเราเพิ่มเลเยอร์อีกชั้นหนึ่งลงในเครือข่าย โดยให้อยู่ระหว่างเลเยอร์อินพุต และเลเยอร์เอาต์พุตได้ไหม ในศัพท์เกี่ยวกับโครงข่ายระบบประสาทเทียม ชั้นเพิ่มเติมระหว่าง เลเยอร์อินพุตและเลเยอร์เอาต์พุตจะถูกเรียก เลเยอร์ที่ซ่อนอยู่ และโหนด ในเลเยอร์เหล่านี้เรียกว่า เซลล์ประสาท
ค่าของเซลล์ประสาทแต่ละเซลล์ในเลเยอร์ที่ซ่อนอยู่จะคำนวณในแบบเดียวกับ เอาต์พุตของโมเดลเชิงเส้น: นำผลรวมของผลคูณของอินพุตแต่ละรายการ (เซลล์ประสาทในเลเยอร์เครือข่ายก่อนหน้า) และพารามิเตอร์น้ำหนักที่ไม่ซ้ำ บวกกับอคติด้วย ในทำนองเดียวกัน เซลล์ประสาทในชั้นถัดไป (ตรงนี้คือเลเยอร์เอาต์พุต) คำนวณโดยใช้ค่าเซลล์ประสาทของเลเยอร์ที่ซ่อนอยู่เป็นอินพุต
เลเยอร์ที่ซ่อนอยู่ใหม่นี้ช่วยให้โมเดลของเรารวมข้อมูลอินพุตใหม่โดยใช้ ชุดพารามิเตอร์ สิ่งนี้จะช่วยให้โมเดลของเราเรียนรู้ความสัมพันธ์ที่ไม่ใช่เชิงเส้นได้ไหม
แบบฝึกหัด 2
เราได้เพิ่มเลเยอร์ที่ซ่อนอยู่ซึ่งมีเซลล์ประสาท 4 เซลล์ในโมเดล
คลิกปุ่มเล่น (▶️) ด้านบนเครือข่ายเพื่อคำนวณค่าของ โหนดเลเยอร์ที่ซ่อนอยู่ 4 โหนดและโหนดเอาต์พุตสำหรับค่าอินพุต x1=1.00, x2=2.00 และ x3=3.00
จากนั้นให้สำรวจโมเดลและนำมาใช้เพื่อตอบคำถามต่อไปนี้
ลองแก้ไขพารามิเตอร์โมเดล และสังเกตผลกระทบบน ค่าโหนดเลเยอร์ที่ซ่อนอยู่และค่าเอาต์พุต (คุณสามารถดู แผงการคำนวณด้านล่างเพื่อดูค่าเหล่านี้ ได้รับการคำนวณ)
โมเดลนี้เรียนรู้ความไม่เป็นเชิงเส้นได้ไหม