โครงข่ายระบบประสาทเทียม

คุณอาจจำได้จาก นำเสนอการออกกำลังกายแบบครอสเวิร์ด ในโมดูลข้อมูลเชิงหมวดหมู่ ว่าปัญหาการจัดประเภทต่อไปนี้ไม่ใช่แบบเชิงเส้น

รูปที่ 1 ระนาบพิกัดคาร์ทีเซียนแบ่งเป็น 4
      จตุภาค แต่ละจุดมีจุดสุ่มเป็นรูปร่างคล้ายรูป
      สี่เหลี่ยม จุดในจตุภาคด้านบนขวาและด้านล่างซ้ายจะเป็นสีน้ำเงิน
      และจุดในจตุภาคด้านซ้ายบนและขวาล่างจะเป็นสีส้ม
รูปที่ 1 ปัญหาการจัดประเภทแบบไม่ใช่เชิงเส้น ฟังก์ชันเชิงเส้นไม่สามารถ แยกจุดสีน้ำเงินทั้งหมดออกจากจุดสีส้มอย่างชัดเจน

"ไม่เป็นเชิงเส้น" หมายความว่าคุณไม่สามารถคาดการณ์ป้ายกำกับที่มี ของแบบฟอร์ม \(b + w_1x_1 + w_2x_2\)กล่าวคือ "แพลตฟอร์มการตัดสินใจ" ไม่เป็นบรรทัด

อย่างไรก็ตาม หากเราดำเนินการข้ามคุณลักษณะ $x_1$ และ $x_2$ เราจะสามารถ แสดงความสัมพันธ์ที่ไม่ใช่เชิงเส้นระหว่างคุณลักษณะทั้งสองโดยใช้ รูปแบบเชิงเส้น $b + w_1x_1 + w_2x_2 + w_3x_3$ โดยที่ $x_3$ เป็นจุดสนใจที่อยู่ระหว่าง $x_1$ และ $x_2$:

รูปที่ 2 ระนาบพิกัดคาร์ทีเซียนเดียวกันของสีน้ำเงินและสีส้ม
      จุดตามรูปที่ 1  แต่คราวนี้เส้นโค้งไฮเปอร์โบลิกสีขาว
      พล็อตในตาราง ซึ่งจะแยกจุดสีน้ำเงินที่ด้านขวาบน
      และจตุภาคด้านซ้ายล่าง (ตอนนี้แรเงาด้วยพื้นหลังสีฟ้า) จาก
      จุดสีส้มในจตุภาคด้านบนซ้ายและล่างขวา (ตอนนี้คือ
      แรเงาด้วยพื้นหลังสีส้ม)
รูปที่ 2 เพิ่มกากบาทขององค์ประกอบ x1x2 โมเดลเชิงเส้นสามารถเรียนรู้ รูปทรงไฮเปอร์โบลิกที่แยกจุดสีน้ำเงินออกจากจุดสีส้ม

ตอนนี้ให้พิจารณาชุดข้อมูลต่อไปนี้

วันที่ รูปที่ 3 ระนาบพิกัดคาร์ทีเซียนแบ่งออกเป็น 4 จตุภาค
      กลุ่มจุดสีน้ำเงินทรงกลมมีจุดศูนย์กลางอยู่ที่จุดเริ่มต้นของ
      และล้อมรอบด้วยวงแหวนของจุดสีส้ม
รูปที่ 3 ปัญหาการแยกประเภทแบบไม่ใช่เชิงเส้นที่ยากกว่า

คุณยังอาจจำได้จากการออกกำลังกายแบบข้ามฟีเจอร์ การกำหนดกากบาทคุณลักษณะที่ถูกต้องเพื่อให้พอดีกับโมเดลเชิงเส้นกับข้อมูลนี้ จึงต้องใช้ความพยายามและการทดลองมากขึ้นเล็กน้อย

แต่ถ้าคุณไม่ได้ทำการทดลองทั้งหมดด้วยตัวเองล่ะ โครงข่ายประสาทเป็นตระกูล ของสถาปัตยกรรมโมเดล ที่ออกแบบมาเพื่อค้นหา ไม่เป็นเชิงเส้น รูปแบบต่างๆ ในข้อมูล ในระหว่างการฝึกโครงข่ายประสาท model โดยอัตโนมัติ เรียนรู้ข้ามฟีเจอร์ที่มีประสิทธิภาพสูงสุดในการดำเนินการกับข้อมูลอินพุตเพื่อลด การสูญเสีย

ในส่วนต่อไปนี้ เราจะมาดูรายละเอียดการทำงานของโครงข่ายประสาท