ระบบ ML เวอร์ชันที่ใช้งานจริง: การอนุมานแบบคงที่เทียบกับแบบไดนามิก

การอนุมานคือกระบวนการคาดการณ์โดยใช้โมเดลที่ผ่านการฝึกกับตัวอย่างที่ไม่มีป้ายกำกับ โดยทั่วไปแล้ว โมเดลจะอนุมานการคาดการณ์ได้ 2 วิธีดังนี้

  • การอนุมานแบบคงที่ (หรือที่เรียกว่าการอนุมานแบบออฟไลน์หรือการอนุมานแบบเป็นกลุ่ม) หมายความว่าโมเดลจะทำการคาดการณ์เกี่ยวกับตัวอย่างที่ไม่มีป้ายกำกับที่พบบ่อย แล้วแคชการคาดการณ์เหล่านั้นไว้
  • การอนุมานแบบไดนามิก (หรือที่เรียกว่าการอนุมานออนไลน์หรือการอนุมานแบบเรียลไทม์) หมายความว่าโมเดลจะทำการคาดการณ์เฉพาะเมื่อมีคําขอ เช่น เมื่อลูกค้าขอการคาดการณ์

ลองใช้ตัวอย่างที่รุนแรงที่สุด เช่น สมมติว่าโมเดลที่ซับซ้อนมากต้องใช้เวลา 1 ชั่วโมงในการอนุมานการคาดการณ์ สถานการณ์ต่อไปนี้อาจเป็นสถานการณ์ที่เหมาะสําหรับการใช้การอนุมานแบบคงที่

รูปที่ 4 ในการอนุมานแบบคงที่ โมเดลจะสร้างการคาดการณ์ จากนั้นระบบจะแคชการคาดการณ์ไว้ในเซิร์ฟเวอร์
รูปที่ 4 ในการอนุมานแบบคงที่ โมเดลจะสร้างการคาดการณ์ จากนั้นระบบจะแคชการคาดการณ์ไว้ในเซิร์ฟเวอร์

 

สมมติว่าโมเดลที่ซับซ้อนเดียวกันนี้ใช้การอนุมานแบบไดนามิกแทนการอนุมานแบบคงที่ หากลูกค้าจํานวนมากขอการคาดการณ์ในช่วงเวลาเดียวกัน ลูกค้าส่วนใหญ่จะไม่ได้รับข้อมูลการคาดการณ์เป็นเวลาหลายชั่วโมงหรือหลายวัน

ลองพิจารณาโมเดลที่อนุมานได้อย่างรวดเร็ว เช่น ใน 2 มิลลิวินาทีโดยใช้ทรัพยากรการประมวลผลขั้นต่ำ ในกรณีนี้ ลูกค้าจะได้รับการคาดการณ์ได้อย่างรวดเร็วและมีประสิทธิภาพผ่านการอนุมานแบบไดนามิก ดังที่แสดงในรูปที่ 5

รูปที่ 5 ในการอนุมานแบบไดนามิก โมเดลจะอนุมานการคาดการณ์ดีมานด์
รูปที่ 5 ในการอนุมานแบบไดนามิก โมเดลจะอนุมานการคาดการณ์ตามคําขอ

 

การให้เหตุผลแบบคงที่

การทำนายแบบคงที่มีข้อดีและข้อเสียบางอย่าง

ข้อดี

  • ไม่ต้องกังวลมากเกี่ยวกับค่าใช้จ่ายในการอนุมาน
  • ยืนยันการคาดการณ์ได้หลังจากการยืนยันก่อนการพุช

ข้อเสีย

  • แสดงเฉพาะการคาดคะเนที่แคชไว้ได้ ระบบจึงอาจแสดงการคาดคะเนสำหรับตัวอย่างอินพุตที่พบไม่บ่อยไม่ได้
  • เวลาในการตอบสนองของการอัปเดตมักจะวัดเป็นชั่วโมงหรือวัน

การให้เหตุผลแบบไดนามิก

การอนุมานแบบไดนามิกมีทั้งข้อดีและข้อเสีย

ข้อดี

  • สามารถอนุมานการคาดการณ์เกี่ยวกับรายการใหม่รายการใดก็ได้เมื่อรายการนั้นเข้ามา ซึ่งเหมาะอย่างยิ่งสําหรับการคาดการณ์แบบหายาก (พบไม่บ่อย)

ข้อเสีย

  • ต้องใช้การประมวลผลมากและคำนึงถึงเวลาในการตอบสนอง การผสมผสานนี้อาจจํากัดความซับซ้อนของโมเดล กล่าวคือ คุณอาจต้องสร้างโมเดลที่เรียบง่ายขึ้นซึ่งสามารถอนุมานการคาดการณ์ได้เร็วกว่าโมเดลที่ซับซ้อน
  • จำเป็นต้องมีการตรวจสอบอย่างเข้มข้นมากขึ้น

แบบฝึกหัด: ทดสอบความเข้าใจ

ข้อความ3ข้อใดต่อไปนี้เป็นจริงเกี่ยวกับการอนุมานแบบคงที่
โมเดลต้องสร้างการคาดการณ์สําหรับอินพุตที่เป็นไปได้ทั้งหมด
ใช่ โมเดลต้องคาดการณ์อินพุตที่เป็นไปได้ทั้งหมดและจัดเก็บไว้ในแคชหรือตารางการค้นหา หากชุดของสิ่งที่โมเดลคาดการณ์มีจํากัด การอนุมานแบบคงที่อาจเป็นตัวเลือกที่ดี อย่างไรก็ตาม สำหรับการป้อนข้อมูลแบบอิสระ เช่น คำค้นหาของผู้ใช้ที่มีรายการที่ผิดปกติหรือหายากจำนวนมาก การทำนายแบบคงที่จะให้ผลลัพธ์ไม่ครอบคลุม
ระบบสามารถยืนยันการคาดการณ์ที่อิงตามข้อมูลที่มีอยู่ก่อนแสดง
ใช่ นี่เป็นแง่มุมที่มีประโยชน์ของการอนุมานแบบคงที่
สําหรับอินพุตหนึ่งๆ โมเดลจะแสดงการคาดการณ์ได้เร็วกว่าการอนุมานแบบไดนามิก
ได้ เกือบทุกครั้งที่การอนุมานแบบคงที่แสดงการคาดคะเนได้เร็วกว่าการอนุมานแบบไดนามิก
คุณสามารถตอบสนองต่อการเปลี่ยนแปลงของโลกได้อย่างรวดเร็ว
ไม่ได้ นี่เป็นข้อเสียของการอนุมานแบบคงที่
ข้อความข้อใดต่อไปนี้เป็นจริงเกี่ยวกับการอนุมานแบบไดนามิก
คุณสามารถระบุการคาดการณ์สำหรับรายการที่เป็นไปได้ทั้งหมด
ใช่ นี่เป็นข้อดีของการอนุมานแบบไดนามิก คำขอทั้งหมดที่เข้ามาจะได้รับคะแนน การอนุมานแบบไดนามิกจัดการกับข้อมูลประชากรที่มีค่าหายาก (ซึ่งมีรายการที่หายากจำนวนมาก) เช่น พื้นที่ของประโยคที่เป็นไปได้ทั้งหมดที่เขียนในรีวิวภาพยนตร์
คุณทำการยืนยันการคาดการณ์หลังการยืนยันได้ก่อนที่จะนำการคาดการณ์ไปใช้
โดยทั่วไปแล้ว คุณจะไม่สามารถยืนยันการคาดการณ์ทั้งหมดหลังการยืนยันก่อนที่จะนำไปใช้งานได้ เนื่องจากระบบจะทำการคาดการณ์ตามคําขอ อย่างไรก็ตาม คุณสามารถตรวจสอบคุณภาพการคาดการณ์แบบรวมเพื่อให้มีการตรวจสอบคุณภาพในระดับหนึ่งได้ แต่การตรวจสอบเหล่านี้จะส่งสัญญาณสัญญาณเตือนไฟไหม้หลังจากที่ไฟได้ลุกลามไปแล้ว
เมื่อทำการอนุมานแบบไดนามิก คุณไม่จำเป็นต้องกังวลเกี่ยวกับเวลาในการตอบสนองของการคาดการณ์ (เวลาหน่วงในการแสดงผลลัพธ์การคาดการณ์) มากเท่ากับเมื่อทำการอนุมานแบบคงที่
เวลาในการตอบสนองของการคาดการณ์มักเป็นข้อกังวลจริงในการอนุมานแบบไดนามิก ขออภัย การเพิ่มเซิร์ฟเวอร์การอนุมานอีกอาจไม่ได้ช่วยแก้ปัญหาเวลาในการตอบสนองของการคาดการณ์