การอนุมานเป็นกระบวนการของ
ทำการคาดการณ์โดยใช้โมเดลที่ผ่านการฝึกกับ
ตัวอย่างที่ไม่มีป้ายกำกับ
พูดกว้างๆ ก็คือโมเดลสามารถอนุมานการคาดการณ์ได้ด้วยวิธีใดวิธีหนึ่งจาก 2 วิธีต่อไปนี้
- การอนุมานแบบคงที่ (เรียกอีกอย่างว่าการอนุมานออฟไลน์ หรือ
การอนุมานแบบกลุ่ม) หมายถึง โมเดลทำการคาดการณ์ในกลุ่ม
ตัวอย่างที่ไม่มีป้ายกำกับทั่วไป
จากนั้นจะแคชการคาดคะเนเหล่านั้นไว้ที่ใดที่หนึ่ง
- การอนุมานแบบไดนามิก (หรือที่เรียกว่าการอนุมานออนไลน์หรือแบบเรียลไทม์
การอนุมาน) หมายความว่าโมเดลจะทำการคาดการณ์ตามคำขอเท่านั้น
ตัวอย่างเช่น เมื่อไคลเอ็นต์ขอการคาดการณ์
หากต้องการใช้ตัวอย่างสุดโต่ง ให้นึกถึงโมเดลที่ซับซ้อนมากซึ่ง
จะใช้เวลา 1 ชั่วโมงในการอนุมานการคาดคะเน
นี่อาจเป็นสถานการณ์ที่ยอดเยี่ยมสำหรับอนุมานแบบคงที่:
วันที่ 
รูปที่ 4 ในการอนุมานแบบคงที่ โมเดลจะสร้างการคาดการณ์
ซึ่งจะถูกแคชไว้ในเซิร์ฟเวอร์
สมมติว่าโมเดลที่ซับซ้อนเดียวกันนี้ใช้การอนุมานแบบไดนามิกแทน
การอนุมานแบบคงที่ หากลูกค้าจำนวนมากขอการคาดการณ์ในช่วงเวลาเดียวกัน
ผู้ใช้ส่วนใหญ่จะไม่ได้รับการคาดการณ์เป็นเวลาหลายชั่วโมงหรือหลายวัน
คราวนี้ลองพิจารณาโมเดลที่อนุมานได้อย่างรวดเร็ว อาจใช้เวลา 2 มิลลิวินาทีโดยใช้
ทรัพยากรคอมพิวเตอร์ที่สัมพันธ์กัน ในกรณีนี้ ลูกค้าสามารถ
ได้รับการคาดการณ์อย่างรวดเร็วและมีประสิทธิภาพผ่านการอนุมานแบบไดนามิก
ที่แนะนำในรูปที่ 5
วันที่ 
รูปที่ 5 ในการอนุมานแบบไดนามิก โมเดลจะอนุมานการคาดการณ์ตามคำขอ
การอนุมานแบบคงที่
การอนุมานแบบคงที่มีข้อดีและข้อเสียบางอย่าง
ข้อดี
- คุณไม่ต้องกังวลเรื่องค่าใช้จ่ายในการอนุมาน
- สามารถทำการคาดการณ์หลังการยืนยันก่อนพุชได้
ข้อเสีย
- ระบบอาจแสดงการคาดคะเนในแคชเท่านั้น ดังนั้นระบบจึงอาจไม่
สามารถแสดงการคาดการณ์สำหรับตัวอย่างการป้อนข้อมูลที่ไม่ปกติ
- เวลาในการตอบสนองของการอัปเดตมักจะวัดเป็นชั่วโมงหรือวัน
การอนุมานแบบไดนามิก
การอนุมานแบบไดนามิกมีข้อดีและข้อเสียบางอย่าง
ข้อดี
- อนุมานการคาดการณ์สำหรับรายการใหม่ทั้งหมดที่มีเข้ามาได้
เหมาะอย่างยิ่งสำหรับการคาดการณ์แบบเฉพาะเจาะจง (ไม่เป็นที่นิยม)
ข้อเสีย
- การประมวลผลที่หนักหน่วงและคำนึงถึงเวลาในการตอบสนอง ชุดค่าผสมนี้อาจจำกัดโมเดล
ความซับซ้อน กล่าวคือ คุณอาจต้องสร้างโมเดลที่ซับซ้อนขึ้นซึ่งสามารถ
อนุมานการคาดการณ์ได้เร็วกว่าโมเดลที่ซับซ้อน
- ความจำเป็นในการตรวจสอบจะเข้มงวดมากขึ้น
วันที่
แบบฝึกหัด: ตรวจสอบความเข้าใจ
ข้อความ 3 ข้อใดต่อไปนี้จาก 4 ข้อความต่อไปนี้
การอนุมานแบบคงที่คืออะไร
โมเดลต้องสร้างการคาดการณ์สำหรับอินพุตที่เป็นไปได้ทั้งหมด
ใช่ โมเดลต้องคาดการณ์อินพุตที่เป็นไปได้ทั้งหมดและ
จัดเก็บไว้ในแคชหรือตารางตรวจสอบ
หากชุดของสิ่งที่โมเดลคาดการณ์มีจำกัด
การอนุมานแบบคงที่อาจเป็นตัวเลือกที่ดี
แต่สำหรับการป้อนข้อมูลรูปแบบอิสระ เช่น ข้อความค้นหาของผู้ใช้ที่ยาว
หางของสิ่งที่ผิดปกติหรือหายาก การอนุมานแบบคงที่ไม่สามารถให้
เรื่องราวทั้งหมด
ระบบสามารถยืนยันการคาดการณ์ที่สรุปได้ก่อนที่จะแสดงโฆษณา
ให้พวกเขา
ใช่ นี่เป็นมุมมองที่มีประโยชน์ของการอนุมานแบบคงที่
สำหรับอินพุตหนึ่งๆ โมเดลจะแสดงการคาดการณ์ได้รวดเร็วยิ่งขึ้น
การอนุมานแบบไดนามิกได้
ใช่ การอนุมานแบบคงที่สามารถแสดงการคาดการณ์ได้เร็วขึ้นเกือบทุกครั้ง
การอนุมานแบบไดนามิก
คุณสามารถตอบสนองต่อการเปลี่ยนแปลงในโลกได้อย่างรวดเร็ว
ไม่ นี่เป็นข้อเสียของอนุมานแบบคงที่
ข้อความข้อใดข้อหนึ่งต่อไปนี้
ของการอนุมานแบบไดนามิก
คุณสามารถคาดการณ์รายการที่เป็นไปได้ทั้งหมด
ใช่ นี่เป็นจุดแข็งของการอนุมานแบบไดนามิก คำขอใดๆ ที่
ที่เข้ามาใหม่จะได้รับคะแนน แฮนเดิลการอนุมานแบบไดนามิก (Long-tail)
การกระจาย (ที่มีของหายากจำนวนมาก) เช่น พื้นที่ของทั้งหมด
จากประโยคที่ใช้ได้ในรีวิวภาพยนตร์
คุณสามารถดำเนินการหลังยืนยันการคาดคะเนได้ก่อนที่จะยืนยัน
โดยทั่วไปแล้ว คุณไม่สามารถดำเนินการยืนยันหลังการยืนยัน
การคาดคะเนก่อนที่จะถูกใช้ เนื่องจากการคาดคะเนถูก
ที่จัดทำขึ้นแบบออนดีมานด์ แต่คุณสามารถตรวจสอบ
รวมคุณภาพการคาดการณ์เพื่อให้ได้ระดับของ
การตรวจสอบคุณภาพ แต่จะส่งสัญญาณสัญญาณเตือนไฟไหม้หลังจาก
ไฟลุกไหม้ไปแล้ว
เมื่อทำการอนุมานแบบไดนามิก คุณก็ไม่จำเป็นต้องกังวล
เกี่ยวกับเวลาในการตอบสนองของการคาดการณ์ (เวลาหน่วงสำหรับการกลับการคาดการณ์)
เช่นเดียวกับเมื่อมีการอนุมานแบบคงที่
เวลาในการตอบสนองของการคาดการณ์มักเป็นข้อกังวลอย่างแท้จริงในการอนุมานแบบไดนามิก
ขออภัยที่คุณไม่สามารถแก้ไขปัญหาเวลาในการตอบสนองของการคาดการณ์ได้
ด้วยการเพิ่มเซิร์ฟเวอร์การอนุมาน
