ทำความเข้าใจสภาพแวดล้อมของผู้ใช้ด้วย Scene Semantics API

คู่มือเฉพาะแพลตฟอร์ม

ความหมายของฉาก

Scene Semantics API ช่วยให้นักพัฒนาแอปเข้าใจฉากรอบตัวผู้ใช้ ซึ่งจําเป็นสําหรับประสบการณ์ AR คุณภาพสูงหลายรายการ Scene Semantics API สร้างขึ้นจากโมเดล ML ซึ่งให้ข้อมูลเชิงความหมายแบบเรียลไทม์ ซึ่งช่วยเสริมข้อมูลเรขาคณิตที่มีอยู่ใน ARCore

เมื่อได้รับรูปภาพฉากกลางแจ้ง API จะแสดงผลป้ายกำกับสำหรับแต่ละพิกเซลในชุดคลาสเชิงอรรถศาสตร์ที่มีประโยชน์ เช่น ท้องฟ้า อาคาร ต้นไม้ ถนน ทางเท้า ยานพาหนะ บุคคล และอื่นๆ นอกจากป้ายกำกับพิกเซลแล้ว Scene Semantics API ยังมีค่าความเชื่อมั่นสำหรับป้ายกำกับพิกเซลแต่ละรายการ และวิธีค้นหาความถี่ของป้ายกำกับหนึ่งๆ ในฉากกลางแจ้งที่ใช้งานง่าย

จากซ้ายไปขวาคือตัวอย่างรูปภาพอินพุต รูปภาพเชิงอรรถของป้ายกำกับพิกเซล และรูปภาพความเชื่อมั่นที่เกี่ยวข้อง

ตัวอย่างรูปภาพที่สื่อความหมาย

Scene Semantics API ช่วยให้นักพัฒนาแอประบุองค์ประกอบของฉากได้ เช่น ถนนและทางเท้าเพื่อช่วยนำทางผู้ใช้ไปยังเมืองที่ไม่คุ้นเคย ผู้คนและยานพาหนะเพื่อแสดงผลส่วนที่บดบังบนวัตถุแบบไดนามิก ท้องฟ้าเพื่อสร้างภาพพระอาทิตย์ตกในเวลาใดก็ได้ของวัน และอาคารเพื่อแก้ไขลักษณะที่ปรากฏและยึดวัตถุเสมือน

ป้ายกำกับความหมายและคุณภาพ

Scene Semantics API มีป้ายกำกับหลายรายการ โดยแต่ละรายการมีคุณภาพหรือความน่าเชื่อถือที่สอดคล้องกัน โดยทั่วไปแล้ว โมเดล ML จะคาดการณ์คลาสของวัตถุ/พื้นผิวขนาดใหญ่ที่พบบ่อยได้ดีกว่าคลาสของวัตถุ/พื้นผิวขนาดเล็กหรือที่พบน้อย ชั้นเรียนสามารถจัดกลุ่มเป็นระดับคุณภาพต่อไปนี้ โดยจัดอันดับจากสูงไปต่ำ

ระดับคุณภาพของป้ายกํากับความหมาย
องค์ประกอบฉากหลัก
  • ท้องฟ้า
  • กำลังสร้าง
  • ต้นไม้
  • ถนน
  • พาหนะ
รายละเอียดฉากหลัก
  • ทางเท้า
  • ภูมิประเทศ
  • โครงสร้าง
  • น้ำ
รายละเอียดฉากเล็กน้อย
  • ออบเจ็กต์
  • บุคคล

ความเข้ากันได้ของอุปกรณ์

Scene Semantics API ใช้รายการอุปกรณ์ที่รองรับเดียวกันกับ Depth API โปรดดูรายการอุปกรณ์ที่รองรับทั้ง 2 API ที่เป็นปัจจุบันในหน้าอุปกรณ์ที่รองรับ ARCore

กรณีการใช้งานที่รองรับ

Scene Semantics API ออกแบบมาเพื่อใช้ในสถานการณ์ต่อไปนี้

  1. ฉากกลางแจ้ง: รองรับฉากกลางแจ้งเท่านั้น และไม่ได้มีไว้สำหรับกรณีการใช้งานในอาคาร

  2. การวางแนวตั้ง: ควรใช้ในโหมดการวางแนวเริ่มต้นของอุปกรณ์เท่านั้น (เช่น แนวตั้ง) เราไม่รับประกันคุณภาพของป้ายกำกับเชิงความหมายสำหรับโหมดแนวนอน