Menggunakan Raw Depth di aplikasi Android NDK

Raw Depth API memberikan data kedalaman untuk gambar kamera yang memiliki akurasi lebih tinggi daripada data Depth API penuh, tetapi tidak selalu mencakup setiap piksel. Gambar kedalaman mentah, bersama dengan gambar keyakinan yang cocok, juga dapat diproses lebih lanjut, sehingga aplikasi hanya menggunakan data kedalaman yang memiliki akurasi yang cukup untuk setiap kasus penggunaan.

Kompatibilitas perangkat

Raw Depth tersedia di semua perangkat yang mendukung Depth API. Raw Depth API, seperti Depth API lengkap, tidak memerlukan sensor kedalaman hardware yang didukung, seperti sensor time-of-flight (ToF). Namun, baik Raw Depth API maupun Depth API penuh memanfaatkan sensor hardware yang didukung yang mungkin dimiliki perangkat.

Raw Depth API vs full Depth API

Raw Depth API memberikan perkiraan kedalaman dengan akurasi yang lebih tinggi, tetapi gambar kedalaman mentah mungkin tidak menyertakan perkiraan kedalaman untuk semua piksel dalam gambar kamera. Sebaliknya, Depth API penuh memberikan perkiraan kedalaman untuk setiap piksel, tetapi data kedalaman per piksel mungkin kurang akurat karena penghalusan dan interpolasi perkiraan kedalaman. Format dan ukuran gambar kedalaman sama di kedua API. Hanya kontennya yang berbeda.

Tabel berikut mengilustrasikan perbedaan antara Raw Depth API dan full Depth API menggunakan gambar kursi dan meja di dapur.

API Hasil Gambar kamera Gambar depth Gambar keyakinan
Raw Depth API
  • Gambar kedalaman mentah yang berisi perkiraan kedalaman yang sangat akurat untuk sebagian, tetapi tidak semua, piksel pada gambar kamera.
  • Gambar keyakinan yang memberikan keyakinan untuk setiap piksel gambar kedalaman mentah. Piksel gambar kamera yang tidak memiliki perkiraan kedalaman memiliki keyakinan nol.
API Kedalaman Penuh
  • Satu yang "dihaluskan" gambar kedalaman yang berisi perkiraan kedalaman untuk setiap piksel.
  • Tidak ada gambar keyakinan yang disediakan bersama API ini.
T/A

Image keyakinan

Dalam gambar keyakinan yang ditampilkan oleh Raw Depth API, piksel yang lebih terang memiliki nilai keyakinan yang lebih tinggi, dengan piksel putih mewakili keyakinan penuh dan piksel hitam mewakili tidak ada keyakinan. Secara umum, area dalam gambar kamera yang memiliki lebih banyak tekstur, seperti pohon, akan memiliki keyakinan kedalaman mentah yang lebih tinggi daripada area yang tidak memiliki tekstur, seperti dinding kosong. Permukaan tanpa tekstur biasanya menghasilkan tingkat keyakinan nol.

Jika perangkat target memiliki sensor kedalaman hardware yang didukung, keyakinan terhadap area gambar yang cukup dekat dengan kamera kemungkinan akan lebih tinggi, bahkan pada permukaan tanpa tekstur.

Biaya komputasi

Biaya komputasi Raw Depth API adalah sekitar setengah dari biaya komputasi untuk Depth API lengkap.

Kasus penggunaan

Dengan Raw Depth API, Anda dapat memperoleh gambar kedalaman yang memberikan representasi geometri objek yang lebih mendetail dalam scene. Data kedalaman mentah dapat berguna saat membuat pengalaman AR yang memerlukan peningkatan akurasi dan detail kedalaman untuk tugas pemahaman geometri. Beberapa kasus penggunaan meliputi:

  • Rekonstruksi 3D
  • Pengukuran
  • Deteksi bentuk

Prasyarat

Pastikan Anda memahami konsep dasar AR dan cara mengonfigurasi sesi ARCore sebelum melanjutkan.

Aktifkan Kedalaman

Dalam sesi ARCore baru, periksa apakah perangkat pengguna mendukung Kedalaman. Tidak semua perangkat yang kompatibel dengan ARCore mendukung Depth API karena kendala daya pemrosesan. Untuk menghemat resource, kedalaman dinonaktifkan secara default di ARCore. Aktifkan mode kedalaman agar aplikasi Anda menggunakan Depth API.

int32_t is_depth_supported = 0;

// Check whether the user's device supports the Depth API.
ArSession_isDepthModeSupported(ar_session, AR_DEPTH_MODE_AUTOMATIC,
                               &is_depth_supported);
ArConfig* ar_config = NULL;
ArConfig_create(ar_session, &ar_config);
if (is_depth_supported) {
  ArConfig_setDepthMode(ar_session, ar_config, AR_DEPTH_MODE_AUTOMATIC);
}
CHECK(ArSession_configure(ar_session, ar_config) == AR_SUCCESS);
ArConfig_destroy(ar_config);

Mendapatkan gambar kedalaman mentah terbaru

Panggil ArFrame_acquireRawDepthImage16Bits() untuk memperoleh gambar kedalaman mentah terbaru.

int64_t previous_depth_image_timestamp_ns = -1;
int64_t depth_image_timestamp_ns;
ArImage* depth_image = NULL;

// Acquire the raw depth image for the current frame.
ArStatus acquire_image_status =
    ArFrame_acquireRawDepthImage16Bits(ar_session, ar_frame, &depth_image);

if (acquire_image_status == AR_SUCCESS) {
  // Optional: compare raw depth image timestamps. Use this check if your app
  // uses only new depth data.
  ArImage_getTimestamp(ar_session, depth_image, &depth_image_timestamp_ns);
  if (depth_image_timestamp_ns != previous_depth_image_timestamp_ns) {
    // Raw depth image is based on new depth data.
    previous_depth_image_timestamp_ns = depth_image_timestamp_ns;
    // …
  }
  // Release the acquired image.
  ArImage_release(depth_image);
}

Tidak semua piksel gambar yang ditampilkan melalui Raw Depth API akan berisi data kedalaman, dan tidak setiap frame ARCore akan berisi gambar kedalaman mentah baru. Untuk menentukan apakah gambar kedalaman mentah untuk frame saat ini baru, bandingkan stempel waktunya dengan stempel waktu gambar kedalaman mentah sebelumnya. Jika stempel waktunya berbeda, gambar kedalaman mentah didasarkan pada data kedalaman baru. Jika tidak, gambar kedalaman adalah proyeksi ulang dari data kedalaman sebelumnya.

Mendapatkan gambar keyakinan terbaru

Panggil ArFrame_acquireRawDepthConfidenceImage() untuk mendapatkan gambar keyakinan. Anda dapat menggunakan gambar tingkat keyakinan untuk memeriksa akurasi setiap piksel kedalaman mentah. Gambar keyakinan ditampilkan dalam format Y8. Setiap piksel adalah bilangan bulat 8-bit tanpa tanda tangan. 0 menunjukkan keyakinan terendah, sedangkan 255 menunjukkan keyakinan tertinggi.

// Acquire the raw depth confidence image.
ArImage* confidence_image = NULL;
ArStatus acquire_image_status = ArFrame_acquireRawDepthConfidenceImage(
    ar_session, ar_frame, &confidence_image);

if (acquire_image_status == AR_SUCCESS) {
  // …
  // Release the acquired image.
  ArImage_release(confidence_image);
}