Android NDK の Instant Placement デベロッパーガイド

ご自身のアプリで Instant Placement API を使用する方法をご確認ください。

前提条件

続行する前に、AR の基本的なコンセプトと ARCore セッションを構成する方法を理解しておいてください。

インスタントプレースメントを使用して新しいセッションを設定する

新しい ARCore セッションで、インスタントプレースメントモードを有効にします。

// Create a session config.
ArConfig* ar_config = NULL;
ArConfig_create(ar_session, &ar_config);

// Enable Instant Placement mode.
ArConfig_setInstantPlacementMode(ar_session, ar_config,
                                 AR_INSTANT_PLACEMENT_MODE_LOCAL_Y_UP);
CHECK(ArSession_configure(ar_session, ar_config) == AR_SUCCESS);

// Release config resources.
ArConfig_destroy(ar_config);

オブジェクトを配置する

新しい ARCore セッションで、ArFrame_hitTestInstantPlacement を使用して Instant Placement ヒットテストを行います。次に、ヒット結果の ARTrackable の ArInstantPlacementPoint ポーズを使用して、新しい ArAnchor を作成します。

ArFrame* ar_frame = NULL;
if (ArSession_update(ar_session, ar_frame) != AR_SUCCESS) {
  // Get the latest frame.
  LOGE("ArSession_update error");
  return;
}

// Place an object on tap.
// Use the estimated distance from the user's device to the closest
// available surface, based on expected user interaction and behavior.
float approximate_distance_meters = 2.0f;

ArHitResultList* hit_result_list = NULL;
ArHitResultList_create(ar_session, &hit_result_list);
CHECK(hit_result_list);

// Returns a single result if the hit test was successful.
ArFrame_hitTestInstantPlacement(ar_session, ar_frame, x, y,
                                approximate_distance_meters, hit_result_list);

int32_t hit_result_list_size = 0;
ArHitResultList_getSize(ar_session, hit_result_list, &hit_result_list_size);
if (hit_result_list_size > 0) {
  ArHitResult* ar_hit_result = NULL;
  ArHitResult_create(ar_session, &ar_hit_result);
  CHECK(ar_hit_result);
  ArHitResultList_getItem(ar_session, hit_result_list, 0, ar_hit_result);
  if (ar_hit_result == NULL) {
    LOGE("ArHitResultList_getItem error");
    return;
  }

  ArTrackable* ar_trackable = NULL;
  ArHitResult_acquireTrackable(ar_session, ar_hit_result, &ar_trackable);
  if (ar_trackable == NULL) {
    LOGE("ArHitResultList_acquireTrackable error");
    return;
  }
  ArTrackableType ar_trackable_type = AR_TRACKABLE_NOT_VALID;
  ArTrackable_getType(ar_session, ar_trackable, &ar_trackable_type);

  if (ar_trackable_type == AR_TRACKABLE_INSTANT_PLACEMENT_POINT) {
    ArInstantPlacementPoint* point = (ArInstantPlacementPoint*)ar_trackable;

    // Gets the pose of the Instant Placement point.
    ArPose* ar_pose = NULL;
    ArPose_create(ar_session, NULL, &ar_pose);
    CHECK(ar_pose);
    ArInstantPlacementPoint_getPose(ar_session, point, ar_pose);

    // Attaches an anchor to the Instant Placement point.
    ArAnchor* anchor = NULL;
    ArStatus status = ArTrackable_acquireNewAnchor(ar_session, ar_trackable,
                                                   ar_pose, &anchor);
    ArPose_destroy(ar_pose);
    // Render content at the anchor.
    // ...
  }

  ArTrackable_release(ar_trackable);
}

Instant Placement では、おおよその距離による画面スペースのトラッキングがサポートされており、Instant プレースメントポイントが現実世界に固定されるとフルトラッキングに自動的に切り替わります。ArInstantPlacementPoint_getPose() を使用して現在のポーズを取得します。ArInstantPlacementPoint_getTrackingMethod() を使用して、現在のトラッキングメソッドを取得します。

ARCore では、あらゆる向きのサーフェスに対して Instant Placement ヒットテストを実施できますが、ヒット結果では常に、重力の方向に対して +Y が上向きのポーズが返されます。ヒットテストでは、水平面の場合は正確な位置をより速く取得できます。

インスタントプレースメントポイントのトラッキング方法を確認する

ArFrame_hitTestInstantPlacement から返された ArInstantPlacementPoint の正確な 3D ポーズを ARCore が把握している場合、まずトラッキングメソッド AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING を使用します。それ以外の場合は、トラッキングメソッド AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE で開始され、ARCore の正確な 3D ポーズが確立されると AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING に移行します。一度 AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING になったトラッキングメソッドは、AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE に戻されません。

トラッキングメソッドの移行をスムーズにする

トラッキング方法が、あるフレームの AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE から次のフレームの AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING に変わると、ポーズは、提供されたおおよその距離に基づいて、初期位置から正確な距離にある新しい場所まで移動します。この瞬間的なポーズの変化により、ArInstantPlacementPoint に固定されているオブジェクトのスケールも変更されます。つまり、オブジェクトが前のフレームのものより突然大きく、または小さく表示されるということです。

見かけ上のオブジェクトスケールの急激な変化によって生じる視覚的なジャンプを回避するには、次の手順を行います。

各フレームで ArInstantPlacementPoint のポーズとトラッキングメソッドをトラッキングします。
トラッキングメソッドが AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING に変わるまで待ちます。
前のフレームのポーズと現在のフレームのポーズを使用して、両方のフレームでデバイスとの距離を特定します。
カメラからの距離の変化によるスケールの明らかな変化を計算します。
オブジェクトのスケールを調整して、オブジェクトのサイズの変化がないように認識されるスケールの変化を相殺します。
必要に応じて、複数のフレームにわたってオブジェクトのスケールを元の値にスムーズに調整します。

class WrappedInstantPlacement {
  ArInstantPlacementPoint* point;
  ArInstantPlacementPointTrackingMethod previous_tracking_method;
  float previous_distance_to_camera;
  float scale_factor = 1.0f;

 public:
  WrappedInstantPlacement(ArInstantPlacementPoint* point,
                          TrackingMethod previous_tracking_method,
                          float previous_distance_to_camera) {
    this.point = point;
    this.previous_tracking_method = previous_tracking_method;
    this.previous_distance_to_camera = previous_distance_to_camera;
  }
};

std::vector<WrappedInstantPlacement> wrapped_points_;

Instant Placement ポイントを作成したら、OnTouched() を変更してラップします。

if (ar_trackable_type == AR_TRACKABLE_INSTANT_PLACEMENT_POINT) {
  ArInstantPlacementPoint* point = (ArInstantPlacementPoint*)ar_trackable;
  ArInstantPlacementPointTrackingMethod tracking_method;
  ArInstantPlacementPoint_getTrackingMethod(ar_session, point,
                                            &tracking_method);
  ArCamera* ar_camera = nullptr;
  ArFrame_acquireCamera(ar_session, ar_frame, &ar_camera);
  CHECK(ar_camera);
  wrapped_points_.push_back(WrappedInstantPlacement(
      point, tracking_method, Distance(point, ar_camera)));
}

インスタントプレースメントポイントのトラッキング方法が AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE から AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING に変わった場合は、保存した距離を使用して明らかなスケーリングの変化に対処してください。

void OnUpdate() {
  for (auto& wrapped_point : wrapped_points_) {
    ArInstantPlacementPoint* point = wrapped_point.point;

    ArTrackingState tracking_state = AR_TRACKING_STATE_STOPPED;
    ArTrackable_getTrackingState(ar_session, (ArTrackable)point,
                                 &tracking_state);

    if (tracking_state == AR_TRACKING_STATE_STOPPED) {
      wrapped_points_.remove(wrapped_point);
      continue;
    }
    if (tracking_state == AR_TRACKING_STATE_PAUSED) {
      continue;
    }

    ArInstantPlacementPointTrackingMethod tracking_method;
    ArInstantPlacementPoint_getTrackingMethod(ar_session, point,
                                              &tracking_method);
    ArCamera* ar_camera = nullptr;
    ArFrame_acquireCamera(ar_session, ar_frame, &ar_camera);
    CHECK(ar_camera);
    const float distance_to_camera = Distance(point, ar_camera);
    if (tracking_method ==
        AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE) {
      // Continue to use the estimated depth and pose. Record the distance to
      // the camera for use in the next frame if the transition to full
      // tracking happens.
      wrapped_point.previous_distance_to_camera = distance_to_camera;
    } else if (
        tracking_method ==
            AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING &&
        wrapped_point.previous_tracking_method ==
            AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE) {
      // Change from the estimated pose to the accurate pose. Adjust the
      // object scale to counteract the apparent change due to pose jump.
      wrapped_point.scale_factor =
          distance_to_camera / wrapped_point.previous_distance_to_camera;
      // Apply the scale factor to the model.
      // ...
      previous_tracking_method =
          AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING;
    }
  }
}

パフォーマンスに関する注意事項

インスタントプレースメントを有効にすると、ARCore は追加の CPU サイクルを消費します。パフォーマンスが懸念される場合は、ユーザーがオブジェクトを正しく配置し、すべてのインスタントプレースメントポイントのトラッキング方法が AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING に変更された後で、インスタントプレースメントを無効にすることを検討します。

インスタントプレースメントが無効になっている場合は、ArFrame_hitTestInstantPlacement ではなく ArFrame_hitTest を使用します。

ArConfig* ar_config = NULL;
ArConfig_create(ar_session, &ar_config);
// Disable Instant Placement.
ArConfig_setInstantPlacementMode(ar_session, ar_config,
                                 AR_INSTANT_PLACEMENT_MODE_DISABLED);
CHECK(ArSession_configure(ar_session, ar_config) == AR_SUCCESS);
ArConfig_destroy(ar_config);

Android NDK の Instant Placement デベロッパー ガイド