Руководство для разработчиков Instant Placement для Android NDK

Узнайте, как использовать API Instant Placement в своих приложениях.

Предварительные условия

Прежде чем продолжить, убедитесь, что вы понимаете фундаментальные концепции AR и то, как настроить сеанс ARCore .

Настройте новый сеанс с помощью Instant Placement

В новом сеансе ARCore включите режим мгновенного размещения. 

// Create a session config.
ArConfig* ar_config = NULL;
ArConfig_create(ar_session, &ar_config);

// Enable Instant Placement mode.
ArConfig_setInstantPlacementMode(ar_session, ar_config,
                                 AR_INSTANT_PLACEMENT_MODE_LOCAL_Y_UP);
CHECK(ArSession_configure(ar_session, ar_config) == AR_SUCCESS);

// Release config resources.
ArConfig_destroy(ar_config);

Поместите объект

В новом сеансе ARCore выполните проверку попадания Instant Placement с помощью ArFrame_hitTestInstantPlacement . Затем создайте новый ArAnchor используя позу ArInstantPlacementPoint из ARTrackable результата попадания.

ArFrame* ar_frame = NULL;
if (ArSession_update(ar_session, ar_frame) != AR_SUCCESS) {
  // Get the latest frame.
  LOGE("ArSession_update error");
  return;
}

// Place an object on tap.
// Use the estimated distance from the user's device to the closest
// available surface, based on expected user interaction and behavior.
float approximate_distance_meters = 2.0f;

ArHitResultList* hit_result_list = NULL;
ArHitResultList_create(ar_session, &hit_result_list);
CHECK(hit_result_list);

// Returns a single result if the hit test was successful.
ArFrame_hitTestInstantPlacement(ar_session, ar_frame, x, y,
                                approximate_distance_meters, hit_result_list);

int32_t hit_result_list_size = 0;
ArHitResultList_getSize(ar_session, hit_result_list, &hit_result_list_size);
if (hit_result_list_size > 0) {
  ArHitResult* ar_hit_result = NULL;
  ArHitResult_create(ar_session, &ar_hit_result);
  CHECK(ar_hit_result);
  ArHitResultList_getItem(ar_session, hit_result_list, 0, ar_hit_result);
  if (ar_hit_result == NULL) {
    LOGE("ArHitResultList_getItem error");
    return;
  }

  ArTrackable* ar_trackable = NULL;
  ArHitResult_acquireTrackable(ar_session, ar_hit_result, &ar_trackable);
  if (ar_trackable == NULL) {
    LOGE("ArHitResultList_acquireTrackable error");
    return;
  }
  ArTrackableType ar_trackable_type = AR_TRACKABLE_NOT_VALID;
  ArTrackable_getType(ar_session, ar_trackable, &ar_trackable_type);

  if (ar_trackable_type == AR_TRACKABLE_INSTANT_PLACEMENT_POINT) {
    ArInstantPlacementPoint* point = (ArInstantPlacementPoint*)ar_trackable;

    // Gets the pose of the Instant Placement point.
    ArPose* ar_pose = NULL;
    ArPose_create(ar_session, NULL, &ar_pose);
    CHECK(ar_pose);
    ArInstantPlacementPoint_getPose(ar_session, point, ar_pose);

    // Attaches an anchor to the Instant Placement point.
    ArAnchor* anchor = NULL;
    ArStatus status = ArTrackable_acquireNewAnchor(ar_session, ar_trackable,
                                                   ar_pose, &anchor);
    ArPose_destroy(ar_pose);
    // Render content at the anchor.
    // ...
  }

  ArTrackable_release(ar_trackable);
}

Мгновенное размещение поддерживает отслеживание пространства экрана с указанием приблизительного расстояния , автоматически переключаясь на полное отслеживание, как только точка мгновенного размещения закрепляется в реальном мире. Получите текущую позу с помощью ArInstantPlacementPoint_getPose() . Получите текущий метод отслеживания с помощью ArInstantPlacementPoint_getTrackingMethod() .

Хотя ARCore может выполнять тесты мгновенного размещения на поверхностях любой ориентации, результаты попаданий всегда будут возвращать позу с +Y вверх, против направления силы тяжести. На горизонтальных поверхностях тесты на попадание гораздо быстрее возвращают точные позиции.

Отслеживайте метод отслеживания точек мгновенного размещения.

Если ARCore имеет точную 3D-позу для ArInstantPlacementPoint возвращаемую ArFrame_hitTestInstantPlacement , она начинается с метода отслеживания AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING . В противном случае он начнется с метода отслеживания AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE и перейдет к AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING , как только ARCore получит точную 3D-позу. Как только метод отслеживания станет AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING , он не вернется к AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE .

Плавный переход метода отслеживания

Когда метод отслеживания меняется с AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE в одном кадре на AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING в следующем кадре, поза переходит из своего исходного местоположения на основе предоставленного приблизительного расстояния в новое местоположение на точном расстоянии. Это мгновенное изменение позы меняет видимый масштаб любых объектов, привязанных к ArInstantPlacementPoint. То есть объект внезапно кажется больше или меньше, чем он был в предыдущем кадре.

Выполните следующие действия, чтобы избежать визуального скачка из-за внезапного изменения видимого масштаба объекта:

  1. Отслеживайте позу и метод отслеживания ArInstantPlacementPoint в каждом кадре.
  2. Подождите, пока метод отслеживания изменится на AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING .
  3. Используйте позу из предыдущего кадра и позу в текущем кадре, чтобы определить расстояние объекта до устройства в обоих кадрах.
  4. Рассчитайте видимое изменение масштаба из-за изменения расстояния от камеры.
  5. Отрегулируйте масштаб объекта, чтобы противодействовать воспринимаемому изменению масштаба, чтобы не создавалось впечатление, что объект визуально изменился в размере.
  6. При желании плавно отрегулируйте масштаб объекта до исходного значения в течение нескольких кадров.
class WrappedInstantPlacement {
  ArInstantPlacementPoint* point;
  ArInstantPlacementPointTrackingMethod previous_tracking_method;
  float previous_distance_to_camera;
  float scale_factor = 1.0f;

 public:
  WrappedInstantPlacement(ArInstantPlacementPoint* point,
                          TrackingMethod previous_tracking_method,
                          float previous_distance_to_camera) {
    this.point = point;
    this.previous_tracking_method = previous_tracking_method;
    this.previous_distance_to_camera = previous_distance_to_camera;
  }
};

std::vector<WrappedInstantPlacement> wrapped_points_;

После создания точки мгновенного размещения измените OnTouched() , чтобы обернуть ее.

if (ar_trackable_type == AR_TRACKABLE_INSTANT_PLACEMENT_POINT) {
  ArInstantPlacementPoint* point = (ArInstantPlacementPoint*)ar_trackable;
  ArInstantPlacementPointTrackingMethod tracking_method;
  ArInstantPlacementPoint_getTrackingMethod(ar_session, point,
                                            &tracking_method);
  ArCamera* ar_camera = nullptr;
  ArFrame_acquireCamera(ar_session, ar_frame, &ar_camera);
  CHECK(ar_camera);
  wrapped_points_.push_back(WrappedInstantPlacement(
      point, tracking_method, Distance(point, ar_camera)));
}

Когда метод отслеживания точки мгновенного размещения меняется с AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE на AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING , используйте сохраненное расстояние, чтобы противодействовать очевидному изменению масштаба. 

void OnUpdate() {
  for (auto& wrapped_point : wrapped_points_) {
    ArInstantPlacementPoint* point = wrapped_point.point;

    ArTrackingState tracking_state = AR_TRACKING_STATE_STOPPED;
    ArTrackable_getTrackingState(ar_session, (ArTrackable)point,
                                 &tracking_state);

    if (tracking_state == AR_TRACKING_STATE_STOPPED) {
      wrapped_points_.remove(wrapped_point);
      continue;
    }
    if (tracking_state == AR_TRACKING_STATE_PAUSED) {
      continue;
    }

    ArInstantPlacementPointTrackingMethod tracking_method;
    ArInstantPlacementPoint_getTrackingMethod(ar_session, point,
                                              &tracking_method);
    ArCamera* ar_camera = nullptr;
    ArFrame_acquireCamera(ar_session, ar_frame, &ar_camera);
    CHECK(ar_camera);
    const float distance_to_camera = Distance(point, ar_camera);
    if (tracking_method ==
        AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE) {
      // Continue to use the estimated depth and pose. Record the distance to
      // the camera for use in the next frame if the transition to full
      // tracking happens.
      wrapped_point.previous_distance_to_camera = distance_to_camera;
    } else if (
        tracking_method ==
            AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING &&
        wrapped_point.previous_tracking_method ==
            AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_SCREENSPACE_WITH_APPROXIMATE_DISTANCE) {
      // Change from the estimated pose to the accurate pose. Adjust the
      // object scale to counteract the apparent change due to pose jump.
      wrapped_point.scale_factor =
          distance_to_camera / wrapped_point.previous_distance_to_camera;
      // Apply the scale factor to the model.
      // ...
      previous_tracking_method =
          AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING;
    }
  }
}

Вопросы производительности

Когда включено мгновенное размещение, ARCore потребляет дополнительные циклы ЦП. Если производительность вызывает беспокойство, рассмотрите возможность отключения мгновенного размещения после того, как пользователь успешно разместил свой объект, а метод отслеживания всех точек мгновенного размещения изменился на AR_INSTANT_PLACEMENT_POINT_TRACKING_METHOD_FULL_TRACKING .

Если мгновенное размещение отключено, используйте ArFrame_hitTest вместо ArFrame_hitTestInstantPlacement .

ArConfig* ar_config = NULL;
ArConfig_create(ar_session, &ar_config);
// Disable Instant Placement.
ArConfig_setInstantPlacementMode(ar_session, ar_config,
                                 AR_INSTANT_PLACEMENT_MODE_DISABLED);
CHECK(ArSession_configure(ar_session, ar_config) == AR_SUCCESS);
ArConfig_destroy(ar_config);