Android SDK (Kotlin/Java) पर कैमरा इमेज को स्थिर करें

ARCore अब इलेक्ट्रॉनिक इमेज स्टेबलाइज़ेशन (ईआईएस) के साथ काम करता है, जिससे कैमरे की बेहतरीन झलक मिलती है. ईआईएस, जाइरो का इस्तेमाल करके फ़ोन की गतिविधि पर नज़र रखता है. साथ ही, कैमरा टेक्सचर की सीमाओं में मुआवज़ा वाला होमोग्राफ़ी मेश लगाकर, छोटे-छोटे झटकों का सामना करता है. EIS सिर्फ़ डिवाइस के पोर्ट्रेट ओरिएंटेशन में काम करता है. ARCore की रिलीज़ 1.39.0 में सभी ओरिएंटेशन की सुविधा मिलेगी.

EIS के साथ काम करने के लिए क्वेरी और EIS चालू करें

ईआईएस को चालू करने के लिए, अपने सेशन को ImageStabilizationMode.EIS का इस्तेमाल करने के लिए कॉन्फ़िगर करें. अगर डिवाइस में EIS की सुविधा काम नहीं करती है, तो ARCore से एक अपवाद पैदा हो सकता है.

Java

if (!session.isImageStabilizationModeSupported(Config.ImageStabilizationMode.EIS)) {
  return;
}
Config config = session.getConfig();
config.setImageStabilizationMode(Config.ImageStabilizationMode.EIS);
session.configure(config);

Kotlin

if (!session.isImageStabilizationModeSupported(Config.ImageStabilizationMode.EIS)) return
session.configure(
  session.config.apply { imageStabilizationMode = Config.ImageStabilizationMode.EIS }
)

निर्देशांक बदलना

ईआईएस चालू होने पर, रेंडरर को डिवाइस के बदले गए निर्देशांक और मिलते-जुलते टेक्सचर कोऑर्डिनेट का इस्तेमाल करना होगा जिनमें कैमरे के बैकग्राउंड को रेंडर करते समय ईआईएस मुआवज़ा शामिल होता है. ईआईएस के लिए मुआवज़ा पाने के लिए, Frame.transformCoordinates3d() का इस्तेमाल इनपुट के तौर पर OPENGL_NORMALIZED_DEVICE_COORDINATES और 3D डिवाइस कोऑर्डिनेट पाने के लिए आउटपुट के तौर पर EIS_NORMALIZED_DEVICE_COORDINATES और 3D टेक्सचर कोऑर्डिनेट पाने के लिए आउटपुट के तौर पर EIS_TEXTURE_NORMALIZED का इस्तेमाल करें. फ़िलहाल, Frame.transformCoordinates3d() के लिए सिर्फ़ OPENGL_NORMALIZED_DEVICE_COORDINATES ही इनपुट कोऑर्डिनेट टाइप का इस्तेमाल किया जा सकता है.

Java

final FloatBuffer cameraTexCoords =
    ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_3D)
        .order(ByteOrder.nativeOrder())
        .asFloatBuffer();

final FloatBuffer screenCoords =
    ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_3D)
        .order(ByteOrder.nativeOrder())
        .asFloatBuffer();

final FloatBuffer NDC_QUAD_COORDS_BUFFER =
    ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_2D)
        .order(ByteOrder.nativeOrder())
        .asFloatBuffer()
        .put(
            new float[] {
              /*0:*/ -1f, -1f, /*1:*/ +1f, -1f, /*2:*/ -1f, +1f, /*3:*/ +1f, +1f,
            });

final VertexBuffer screenCoordsVertexBuffer =
    new VertexBuffer(render, /* numberOfEntriesPerVertex= */ 3, null);
final VertexBuffer cameraTexCoordsVertexBuffer =
    new VertexBuffer(render, /* numberOfEntriesPerVertex= */ 3, null);

NDC_QUAD_COORDS_BUFFER.rewind();
frame.transformCoordinates3d(
    Coordinates2d.OPENGL_NORMALIZED_DEVICE_COORDINATES,
    NDC_QUAD_COORDS_BUFFER,
    Coordinates3d.EIS_NORMALIZED_DEVICE_COORDINATES,
    screenCoords);
screenCoordsVertexBuffer.set(screenCoords);

NDC_QUAD_COORDS_BUFFER.rewind();
frame.transformCoordinates3d(
    Coordinates2d.OPENGL_NORMALIZED_DEVICE_COORDINATES,
    NDC_QUAD_COORDS_BUFFER,
    Coordinates3d.EIS_TEXTURE_NORMALIZED,
    cameraTexCoords);
cameraTexCoordsVertexBuffer.set(cameraTexCoords);

Kotlin

val COORDS_BUFFER_SIZE_2D = 2 * 4 * Float.SIZE_BYTES
val COORDS_BUFFER_SIZE_3D = 3 * 4 * Float.SIZE_BYTES
val cameraTexCoords =
  ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_3D)
    .order(ByteOrder.nativeOrder())
    .asFloatBuffer()
val screenCoords =
  ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_3D)
    .order(ByteOrder.nativeOrder())
    .asFloatBuffer()
val cameraTexCoordsVertexBuffer = VertexBuffer(render, /* numberOfEntriesPerVertex= */ 3, null)
val screenCoordsVertexBuffer = VertexBuffer(render, /* numberOfEntriesPerVertex= */ 3, null)
val NDC_QUAD_COORDS_BUFFER =
  ByteBuffer.allocateDirect(COORDS_BUFFER_SIZE_2D)
    .order(ByteOrder.nativeOrder())
    .asFloatBuffer()
    .apply {
      put(
        floatArrayOf(
          /* 0: */
          -1f,
          -1f,
          /* 1: */
          +1f,
          -1f,
          /* 2: */
          -1f,
          +1f,
          /* 3: */
          +1f,
          +1f
        )
      )
    }
NDC_QUAD_COORDS_BUFFER.rewind()
frame.transformCoordinates3d(
  Coordinates2d.OPENGL_NORMALIZED_DEVICE_COORDINATES,
  NDC_QUAD_COORDS_BUFFER,
  Coordinates3d.EIS_NORMALIZED_DEVICE_COORDINATES,
  screenCoords
)
screenCoordsVertexBuffer.set(screenCoords)

NDC_QUAD_COORDS_BUFFER.rewind()
frame.transformCoordinates3d(
  Coordinates2d.OPENGL_NORMALIZED_DEVICE_COORDINATES,
  NDC_QUAD_COORDS_BUFFER,
  Coordinates3d.EIS_TEXTURE_NORMALIZED,
  cameraTexCoords
)
cameraTexCoordsVertexBuffer.set(cameraTexCoords)

EIS बंद होने पर, आउटपुट 3D निर्देशांक उनके 2D मिलते-जुलते निर्देशांकों के बराबर होते हैं, जिनमें z मानों के लिए कोई बदलाव नहीं किया जाता है.

शेडर में बदलाव करें

जिन 3D निर्देशांक की गणना की जाती है वे बैकग्राउंड रेंडरिंग शेडर को भेजे जाने चाहिए. वर्टेक्स बफ़र अब EIS के साथ 3D हो गए हैं:

layout(location = 0) in vec4 a_Position;
layout(location = 1) in vec3 a_CameraTexCoord;
out vec3 v_CameraTexCoord;
void main() {
  gl_Position = a_Position;
  v_CameraTexCoord = a_CameraTexCoord;
}

इसके अलावा, फ़्रैगमेंट शेडर को ऐंगल में सुधार करने की ज़रूरत है:

precision mediump float;
uniform samplerExternalOES u_CameraColorTexture;
in vec3 v_CameraTexCoord;
layout(location = 0) out vec4 o_FragColor;
void main() {
  vec3 tc = (v_CameraTexCoord / v_CameraTexCoord.z);
  o_FragColor = texture(u_CameraColorTexture, tc.xy);
}

ज़्यादा जानकारी के लिए, hello_eis_kotlin ऐप्लिकेशन का नमूना देखें.