Se usó la API de Cloud Translation para traducir esta página.

Detecta objetos y hazles seguimiento con ML Kit en Android

Puedes usar ML Kit para detectar objetos y hacerles un seguimiento en fotogramas de video sucesivos.

Cuando pasas una imagen al Kit de AA, este detecta hasta cinco objetos en ella junto con la posición de cada objeto en la imagen. Al detectar objetos en de video, cada objeto tiene un ID único que puedes usar para seguir el objeto de un fotograma a otro. También tienes la opción de habilitar objetos de clasificación, que etiqueta objetos con descripciones de categorías amplias.

Probar

Prueba la app de ejemplo para ver un ejemplo de uso de esta API.
Visita la vitrina de Material Design app para una implementación de extremo a extremo de esta API.

Antes de comenzar

Esta API requiere el nivel de API de Android 21 o superior. Asegúrate de que la compilación de tu app usa un valor minSdkVersion de 21 o superior.

En tu archivo build.gradle de nivel de proyecto, asegúrate de incluir el repositorio Maven de Google en las secciones buildscript y allprojects.
Agrega las dependencias para las bibliotecas de Android de ML Kit al archivo Gradle a nivel de la app de tu módulo, que suele ser app/build.gradle:
```
dependencies {
  // ...

  implementation 'com.google.mlkit:object-detection:17.0.2'

}
```

1. Configura el detector de objetos

Para detectar objetos y hacerles seguimiento, primero crea una instancia de ObjectDetector y si lo deseas, puedes especificar cualquier configuración del detector que quieras cambiar de forma predeterminada.

Configura el detector de objetos para tu caso de uso con un ObjectDetectorOptions. Puedes cambiar las siguientes opciones de configuración:

Configuración del detector de objetos

Modo de detección

Configuración del detector de objetos
Modo de detección	`STREAM_MODE` (predeterminado) \| `SINGLE_IMAGE_MODE` En `STREAM_MODE` (predeterminado), el detector de objetos se ejecuta con baja latencia, pero podría generar resultados incompletos (como cuadros de límite o etiquetas de categoría no especificados) en las primeras invocaciones del detector. Además, en `STREAM_MODE`, el detector asigna ID de seguimiento a los objetos, que puedes usar para hacer seguimiento de objetos en los fotogramas. Usa este modo cuando quieras hacer un seguimiento objetos, o cuando la latencia baja es importante, como cuando se procesan transmisiones de video por Internet en tiempo real. En `SINGLE_IMAGE_MODE`, el detector de objetos muestra el resultado después de que se determina el cuadro de límite del objeto. Si habilitar la clasificación, ya que devuelve el resultado después del límite cuadro y etiqueta de categoría están disponibles. En consecuencia, la latencia de detección es potencialmente más alta. Además, en `SINGLE_IMAGE_MODE`, no se asignaron los IDs de seguimiento. Usa este modo si la latencia no es importante y no quieres lidiar con resultados parciales.
Detecta varios objetos y hazles un seguimiento	`false` (predeterminado) \| `true` Ya sea para detectar y hacer seguimiento de hasta cinco objetos o solo al más prominente (predeterminado).
Clasifica objetos	`false` (predeterminado) \| `true` Indica si se deben clasificar o no los objetos detectados en categorías generales. Cuando se habilita, el detector de objetos clasifica los objetos las siguientes categorías: artículos de moda, comida, artículos para el hogar, lugares y plantas.

STREAM_MODE (predeterminado) | SINGLE_IMAGE_MODE

En STREAM_MODE (predeterminado), el detector de objetos se ejecuta con baja latencia, pero podría generar resultados incompletos (como cuadros de límite o etiquetas de categoría no especificados) en las primeras invocaciones del detector. Además, en STREAM_MODE, el detector asigna ID de seguimiento a los objetos, que puedes usar para hacer seguimiento de objetos en los fotogramas. Usa este modo cuando quieras hacer un seguimiento objetos, o cuando la latencia baja es importante, como cuando se procesan transmisiones de video por Internet en tiempo real.

En SINGLE_IMAGE_MODE, el detector de objetos muestra el resultado después de que se determina el cuadro de límite del objeto. Si habilitar la clasificación, ya que devuelve el resultado después del límite cuadro y etiqueta de categoría están disponibles. En consecuencia, la latencia de detección es potencialmente más alta. Además, en SINGLE_IMAGE_MODE, no se asignaron los IDs de seguimiento. Usa este modo si la latencia no es importante y no quieres lidiar con resultados parciales.

Detecta varios objetos y hazles un seguimiento

false (predeterminado) | true

Ya sea para detectar y hacer seguimiento de hasta cinco objetos o solo al más prominente (predeterminado).

Clasifica objetos

false (predeterminado) | true

Indica si se deben clasificar o no los objetos detectados en categorías generales. Cuando se habilita, el detector de objetos clasifica los objetos las siguientes categorías: artículos de moda, comida, artículos para el hogar, lugares y plantas.

La API de detección y seguimiento de objetos está optimizada para estos dos casos prácticos principales:

Detección y seguimiento en vivo del objeto más prominente de la cámara visor.
La detección de varios objetos a partir de una imagen estática.

Si deseas configurar la API para estos casos de uso, sigue estos pasos:

Kotlin

// Live detection and tracking
val options = ObjectDetectorOptions.Builder()
        .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
        .enableClassification()  // Optional
        .build()

// Multiple object detection in static images
val options = ObjectDetectorOptions.Builder()
        .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
        .enableMultipleObjects()
        .enableClassification()  // Optional
        .build()

Java

// Live detection and tracking
ObjectDetectorOptions options =
        new ObjectDetectorOptions.Builder()
                .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
                .enableClassification()  // Optional
                .build();

// Multiple object detection in static images
ObjectDetectorOptions options =
        new ObjectDetectorOptions.Builder()
                .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
                .enableMultipleObjects()
                .enableClassification()  // Optional
                .build();

Obtén una instancia de ObjectDetector:

Kotlin

val objectDetector = ObjectDetection.getClient(options)

Java

ObjectDetector objectDetector = ObjectDetection.getClient(options);

2. Prepara la imagen de entrada

Para detectar objetos y hacerles seguimiento, pasa imágenes al ObjectDetector método process() de la instancia.

El detector de objetos se ejecuta directamente desde un Bitmap, un ByteBuffer de NV21 o un media.Image de YUV_420_888. Construye un InputImage a partir de esas fuentes se recomiendan si tienes acceso directo a uno de ellos. Si construyes un InputImage a partir de otras fuentes, manejaremos la conversión de forma interna por ti, y es posible que sea menos eficiente.

Para cada fotograma de video o imagen en una secuencia, haz lo siguiente:

Puedes crear un objeto InputImage a partir de diferentes fuentes, que se explican a continuación.

Usa un `media.Image`

Para crear una InputImage, sigue estos pasos: objeto de un objeto media.Image, como cuando capturas una imagen de una la cámara del dispositivo, pasa el objeto media.Image y el rotación a InputImage.fromMediaImage().

Si usas biblioteca de CameraX, los elementos OnImageCapturedListener y Las clases ImageAnalysis.Analyzer calculan el valor de rotación por ti.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

Si no usas una biblioteca de cámaras que indique el grado de rotación de la imagen, calcularlo a partir del grado de rotación del dispositivo y la orientación de la cámara sensor en el dispositivo:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

Luego, pasa el objeto media.Image y el valor de grado de rotación a InputImage.fromMediaImage():

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

Usa un URI de archivo

Para crear un objeto InputImage a partir de un URI de archivo, pasa el contexto de la app y el URI del archivo a InputImage.fromFilePath(). Esto es útil cuando usas un intent ACTION_GET_CONTENT para solicitarle al usuario que seleccione una imagen de su app de galería.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

Usa un objeto `ByteBuffer` o `ByteArray`

Para crear una InputImage, sigue estos pasos: objeto de una ByteBuffer o una ByteArray, primero calcula la imagen grado de rotación como se describió anteriormente para la entrada media.Image. Luego, crea el objeto InputImage con el búfer o el array, junto con la altura, el ancho, el formato de codificación de color y el grado de rotación de la imagen:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java

Usa un `Bitmap`

Para crear un objeto InputImage a partir de un objeto Bitmap, realiza la siguiente declaración:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);MLKitVisionImage.java

La imagen se representa con un objeto Bitmap junto con los grados de rotación.

3. Procesa la imagen

Pasa la imagen al método process():

Kotlin

objectDetector.process(image)
    .addOnSuccessListener { detectedObjects ->
        // Task completed successfully
        // ...
    }
    .addOnFailureListener { e ->
        // Task failed with an exception
        // ...
    }

Java

objectDetector.process(image)
    .addOnSuccessListener(
        new OnSuccessListener<List<DetectedObject>>() {
            @Override
            public void onSuccess(List<DetectedObject> detectedObjects) {
                // Task completed successfully
                // ...
            }
        })
    .addOnFailureListener(
        new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });

Nota: Si usas la API de CameraX, asegúrate de cerrar el ImageProxy cuando termines de usarlo, p. ej., agregando un OnCompleteListener al Task que se muestra desde el metodo process. Consulta la VisionProcessorBase en la app de muestra de inicio rápido para ver un ejemplo.

4. Obtén información sobre los objetos detectados

Si la llamada a process() se ejecuta correctamente, se pasará una lista de DetectedObject al objeto de escucha que detecta el resultado correcto.

Cada DetectedObject contiene las siguientes propiedades:

Cuadro de límite Un Rect que indica la posición del objeto en el imagen.

ID de seguimiento Un número entero que identifica el objeto en las imágenes. Es nulo en SINGLE_IMAGE_MODE.

Etiquetas

Descripción de etiqueta	Es la descripción de texto de la etiqueta. Será una de las constantes de String definidas en `PredefinedCategory`.
Índice de etiquetas	El índice de la etiqueta entre todas las etiquetas que admite el clasificador. Será una de las constantes de número entero definidas en `PredefinedCategory`.
Confianza de la etiqueta	El valor de confianza de la clasificación del objeto.

Kotlin

for (detectedObject in detectedObjects) {
    val boundingBox = detectedObject.boundingBox
    val trackingId = detectedObject.trackingId
    for (label in detectedObject.labels) {
        val text = label.text
        if (PredefinedCategory.FOOD == text) {
            ...
        }
        val index = label.index
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        val confidence = label.confidence
    }
}

Java

// The list of detected objects contains one item if multiple
// object detection wasn't enabled.
for (DetectedObject detectedObject : detectedObjects) {
    Rect boundingBox = detectedObject.getBoundingBox();
    Integer trackingId = detectedObject.getTrackingId();
    for (Label label : detectedObject.getLabels()) {
        String text = label.getText();
        if (PredefinedCategory.FOOD.equals(text)) {
            ...
        }
        int index = label.getIndex();
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        float confidence = label.getConfidence();
    }
}

Cómo garantizar una experiencia del usuario excelente

Para obtener la mejor experiencia del usuario, sigue estos lineamientos en tu app:

La detección exitosa de objetos depende de la complejidad visual del objeto. En ser detectados, los objetos con un número reducido de características visuales podrían necesitar ocupe una parte más grande de la imagen. Debes proporcionar a los usuarios una orientación sobre cómo capturar información que funcione bien con el tipo de objetos que deseas detectar.
Cuando usas la clasificación, si deseas detectar objetos que no caen de forma clara en las categorías admitidas, implementa un manejo especial para los objetos.

Además, consulta la app de muestra de Material Design del Kit de AA y la colección de patrones para las funciones con tecnología de aprendizaje automático de Material Design.

Cómo mejorar el rendimiento

Si quieres usar la detección de objetos en una aplicación en tiempo real, sigue estos pasos: pautas para lograr la mejor velocidad de fotogramas:

Cuando uses el modo de transmisión en una aplicación en tiempo real, no uses varias detección de objetos, ya que la mayoría de los dispositivos no podrán producir una velocidad de fotogramas adecuada.
Inhabilita la clasificación si no la necesitas.
Si usas Camera o API de camera2, limitar las llamadas al detector. Si hay un fotograma de video nuevo disponible mientras se ejecuta el detector, ignora ese fotograma. Consulta la VisionProcessorBase en la app de muestra de inicio rápido para ver un ejemplo.
Si usas la API de CameraX, asegúrate de que la estrategia de contrapresión esté configurada en su valor predeterminado ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. Esto garantiza que solo se entregue una imagen para el análisis a la vez. Si se producen más imágenes cuando el analizador está ocupado, se descartarán automáticamente y no se pondrán en cola para la publicación. Una vez que se cierre la imagen que se está analizando llamando a ImageProxy.close(), se entregará la siguiente imagen más reciente.
Si usas la salida del detector para superponer gráficos en la imagen de entrada, primero obtén el resultado de ML Kit y, luego, procesa la imagen y la superposición en un solo paso. Esto se renderiza en la superficie de visualización solo una vez por cada fotograma de entrada. Consulta la CameraSourcePreview y GraphicOverlay en la app de muestra de inicio rápido para ver un ejemplo.
Si usas la API de Camera2, captura imágenes en ImageFormat.YUV_420_888. Si usas la API de Camera más antigua, captura imágenes en formato ImageFormat.NV21.

Detecta objetos y hazles seguimiento con ML Kit en Android

Probar

Antes de comenzar

1. Configura el detector de objetos

Kotlin

Java

Kotlin

Java

2. Prepara la imagen de entrada

Usa un media.Image

Kotlin

Java

Kotlin

Java

Kotlin

Java

Usa un URI de archivo

Kotlin

Java

Usa un objeto ByteBuffer o ByteArray

Kotlin

Java

Usa un Bitmap

Kotlin

Java

3. Procesa la imagen

Kotlin

Java

4. Obtén información sobre los objetos detectados

Kotlin

Java

Cómo garantizar una experiencia del usuario excelente

Cómo mejorar el rendimiento

Usa un `media.Image`

Usa un objeto `ByteBuffer` o `ByteArray`

Usa un `Bitmap`