Rileva e monitora gli oggetti con ML Kit su Android

Puoi utilizzare ML Kit per rilevare e monitorare gli oggetti in fotogrammi video successivi.

Quando passi un'immagine a ML Kit, rileva fino a cinque oggetti nell'immagine insieme alla posizione di ciascun oggetto nell'immagine. Quando vengono rilevati oggetti nei flussi video, ogni oggetto ha un ID univoco che puoi utilizzare per monitorarlo da un frame all'altro. Puoi anche abilitare facoltativamente la classificazione approssimativa degli oggetti, che etichetta gli oggetti con descrizioni di categorie generali.

Questa API utilizza una libreria separata che deve essere scaricata prima dell'uso. Per ulteriori informazioni, consulta questa guida.

Prova

• Prova l'app di esempio per vedere un esempio di utilizzo di questa API.
• Consulta l'app di dimostrazione di Material Design per un'implementazione end-to-end di questa API.

Prima di iniziare

Questa API richiede Android API di livello 21 o superiore. Assicurati che il file di build della tua app utilizzi un valore minSdkVersion pari o superiore a 21.

1. Nel file build.gradle a livello di progetto, assicurati di includere il repository Maven di Google nelle sezioni buildscript e allprojects.
2. Aggiungi le dipendenze per le librerie Android ML Kit al file Gradle a livello di app del modulo, che di solito è app/build.gradle:

   dependencies {
     // ...
   
     implementation 'com.google.mlkit:object-detection:17.0.2'
   
   }

1. Configura il rilevatore di oggetti

Per rilevare e monitorare gli oggetti, crea prima un'istanza di ObjectDetector e, se vuoi, specifica le impostazioni del rilevatore che vuoi modificare rispetto a quelle predefinite.

1. Configura il rilevatore di oggetti per il tuo caso d'uso con un oggetto ObjectDetectorOptions. Puoi modificare le seguenti impostazioni:

   Impostazioni del rilevamento di oggetti
   Modalità di rilevamento	STREAM_MODE (predefinito) | SINGLE_IMAGE_MODE In STREAM_MODE (impostazione predefinita), il rilevatore di oggetti viene eseguito con bassa latenza, ma potrebbe produrre risultati incompleti (ad esempio riquadri di selezione o etichette di categoria non specificati) nelle prime invocazioni del rilevatore. Inoltre, in STREAM_MODE, il rilevatore assegna ID di monitoraggio agli oggetti, che puoi utilizzare per monitorare gli oggetti nei vari frame. Utilizza questa modalità quando vuoi monitorare oggetti o quando la bassa latenza è importante, ad esempio quando elabori flussi video in tempo reale. In SINGLE_IMAGE_MODE, il rilevatore di oggetti restituisce il risultato dopo aver determinato il riquadro di delimitazione dell'oggetto. Se attivi anche la classificazione, il risultato viene restituito dopo che sono disponibili sia il riquadro di selezione sia l'etichetta della categoria. Di conseguenza, la latenza di rilevamento è potenzialmente più elevata. Inoltre, in SINGLE_IMAGE_MODE, gli ID monitoraggio non vengono assegnati. Utilizza questa modalità se la latenza non è fondamentale e non vuoi gestire risultati parziali.
   Rilevare e monitorare più oggetti	false (predefinito) | true Se rilevare e monitorare fino a cinque oggetti o solo l'oggetto più prominente (impostazione predefinita).
   Classificare gli oggetti	false (predefinito) | true Se classificare o meno gli oggetti rilevati in categorie generali. Se attivato, il rilevatore di oggetti classifica gli oggetti nelle seguenti categorie: articoli di moda, cibo, articoli per la casa, luoghi e piante.

   L'API per il rilevamento e il monitoraggio degli oggetti è ottimizzata per questi due casi d'uso principali:

   • Rilevamento e monitoraggio in tempo reale dell'oggetto più in evidenza nel mirino della videocamera.
   • Il rilevamento di più oggetti da un'immagine statica.

   Per configurare l'API per questi casi d'uso:

   Kotlin

   // Live detection and tracking
   val options = ObjectDetectorOptions.Builder()
           .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
           .enableClassification()  // Optional
           .build()
   
   // Multiple object detection in static images
   val options = ObjectDetectorOptions.Builder()
           .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
           .enableMultipleObjects()
           .enableClassification()  // Optional
           .build()

   Java

   // Live detection and tracking
   ObjectDetectorOptions options =
           new ObjectDetectorOptions.Builder()
                   .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
                   .enableClassification()  // Optional
                   .build();
   
   // Multiple object detection in static images
   ObjectDetectorOptions options =
           new ObjectDetectorOptions.Builder()
                   .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
                   .enableMultipleObjects()
                   .enableClassification()  // Optional
                   .build();

2. Ottieni un'istanza di ObjectDetector:

   Kotlin

   val objectDetector = ObjectDetection.getClient(options)

   Java

   ObjectDetector objectDetector = ObjectDetection.getClient(options);

2. Prepara l'immagine di input

Per rilevare e monitorare gli oggetti, passa le immagini al metodo process() dell'istanza ObjectDetector.

Il rilevatore di oggetti viene eseguito direttamente da un Bitmap, un ByteBuffer NV21 o un media.Image YUV_420_888. La creazione di un InputImage da queste fonti è consigliata se hai accesso diretto a una di queste. Se crei un InputImage da altre fonti, la conversione verrà gestita internamente e potrebbe essere meno efficiente.

Per ogni frame di video o immagine in una sequenza, procedi nel seguente modo:

Puoi creare un oggetto InputImage da diverse origini, ognuna delle quali è spiegata di seguito.

Utilizzo di un media.Image

Per creare un oggetto InputImage da un oggetto media.Image, ad esempio quando acquisisci un'immagine dalla fotocamera di un dispositivo, passa l'oggetto media.Image e la rotazione dell'immagine a InputImage.fromMediaImage().

Se utilizzi la libreria CameraX, le classi OnImageCapturedListener e ImageAnalysis.Analyzer calcolano il valore di rotazione per te.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

Se non utilizzi una libreria di fotocamere che ti fornisce il grado di rotazione dell'immagine, puoi calcolarlo dal grado di rotazione del dispositivo e dall'orientamento del sensore della fotocamera nel dispositivo:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}
MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

Poi, passa l'oggetto media.Image e il valore del grado di rotazione a InputImage.fromMediaImage():

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

Utilizzo di un URI file

Per creare un oggetto InputImage da un URI file, passa il contesto dell'app e l'URI file a InputImage.fromFilePath(). Questa funzionalità è utile quando utilizzi un intent ACTION_GET_CONTENT per chiedere all'utente di selezionare un'immagine dalla sua app galleria.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}
MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

Utilizzo di ByteBuffer o ByteArray

Per creare un oggetto InputImage da un ByteBuffer o da un ByteArray, calcola prima il grado di rotazione dell'immagine come descritto in precedenza per l'input media.Image. Quindi, crea l'oggetto InputImage con il buffer o l'array, insieme all'altezza, alla larghezza, al formato di codifica del colore e al grado di rotazione dell'immagine:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

Utilizzo di un Bitmap

Per creare un oggetto InputImage da un oggetto Bitmap, effettua la seguente dichiarazione:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
MLKitVisionImage.java

L'immagine è rappresentata da un oggetto Bitmap insieme ai gradi di rotazione.

3. Elabora l'immagine

Passa l'immagine al metodo process():

Kotlin

objectDetector.process(image)
    .addOnSuccessListener { detectedObjects ->
        // Task completed successfully
        // ...
    }
    .addOnFailureListener { e ->
        // Task failed with an exception
        // ...
    }

Java

objectDetector.process(image)
    .addOnSuccessListener(
        new OnSuccessListener<List<DetectedObject>>() {
            @Override
            public void onSuccess(List<DetectedObject> detectedObjects) {
                // Task completed successfully
                // ...
            }
        })
    .addOnFailureListener(
        new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });

Nota: se utilizzi l'API CameraX, assicurati di chiudere ImageProxy al termine dell'utilizzo, ad esempio aggiungendo un OnCompleteListener a Task restituito dal metodo process. Per un esempio, consulta la classe VisionProcessorBase nell'app di esempio della guida rapida.

4. Ricevere informazioni sugli oggetti rilevati

Se la chiamata a process() va a buon fine, un elenco di DetectedObject viene passato al listener di esito positivo.

Nota: in modalità streaming, il rilevatore di oggetti potrebbe dover elaborare 30 o più frame, a seconda delle prestazioni del dispositivo, prima di rilevare il primo oggetto.

Ogni DetectedObject contiene le seguenti proprietà:

Riquadro di delimitazione	Un Rect che indica la posizione dell'oggetto nell'immagine.
ID monitoraggio	Un numero intero che identifica l'oggetto nelle immagini. Null in SINGLE_IMAGE_MODE.
Etichette	Descrizione etichetta La descrizione testuale dell'etichetta. che può essere una delle costanti String definite in PredefinedCategory. Indice delle etichette L'indice dell'etichetta tra tutte le etichette supportate dal classificatore. Sarà una delle costanti intere definite in PredefinedCategory. Affidabilità dell'etichetta Il valore di confidenza della classificazione dell'oggetto.

Kotlin

for (detectedObject in detectedObjects) {
    val boundingBox = detectedObject.boundingBox
    val trackingId = detectedObject.trackingId
    for (label in detectedObject.labels) {
        val text = label.text
        if (PredefinedCategory.FOOD == text) {
            ...
        }
        val index = label.index
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        val confidence = label.confidence
    }
}

Java

// The list of detected objects contains one item if multiple
// object detection wasn't enabled.
for (DetectedObject detectedObject : detectedObjects) {
    Rect boundingBox = detectedObject.getBoundingBox();
    Integer trackingId = detectedObject.getTrackingId();
    for (Label label : detectedObject.getLabels()) {
        String text = label.getText();
        if (PredefinedCategory.FOOD.equals(text)) {
            ...
        }
        int index = label.getIndex();
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        float confidence = label.getConfidence();
    }
}

Garantire un'esperienza utente ottimale

Per garantire la migliore esperienza utente, segui queste linee guida nella tua app:

• Il rilevamento degli oggetti dipende dalla loro complessità visiva. Per essere rilevati, gli oggetti con un numero ridotto di caratteristiche visive potrebbero dover occupare una parte più grande dell'immagine. Devi fornire agli utenti indicazioni su come acquisire input che funzionino bene con il tipo di oggetti che vuoi rilevare.
• Quando utilizzi la classificazione, se vuoi rilevare oggetti che non rientrano in modo chiaro nelle categorie supportate, implementa una gestione speciale per gli oggetti sconosciuti.

Dai un'occhiata anche all'app showcase di ML Kit Material Design e alla raccolta di pattern di Material Design per le funzionalità basate sul machine learning.

Ottimizzazione del rendimento

Se vuoi utilizzare il rilevamento degli oggetti in un'applicazione in tempo reale, segui queste linee guida per ottenere i migliori framerate:

• Quando utilizzi la modalità streaming in un'applicazione in tempo reale, non utilizzare il rilevamento di più oggetti, poiché la maggior parte dei dispositivi non sarà in grado di produrre framerate adeguati.

• Disattiva la classificazione se non ti serve.

• Se utilizzi l'API Camera o camera2, limita le chiamate al rilevatore. Se un nuovo frame video diventa disponibile durante l'esecuzione del rilevatore, rilascia il frame. Per un esempio, consulta la classe VisionProcessorBase nell'app di esempio della guida rapida.
• Se utilizzi l'API CameraX, assicurati che la strategia di backpressure sia impostata sul valore predefinito ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. In questo modo, per l'analisi verrà inviata una sola immagine alla volta. Se vengono prodotte più immagini quando l'analizzatore è occupato, queste verranno eliminate automaticamente e non verranno messe in coda per la consegna. Una volta chiusa l'immagine in fase di analisi chiamando ImageProxy.close(), verrà inviata l'ultima immagine più recente.
• Se utilizzi l'output del rilevatore per sovrapporre elementi grafici all'immagine di input, prima ottieni il risultato da ML Kit, poi esegui il rendering dell'immagine e la sovrapposizione in un unico passaggio. Il rendering viene eseguito sulla superficie di visualizzazione solo una volta per ogni frame di input. Per un esempio, consulta le classi CameraSourcePreview e GraphicOverlay nell'app di esempio di avvio rapido.
• Se utilizzi l'API Camera2, acquisisci immagini in formato ImageFormat.YUV_420_888. Se utilizzi la versione precedente dell'API Camera, acquisisci immagini in formato ImageFormat.NV21.