Android'de görüntüleri ML Kit ile etiketleme

Bir resimde tanınan nesneleri etiketlemek için ML Kit'i kullanabilirsiniz. ML Kit ile sağlanan varsayılan model, 400'den fazla farklı etiketi destekler.

Bu API, kullanılmadan önce indirilmesi gereken paketlenmemiş kitaplık veya uygulamanızın boyutunu artıran paketli kitaplık kullanılarak kullanılabilir. İki yükleme seçeneği arasındaki farklar hakkında daha fazla bilgi edinmek için bu kılavuza göz atın.

Özellik	Grup halinde olmayanlar	Gruplandırılanlar
Uygulama	Model, Google Play Hizmetleri aracılığıyla dinamik olarak indirilir.	Model, derleme sırasında statik olarak web sitenize bağlanır.
Uygulama boyutu	Yaklaşık 200 KB boyut artışı.	Yaklaşık 5,7 MB boyut artışı.
Başlatma süresi	İlk kullanımdan önce modelin indirilmesini beklemeniz gerekebilir.	Model hemen kullanılabilir

Deneyin

• Bu örnek API'yi görmek için örnek uygulamayı inceleyin.

Başlamadan önce

Bu API, Android API düzeyi 19 veya üzerini gerektirir. Uygulamanızın derleme dosyasında minSdkVersion değerinin 19 veya üzeri olduğundan emin olun.

1. Proje düzeyindeki build.gradle dosyanıza Google'ın Maven deposunu hem buildscript hem de allprojects bölümlerine eklediğinizden emin olun.

2. ML Kit Android kitaplıklarının bağımlılıklarını, modülünüzün genellikle app/build.gradle olan gradle dosyasına ekleyin. İhtiyaçlarınıza bağlı olarak aşağıdaki bağımlılıklardan birini seçin:

   Modeli uygulamanızla birlikte gruplandırmak için:

   dependencies {
     // ...
     // Use this dependency to bundle the model with your app
     implementation 'com.google.mlkit:image-labeling:17.0.7'
   }
   

   Modeli Google Play Hizmetleri'nde kullanmak için:

   dependencies {
     // ...
     // Use this dependency to use the dynamically downloaded model in Google Play Services
     implementation 'com.google.android.gms:play-services-mlkit-image-labeling:16.0.8'
   }
   

3. Modeli Google Play Hizmetleri'nde kullanmayı seçerseniz uygulamanızı Play Store'dan yüklendikten sonra, modeli cihaza otomatik olarak indirecek şekilde yapılandırabilirsiniz. Bunu yapmak için uygulamanızın AndroidManifest.xml dosyasına aşağıdaki beyanı ekleyin:

   <application ...>
         ...
         <meta-data
             android:name="com.google.mlkit.vision.DEPENDENCIES"
             android:value="ica" >
         <!-- To use multiple models: android:value="ica,model2,model3" -->
   </application>
   

   Ayrıca, modelin kullanılabilirliğini açıkça kontrol edebilir ve Google Play Hizmetleri ModuleInstallClient API üzerinden indirme isteğinde bulunabilirsiniz.

   Yükleme sırasında model indirmeleri etkinleştirmez veya açık indirme isteğinde bulunursanız model, etiketleyiciyi ilk kez çalıştırdığınızda indirilir. İndirme tamamlanmadan önce yaptığınız istekler hiçbir sonuç vermez.

Artık resimleri etiketlemeye hazırsınız.

1. Giriş resmini hazırlama

Resminizden bir InputImage nesnesi oluşturun. Bitmap veya fotoğraf makinesi2 API'si kullanıyorsanız mümkün olduğunda önerilen YUV_420_888 media.Image kodlu resim etiketi en hızlı şekilde çalışır.

Farklı kaynaklardan bir InputImage nesnesi oluşturabilirsiniz. Her nesne aşağıda açıklanmıştır.

media.Image kullanarak

Bir cihazın kamerasından resim çekerken olduğu gibi bir media.Image nesnesinden InputImage nesnesi oluşturmak için media.Image nesnesini ve resmin rotasyonunu InputImage.fromMediaImage() öğesine iletin.

KameraX kitaplığını kullanırsanız OnImageCapturedListener ve ImageAnalysis.Analyzer sınıfları sizin için rotasyon değerini hesaplar.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

Resmin döndürme derecesini veren bir kamera kitaplığı kullanmıyorsanız bunu, cihazın döndürme derecesinden ve kamera kamerasının yönüne göre hesaplayabilirsiniz:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}
MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

Ardından media.Image nesnesini ve döndürme derecesi değerini InputImage.fromMediaImage() öğesine iletin:

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

Dosya URI'sı kullanma

Dosya URI'sinden InputImage nesnesi oluşturmak için uygulama bağlamını ve dosya URI'sini InputImage.fromFilePath() öğesine iletin. Bu, kullanıcıya galeri uygulamasından bir resim seçmesini istemek için ACTION_GET_CONTENT amacı kullandığınızda yararlıdır.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}
MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

ByteBuffer veya ByteArray kullanarak

ByteBuffer veya ByteArray öğesinden InputImage nesnesi oluşturmak için önce resim döndürme derecesini media.Image girişi için daha önce açıklandığı şekilde hesaplayın. Ardından; arabellek veya diziyle birlikte resmin yüksekliğini, genişliğini, renk kodlama biçimini ve döndürme derecesini kullanarak InputImage nesnesi oluşturun:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

Bitmap kullanarak

Bitmap nesnesinden InputImage nesnesi oluşturmak için aşağıdaki ifadeyi yazın:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
MLKitVisionImage.java

Resim, döndürme dereceleriyle birlikte bir Bitmap nesnesiyle gösterilir.

2. Resim etiketleyiciyi yapılandırma ve çalıştırma

Bir görüntüdeki nesneleri etiketlemek için ImageLabeler nesnesinin process yöntemine InputImage nesnesini iletin.

1. Öncelikle ImageLabeler örneğini alın.

   Cihaz üzerinde resim etiketleyiciyi kullanmak istiyorsanız aşağıdaki beyanı yapın:

Kotlin

// To use default options:
val labeler = ImageLabeling.getClient(ImageLabelerOptions.DEFAULT_OPTIONS)

// Or, to set the minimum confidence required:
// val options = ImageLabelerOptions.Builder()
//     .setConfidenceThreshold(0.7f)
//     .build()
// val labeler = ImageLabeling.getClient(options)
ImageLabelingActivity.kt

Java

// To use default options:
ImageLabeler labeler = ImageLabeling.getClient(ImageLabelerOptions.DEFAULT_OPTIONS);

// Or, to set the minimum confidence required:
// ImageLabelerOptions options =
//     new ImageLabelerOptions.Builder()
//         .setConfidenceThreshold(0.7f)
//         .build();
// ImageLabeler labeler = ImageLabeling.getClient(options);
ImageLabelingActivity.java

1. Ardından, resmi process() yöntemine geçirin:

Kotlin

labeler.process(image)
        .addOnSuccessListener { labels ->
            // Task completed successfully
            // ...
        }
        .addOnFailureListener { e ->
            // Task failed with an exception
            // ...
        }
ImageLabelingActivity.kt

Java

labeler.process(image)
        .addOnSuccessListener(new OnSuccessListener<List<ImageLabel>>() {
            @Override
            public void onSuccess(List<ImageLabel> labels) {
                // Task completed successfully
                // ...
            }
        })
        .addOnFailureListener(new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });
ImageLabelingActivity.java

Not: CameraX API'sini kullanıyorsanız API'yi kullanmayı bitirdikten sonra ImageProxy yöntemini kapattığınızdan emin olun (ör. Task yönteminden döndürülen Task öğesine OnCompleteListener ekleyerek).process Örnek olarak hızlı başlangıç örneği uygulamasındaki VisionProcessorBase sınıfını inceleyin.

3. Etiketlenen nesneler hakkında bilgi edinme

Resim etiketleme işlemi başarılı olursa başarılı bir dinleyiciye bir ImageLabel nesneleri listesi iletilir. Her ImageLabel nesnesi, resimde etiketlenmiş olan bir öğeyi temsil eder. Temel model, 400'den fazla farklı etiketi destekler. Her etiketin metin açıklamasını, model tarafından desteklenen tüm etiketler arasında bir dizini ve eşleşmenin güven puanını alabilirsiniz. Örneğin:

Kotlin

for (label in labels) {
    val text = label.text
    val confidence = label.confidence
    val index = label.index
}
ImageLabelingActivity.kt

Java

for (ImageLabel label : labels) {
    String text = label.getText();
    float confidence = label.getConfidence();
    int index = label.getIndex();
}
ImageLabelingActivity.java

Gerçek zamanlı performansı artırmak için ipuçları

Resimleri gerçek zamanlı bir uygulamada etiketlemek istiyorsanız en iyi kare hızlarına ulaşmak için şu yönergeleri izleyin:

• Camera veya camera2 API'sini kullanıyorsanız resim etiketleyicinin çağrılarını daraltın. Resim etiketleyici çalışırken yeni bir video çerçevesi varsa çerçeveyi bırakın. Örnek olarak hızlı başlangıç örneği uygulamasındaki VisionProcessorBase sınıfını inceleyin.
• CameraX API'yi kullanıyorsanız geri baskı stratejisinin varsayılan değerine ( ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST) ayarlandığından emin olun. Bu, aynı anda analiz için yalnızca bir resmin yayınlanacağını garanti eder. Analiz aracı meşgul olduğunda daha fazla görüntü oluşturulursa otomatik olarak atlanır ve teslimat için sıraya alınmaz. Analiz edilen görüntü, ImageProxy.close() işlevi çağrıldıktan sonra kapatıldıktan sonra sıradaki son resim gönderilir.
• Giriş resmi üzerinde grafik yer paylaşımı için görüntü etiketleyicinin çıkışını kullanıyorsanız önce sonucu ML Kiti'nden alın, ardından resmi ve yer paylaşımını tek bir adımda oluşturun. Bu işlem, her bir giriş çerçevesi için görüntü yüzeyinde yalnızca bir kez oluşturulur. Örnek olarak hızlı başlangıç örneği uygulamasındaki CameraSourcePreview ve GraphicOverlay sınıflarını inceleyin.
• Camera2 API'sini kullanıyorsanız ImageFormat.YUV_420_888 biçiminde resim çekin. Eski Camera API'sini kullanıyorsanız görüntüleri ImageFormat.NV21 biçiminde çekin.