इस पेज का अनुवाद Cloud Translation API से किया गया है.

Android पर एमएल किट की मदद से सेल्फ़ी को अलग-अलग सेगमेंट में बांटना

ML Kit, सेल्फ़ी सेगमेंटेशन के लिए ऑप्टिमाइज़ किया गया SDK टूल उपलब्ध कराता है.

सेल्फ़ी सेगमेंटर एसेट, बिल्ड के समय आपके ऐप्लिकेशन से स्टैटिक तौर पर लिंक होती हैं. इससे आपके ऐप्लिकेशन के डाउनलोड का साइज़ करीब 4.5 एमबी हो जाएगा और एपीआई में इंतज़ार का समय बढ़ जाएगा इनपुट इमेज के साइज़ के हिसाब से, यह 25 मि॰से॰ से 65 मि॰से॰ तक अलग-अलग हो सकता है. यह इमेज, Pixel पर मापी जाती है 4.

इसे आज़माएं

सैंपल वाले ऐप्लिकेशन को इस्तेमाल करके देखें, इस एपीआई के इस्तेमाल का एक उदाहरण देखें.

शुरू करने से पहले

यह एपीआई इस्तेमाल करने के लिए, Android के एपीआई लेवल 21 या उसके बाद का वर्शन होना ज़रूरी है. पक्का करें कि आपके ऐप्लिकेशन की बिल्ड फ़ाइल में minSdkVersion की वैल्यू 21 या उससे ज़्यादा हो.

प्रोजेक्ट-लेवल की build.gradle फ़ाइल में, पक्का करें कि आपने buildscript और allprojects, दोनों सेक्शन में Google की Maven रिपॉज़िटरी को शामिल किया हो.
अपने मॉड्यूल की ऐप्लिकेशन-लेवल की Gradle फ़ाइल में, ML Kit की Android लाइब्रेरी की डिपेंडेंसी जोड़ें. आम तौर पर, यह फ़ाइल app/build.gradle होती है:

dependencies {
  implementation 'com.google.mlkit:segmentation-selfie:16.0.0-beta6'
}

1. सेगमेंटर का इंस्टेंस बनाना

सेगमेंटर के विकल्प

किसी इमेज को सेगमेंट में बांटने के लिए, पहले इन विकल्पों को तय करके Segmenter का इंस्टेंस बनाएं.

डिटेक्टर मोड

Segmenter दो मोड में काम करता है. पक्का करें कि आपने वह विकल्प चुना हो जो आपके काम के हिसाब से हो.

STREAM_MODE (default)

यह मोड, वीडियो या कैमरे से फ़्रेम स्ट्रीम करने के लिए डिज़ाइन किया गया है. इस मोड में, सेगमेंटर बेहतर सेगमेंटेशन नतीजे देने के लिए, पिछले फ़्रेम के नतीजों का इस्तेमाल करेगा.

SINGLE_IMAGE_MODE

यह मोड उन अकेली इमेज के लिए डिज़ाइन किया गया है जो एक-दूसरे से जुड़ी नहीं हैं. इस मोड में, सेगमेंटर हर इमेज को अलग से प्रोसेस करेगा. साथ ही, फ़्रेम को स्मूद नहीं करेगा.

रॉ साइज़ मास्क चालू करें

सेगमेंटर को रॉ साइज़ मास्क लौटाने के लिए कहता है, जो मॉडल आउटपुट साइज़ से मेल खाता है.

आम तौर पर, रॉ मास्क का साइज़ (उदाहरण के लिए, 256x256) इनपुट इमेज के साइज़ से छोटा होता है. इस विकल्प को चालू करते समय, मास्क का साइज़ पाने के लिए कृपया SegmentationMask#getWidth() और SegmentationMask#getHeight() को कॉल करें.

इस विकल्प को तय किए बिना, सेगमेंटर इनपुट इमेज के साइज़ से मेल खाने के लिए रॉ मास्क को फिर से स्केल करेगा. अगर आपको कस्टम रेस्केलिंग लॉजिक लागू करना है या इस्तेमाल के उदाहरण के लिए, स्केलिंग की ज़रूरत नहीं है, तो इस विकल्प का इस्तेमाल करें.

सेगमेंटर के विकल्प बताएं:

Kotlin

val options =
        SelfieSegmenterOptions.Builder()
            .setDetectorMode(SelfieSegmenterOptions.STREAM_MODE)
            .enableRawSizeMask()
            .build()

Java

SelfieSegmenterOptions options =
        new SelfieSegmenterOptions.Builder()
            .setDetectorMode(SelfieSegmenterOptions.STREAM_MODE)
            .enableRawSizeMask()
            .build();

Segmenter का इंस्टेंस बनाएं. आपने जो विकल्प तय किए हैं उन्हें पास करें:

Kotlin

val segmenter = Segmentation.getClient(options)

Java

Segmenter segmenter = Segmentation.getClient(options);

2. इनपुट इमेज तैयार करना

किसी इमेज को सेगमेंट में बांटने के लिए, InputImage ऑब्जेक्ट बनाएं किसी Bitmap, media.Image, ByteBuffer, बाइट कलेक्शन से या डिवाइस.

अलग-अलग सोर्स से InputImage ऑब्जेक्ट बनाया जा सकता है. इनमें से हर सोर्स के बारे में नीचे बताया गया है.

`media.Image` का इस्तेमाल करके

InputImage बनाने के लिए किसी media.Image ऑब्जेक्ट से मिला ऑब्जेक्ट, जैसे कि जब आप किसी ऑब्जेक्ट से इमेज कैप्चर करते हैं फ़ोन का कैमरा इस्तेमाल करें, तो media.Image ऑब्जेक्ट को पास करें और इमेज के InputImage.fromMediaImage() का रोटेशन.

अगर आपको CameraX लाइब्रेरी, OnImageCapturedListener, और ImageAnalysis.Analyzer क्लास, रोटेशन वैल्यू को कैलकुलेट करती हैं आपके लिए.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

अगर आपने ऐसी कैमरा लाइब्रेरी का इस्तेमाल नहीं किया है जो इमेज के घूमने की डिग्री बताती है, तो डिवाइस के घूमने की डिग्री और डिवाइस में कैमरे के सेंसर के ओरिएंटेशन से इसका हिसाब लगाया जा सकता है:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

इसके बाद, media.Image ऑब्जेक्ट और घुमाव की डिग्री की वैल्यू को InputImage.fromMediaImage() में पास करें:

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

फ़ाइल यूआरआई का इस्तेमाल करना

फ़ाइल यूआरआई से InputImage ऑब्जेक्ट बनाने के लिए, ऐप्लिकेशन कॉन्टेक्स्ट और फ़ाइल यूआरआई को InputImage.fromFilePath() में पास करें. यह तब काम आता है, जब उपयोगकर्ता को चुनने का प्रॉम्प्ट भेजने के लिए, ACTION_GET_CONTENT इंटेंट का इस्तेमाल करें अपने गैलरी ऐप्लिकेशन से मिली इमेज शामिल करेगा.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

`ByteBuffer` या `ByteArray` का इस्तेमाल करना

InputImage बनाने के लिए ByteBuffer या ByteArray से लिया गया ऑब्जेक्ट है, तो पहले इमेज की गणना करें media.Image इनपुट के लिए पहले बताई गई रोटेशन डिग्री. इसके बाद, इमेज के साथ बफ़र या अरे का इस्तेमाल करके, InputImage ऑब्जेक्ट बनाएं ऊंचाई, चौड़ाई, कलर एन्कोडिंग फ़ॉर्मैट, और रोटेशन डिग्री:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java

`Bitmap` का इस्तेमाल करके

Bitmap ऑब्जेक्ट से InputImage ऑब्जेक्ट बनाने के लिए, यह एलान करें:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);MLKitVisionImage.java

इमेज को Bitmap ऑब्जेक्ट से, रोटेशन डिग्री के साथ दिखाया गया है.

3. इमेज को प्रोसेस करना

तैयार किए गए InputImage ऑब्जेक्ट को Segmenter के process तरीके में पास करें.

Kotlin

Task<SegmentationMask> result = segmenter.process(image)
       .addOnSuccessListener { results ->
           // Task completed successfully
           // ...
       }
       .addOnFailureListener { e ->
           // Task failed with an exception
           // ...
       }

Java

Task<SegmentationMask> result =
        segmenter.process(image)
                .addOnSuccessListener(
                        new OnSuccessListener<SegmentationMask>() {
                            @Override
                            public void onSuccess(SegmentationMask mask) {
                                // Task completed successfully
                                // ...
                            }
                        })
                .addOnFailureListener(
                        new OnFailureListener() {
                            @Override
                            public void onFailure(@NonNull Exception e) {
                                // Task failed with an exception
                                // ...
                            }
                        });

ध्यान दें: अगर CameraX एपीआई का इस्तेमाल किया जा रहा है, तो इसका इस्तेमाल करने के बाद ImageProxy को बंद करना न भूलें. उदाहरण के लिए, process तरीके से दिखाए गए Task में OnCompleteListener जोड़कर. देखें उदाहरण के लिए, क्विकस्टार्ट सैंपल ऐप्लिकेशन में VisionProcessorBase क्लास.

4. सेगमेंटेशन का नतीजा पाना

सेगमेंट करने पर, आपको इस तरह का नतीजा मिल सकता है:

Kotlin

val mask = segmentationMask.getBuffer()
val maskWidth = segmentationMask.getWidth()
val maskHeight = segmentationMask.getHeight()

for (val y = 0; y < maskHeight; y++) {
  for (val x = 0; x < maskWidth; x++) {
    // Gets the confidence of the (x,y) pixel in the mask being in the foreground.
    val foregroundConfidence = mask.getFloat()
  }
}

Java

ByteBuffer mask = segmentationMask.getBuffer();
int maskWidth = segmentationMask.getWidth();
int maskHeight = segmentationMask.getHeight();

for (int y = 0; y < maskHeight; y++) {
  for (int x = 0; x < maskWidth; x++) {
    // Gets the confidence of the (x,y) pixel in the mask being in the foreground.
    float foregroundConfidence = mask.getFloat();
  }
}

सेगमेंटेशन के नतीजों का इस्तेमाल करने का पूरा उदाहरण पाने के लिए, कृपया ML Kit का शुरुआती सैंपल देखें.

परफ़ॉर्मेंस को बेहतर बनाने के लिए सलाह

आपके नतीजों की क्वालिटी, इनपुट इमेज की क्वालिटी पर निर्भर करती है:

एमएल किट में सेगमेंटेशन का सटीक नतीजा पाने के लिए, इमेज कम से कम 256x256 पिक्सल की होनी चाहिए.
खराब इमेज फ़ोकस की वजह से भी सटीक जानकारी पर असर पड़ सकता है. अगर आपको सही नतीजे नहीं मिलते हैं, तो उपयोगकर्ता से इमेज फिर से लेने के लिए कहें.

अगर आपको रीयल-टाइम ऐप्लिकेशन में सेगमेंटेशन का इस्तेमाल करना है, तो सबसे अच्छा फ़्रेम रेट पाने के लिए इन दिशा-निर्देशों का पालन करें:

STREAM_MODE का इस्तेमाल करें.
कम रिज़ॉल्यूशन वाली इमेज कैप्चर करें. हालांकि, इस एपीआई की इमेज डाइमेंशन से जुड़ी ज़रूरी शर्तों का भी ध्यान रखें.
रॉ साइज़ मास्क का विकल्प चालू करें और सभी स्केलिंग लॉजिक को एक साथ जोड़ें. उदाहरण के लिए, एपीआई को पहले इनपुट इमेज के साइज़ से मैच करने के लिए मास्क का साइज़ बदलने दें. इसके बाद, डिसप्ले के लिए व्यू के साइज़ से मैच करने के लिए, फिर से साइज़ बदलें. इसके बजाय, सिर्फ़ रॉ साइज़ मास्क का अनुरोध करें और इन दोनों चरणों को एक में जोड़ें.
अगर आपको Camera या camera2 एपीआई, डिटेक्टर को कॉल थ्रॉटल करती हूँ. अगर डिटेक्टर चालू होने के दौरान कोई नया वीडियो फ़्रेम उपलब्ध होता है, तो फ़्रेम को छोड़ दें. देखें उदाहरण के लिए, क्विकस्टार्ट सैंपल ऐप्लिकेशन में VisionProcessorBase क्लास.
अगर CameraX एपीआई का इस्तेमाल किया जाता है, तो पक्का करें कि बैक प्रेशर स्ट्रेटजी अपनी डिफ़ॉल्ट वैल्यू पर सेट है ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. इससे यह गारंटी मिलती है कि विश्लेषण के लिए एक बार में सिर्फ़ एक इमेज डिलीवर की जाएगी. अगर विश्लेषक व्यस्त होने पर ज़्यादा इमेज जनरेट होती हैं, तो वे अपने-आप हट जाएंगी और डिलीवरी के लिए कतार में नहीं होंगी. ImageProxy.close() को कॉल करके, जिस इमेज का विश्लेषण किया जा रहा है उसे बंद करने के बाद, अगली नई इमेज डिलीवर की जाएगी.
अगर ग्राफ़िक ओवरले करने के लिए डिटेक्टर के आउटपुट का इस्तेमाल किया जाता है, तो इनपुट इमेज को चुनने के बाद, पहले एमएल किट से नतीजा पाएं. इसके बाद, इमेज को रेंडर करें और ओवरले को एक ही चरण में पूरा करें. यह डिसप्ले की सतह पर रेंडर हो जाता है हर इनपुट फ़्रेम के लिए सिर्फ़ एक बार. देखें CameraSourcePreview और उदाहरण के लिए, क्विकस्टार्ट सैंपल ऐप्लिकेशन में GraphicOverlay क्लास.
अगर Camera2 API का इस्तेमाल किया जा रहा है, तो इमेज को ImageFormat.YUV_420_888 फ़ॉर्मैट में कैप्चर करें. अगर पुराने Camera API का इस्तेमाल किया जा रहा है, तो इमेज को ImageFormat.NV21 फ़ॉर्मैट में कैप्चर करें.

Android पर एमएल किट की मदद से सेल्फ़ी को अलग-अलग सेगमेंट में बांटना

इसे आज़माएं

शुरू करने से पहले

1. सेगमेंटर का इंस्टेंस बनाना

सेगमेंटर के विकल्प

डिटेक्टर मोड

रॉ साइज़ मास्क चालू करें

Kotlin

Java

Kotlin

Java

2. इनपुट इमेज तैयार करना

media.Image का इस्तेमाल करके

Kotlin

Java

Kotlin

Java

Kotlin

Java

फ़ाइल यूआरआई का इस्तेमाल करना

Kotlin

Java

ByteBuffer या ByteArray का इस्तेमाल करना

Kotlin

Java

Bitmap का इस्तेमाल करके

Kotlin

Java

3. इमेज को प्रोसेस करना

Kotlin

Java

4. सेगमेंटेशन का नतीजा पाना

Kotlin

Java

परफ़ॉर्मेंस को बेहतर बनाने के लिए सलाह

`media.Image` का इस्तेमाल करके

`ByteBuffer` या `ByteArray` का इस्तेमाल करना

`Bitmap` का इस्तेमाल करके