অ্যান্ড্রয়েডে এমএল কিট দিয়ে ছবি লেবেল করুন

আপনি একটি ছবিতে শনাক্ত করা বস্তুগুলোকে লেবেল করতে এমএল কিট (ML Kit) ব্যবহার করতে পারেন। এমএল কিট-এর সাথে প্রদত্ত ডিফল্ট মডেলটি ৪০০টিরও বেশি বিভিন্ন লেবেল সমর্থন করে।

এই এপিআইটি দুটি উপায়ে পাওয়া যায়: একটি হলো আনবান্ডলড লাইব্রেরি, যা ব্যবহারের আগে অবশ্যই ডাউনলোড করতে হবে; এবং অন্যটি হলো বান্ডলড লাইব্রেরি, যা আপনার অ্যাপের সাইজ বাড়িয়ে দেয়। এই দুটি ইনস্টলেশন পদ্ধতির মধ্যে পার্থক্য সম্পর্কে আরও তথ্যের জন্য এই নির্দেশিকাটি দেখুন।

বৈশিষ্ট্য	আনবান্ডেলড	বান্ডিল
বাস্তবায়ন	মডেলটি গুগল প্লে সার্ভিসেস-এর মাধ্যমে ডায়নামিকভাবে ডাউনলোড করা হয়।	মডেলটি বিল্ড করার সময় আপনার সাথে স্ট্যাটিক্যালি লিঙ্ক করা হয়।
অ্যাপের আকার	আকার প্রায় ২০০ কেবি বৃদ্ধি পেয়েছে।	আকার প্রায় ৫.৭ এমবি বৃদ্ধি পেয়েছে।
প্রারম্ভিক সময়	প্রথমবার ব্যবহারের আগে মডেলটি ডাউনলোড হওয়ার জন্য অপেক্ষা করতে হতে পারে।	মডেলটি অবিলম্বে উপলব্ধ।

চেষ্টা করে দেখুন

• এই API-টির একটি উদাহরণমূলক ব্যবহার দেখতে নমুনা অ্যাপটি ব্যবহার করে দেখুন।

শুরু করার আগে

এই API-টির জন্য Android API লেভেল ২৩ বা তার বেশি প্রয়োজন। নিশ্চিত করুন যে আপনার অ্যাপের বিল্ড ফাইলে minSdkVersion এর মান ২৩ বা তার বেশি ব্যবহার করা হয়েছে।

1. আপনার প্রোজেক্ট-স্তরের build.gradle ফাইলে, buildscript এবং allprojects উভয় সেকশনেই গুগলের মেভেন রিপোজিটরি অন্তর্ভুক্ত করা নিশ্চিত করুন।

2. আপনার মডিউলের অ্যাপ-লেভেল গ্রেডল ফাইলে (যা সাধারণত app/build.gradle হয়) এমএল কিট অ্যান্ড্রয়েড লাইব্রেরির ডিপেন্ডেন্সিগুলো যোগ করুন। আপনার প্রয়োজন অনুযায়ী নিম্নলিখিত ডিপেন্ডেন্সিগুলোর মধ্যে থেকে একটি বেছে নিন:

   আপনার অ্যাপের সাথে মডেলটি বান্ডল করার জন্য:

   dependencies {
     // ...
     // Use this dependency to bundle the model with your app
     implementation 'com.google.mlkit:image-labeling:17.0.9'
   }
   

   গুগল প্লে সার্ভিসে মডেলটি ব্যবহার করার জন্য:

   dependencies {
     // ...
     // Use this dependency to use the dynamically downloaded model in Google Play Services
     implementation 'com.google.android.gms:play-services-mlkit-image-labeling:16.0.8'
   }
   

3. আপনি যদি গুগল প্লে সার্ভিসেস-এ মডেলটি ব্যবহার করতে চান , তাহলে প্লে স্টোর থেকে আপনার অ্যাপটি ইনস্টল হওয়ার পর ডিভাইসে মডেলটি স্বয়ংক্রিয়ভাবে ডাউনলোড করার জন্য আপনি আপনার অ্যাপটি কনফিগার করতে পারেন। এটি করার জন্য, আপনার অ্যাপের AndroidManifest.xml ফাইলে নিম্নলিখিত ডিক্লারেশনটি যোগ করুন:

   <application ...>
         ...
         <meta-data
             android:name="com.google.mlkit.vision.DEPENDENCIES"
             android:value="ica" >
         <!-- To use multiple models: android:value="ica,model2,model3" -->
   </application>
   

   এছাড়াও আপনি গুগল প্লে সার্ভিসেস-এর ModuleInstallClient API-এর মাধ্যমে মডেলটির প্রাপ্যতা স্পষ্টভাবে যাচাই করতে এবং ডাউনলোডের জন্য অনুরোধ করতে পারেন।

   আপনি যদি ইনস্টল-টাইম মডেল ডাউনলোড সক্ষম না করেন বা সুস্পষ্ট ডাউনলোডের অনুরোধ না করেন, তাহলে লেবেলারটি প্রথমবার চালানোর সময় মডেলটি ডাউনলোড হয়ে যায়। ডাউনলোড সম্পূর্ণ হওয়ার আগে করা অনুরোধগুলোর কোনো ফলাফল পাওয়া যায় না।

এখন আপনি ছবিগুলোতে লেবেল লাগানোর জন্য প্রস্তুত।

১. ইনপুট চিত্রটি প্রস্তুত করুন।

আপনার ইমেজ থেকে একটি InputImage অবজেক্ট তৈরি করুন। ইমেজ লেবেলারটি সবচেয়ে দ্রুত চলে যখন আপনি একটি Bitmap ব্যবহার করেন অথবা, যদি আপনি camera2 API ব্যবহার করেন, একটি YUV_420_888 media.Image ব্যবহার করেন, যা সম্ভব হলে ব্যবহার করার পরামর্শ দেওয়া হয়।

আপনি বিভিন্ন উৎস থেকে একটি InputImage অবজেক্ট তৈরি করতে পারেন, যার প্রতিটি নিচে ব্যাখ্যা করা হলো।

একটি media.Image ব্যবহার করে।

একটি media.Image অবজেক্ট থেকে InputImage অবজেক্ট তৈরি করতে, যেমন যখন আপনি ডিভাইসের ক্যামেরা থেকে একটি ছবি তোলেন, তখন media.Image অবজেক্টটি এবং ছবিটির রোটেশন InputImage.fromMediaImage() ফাংশনে পাস করুন।

আপনি CameraX লাইব্রেরি ব্যবহার করলে, OnImageCapturedListener এবং ImageAnalysis.Analyzer ক্লাসগুলো আপনার জন্য ঘূর্ণন মান গণনা করে দেয়।

কোটলিন

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

জাভা

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

যদি আপনি এমন কোনো ক্যামেরা লাইব্রেরি ব্যবহার না করেন যা আপনাকে ছবির ঘূর্ণন মাত্রা জানিয়ে দেয়, তাহলে আপনি ডিভাইসের ঘূর্ণন মাত্রা এবং ডিভাইসের ক্যামেরা সেন্সরের অভিমুখ থেকে এটি গণনা করতে পারেন:

কোটলিন

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}
MLKitVisionImage.kt

জাভা

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

এরপর, media.Image অবজেক্ট এবং ঘূর্ণন ডিগ্রির মানটি InputImage.fromMediaImage() -এ পাস করুন:

কোটলিন

val image = InputImage.fromMediaImage(mediaImage, rotation)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

একটি ফাইল URI ব্যবহার করে

একটি ফাইল URI থেকে InputImage অবজেক্ট তৈরি করতে, InputImage.fromFilePath() -এ অ্যাপ কনটেক্সট এবং ফাইল URI পাস করুন। এটি তখন কাজে আসে যখন আপনি ACTION_GET_CONTENT ইন্টেন্ট ব্যবহার করে ব্যবহারকারীকে তার গ্যালারি অ্যাপ থেকে একটি ছবি বেছে নিতে বলেন।

কোটলিন

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}
MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

ByteBuffer বা ByteArray ব্যবহার করে

একটি ByteBuffer বা ByteArray থেকে InputImage অবজেক্ট তৈরি করতে, প্রথমে media.Image ইনপুটের জন্য পূর্বে বর্ণিত পদ্ধতি অনুযায়ী ছবির ঘূর্ণন মাত্রা গণনা করুন। তারপর, বাফার বা অ্যারেটি ব্যবহার করে ছবির উচ্চতা, প্রস্থ, কালার এনকোডিং ফরম্যাট এবং ঘূর্ণন মাত্রা সহ InputImage অবজেক্টটি তৈরি করুন।

কোটলিন

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

জাভা

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

Bitmap ব্যবহার করে

একটি Bitmap অবজেক্ট থেকে InputImage অবজেক্ট তৈরি করতে, নিম্নলিখিত ডিক্লারেশনটি করুন:

কোটলিন

val image = InputImage.fromBitmap(bitmap, 0)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
MLKitVisionImage.java

ছবিটি ঘূর্ণন মাত্রা সহ একটি Bitmap অবজেক্ট দ্বারা উপস্থাপিত হয়।

২. ইমেজ লেবেলারটি কনফিগার ও রান করুন

কোনো ইমেজের অবজেক্টগুলোকে লেবেল করতে, InputImage অবজেক্টটি ImageLabeler এর process মেথডে পাস করুন।

1. প্রথমে, ImageLabeler এর একটি ইনস্ট্যান্স নিন।

   আপনি যদি অন-ডিভাইস ইমেজ লেবেলার ব্যবহার করতে চান, তাহলে নিম্নলিখিত ঘোষণাটি করুন:

কোটলিন

// To use default options:
val labeler = ImageLabeling.getClient(ImageLabelerOptions.DEFAULT_OPTIONS)

// Or, to set the minimum confidence required:
// val options = ImageLabelerOptions.Builder()
//     .setConfidenceThreshold(0.7f)
//     .build()
// val labeler = ImageLabeling.getClient(options)
ImageLabelingActivity.kt

জাভা

// To use default options:
ImageLabeler labeler = ImageLabeling.getClient(ImageLabelerOptions.DEFAULT_OPTIONS);

// Or, to set the minimum confidence required:
// ImageLabelerOptions options =
//     new ImageLabelerOptions.Builder()
//         .setConfidenceThreshold(0.7f)
//         .build();
// ImageLabeler labeler = ImageLabeling.getClient(options);
ImageLabelingActivity.java

1. তারপর, ছবিটি process() মেথডে পাঠান:

কোটলিন

labeler.process(image)
        .addOnSuccessListener { labels ->
            // Task completed successfully
            // ...
        }
        .addOnFailureListener { e ->
            // Task failed with an exception
            // ...
        }
ImageLabelingActivity.kt

জাভা

labeler.process(image)
        .addOnSuccessListener(new OnSuccessListener<List<ImageLabel>>() {
            @Override
            public void onSuccess(List<ImageLabel> labels) {
                // Task completed successfully
                // ...
            }
        })
        .addOnFailureListener(new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });
ImageLabelingActivity.java

দ্রষ্টব্য: আপনি যদি CameraX API ব্যবহার করেন, তবে এর ব্যবহার শেষ হলে ImageProxy টি বন্ধ করে দিতে ভুলবেন না। উদাহরণস্বরূপ, process মেথড থেকে রিটার্ন করা Task এ একটি OnCompleteListener যোগ করে এটি করতে পারেন। একটি উদাহরণের জন্য কুইকস্টার্ট স্যাম্পল অ্যাপের VisionProcessorBase ক্লাসটি দেখুন।

৩. চিহ্নিত বস্তুগুলো সম্পর্কে তথ্য সংগ্রহ করুন।

যদি ইমেজ লেবেলিং অপারেশন সফল হয়, তাহলে ImageLabel অবজেক্টের একটি তালিকা সাকসেস লিসেনারে পাঠানো হয়। প্রতিটি ImageLabel অবজেক্ট ইমেজের লেবেল করা কোনো একটি বিষয়কে নির্দেশ করে। বেস মডেলটি ৪০০-এর বেশি বিভিন্ন লেবেল সমর্থন করে। আপনি প্রতিটি লেবেলের টেক্সট বিবরণ, মডেল দ্বারা সমর্থিত সমস্ত লেবেলের মধ্যে তার ইনডেক্স এবং মিলের কনফিডেন্স স্কোর পেতে পারেন। উদাহরণস্বরূপ:

কোটলিন

for (label in labels) {
    val text = label.text
    val confidence = label.confidence
    val index = label.index
}
ImageLabelingActivity.kt

জাভা

for (ImageLabel label : labels) {
    String text = label.getText();
    float confidence = label.getConfidence();
    int index = label.getIndex();
}
ImageLabelingActivity.java

রিয়েল-টাইম পারফরম্যান্স উন্নত করার টিপস

আপনি যদি কোনো রিয়েল-টাইম অ্যাপ্লিকেশনে ছবি লেবেল করতে চান, তাহলে সেরা ফ্রেমরেট পেতে এই নির্দেশিকাগুলো অনুসরণ করুন:

• আপনি যদি Camera বা camera2 API ব্যবহার করেন, তাহলে ইমেজ লেবেলারের কলগুলো সীমিত করুন। ইমেজ লেবেলার চলার সময় যদি একটি নতুন ভিডিও ফ্রেম উপলব্ধ হয়, তাহলে ফ্রেমটি বাদ দিন। একটি উদাহরণের জন্য কুইকস্টার্ট স্যাম্পল অ্যাপে VisionProcessorBase ক্লাসটি দেখুন।
• আপনি যদি CameraX API ব্যবহার করেন, তাহলে নিশ্চিত করুন যে ব্যাকপ্রেশার স্ট্র্যাটেজি তার ডিফল্ট মান ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST এ সেট করা আছে। এটি নিশ্চিত করে যে একবারে বিশ্লেষণের জন্য কেবল একটি ছবিই পাঠানো হবে। অ্যানালাইজার ব্যস্ত থাকা অবস্থায় যদি আরও ছবি তৈরি হয়, তবে সেগুলি স্বয়ংক্রিয়ভাবে বাদ হয়ে যাবে এবং পাঠানোর জন্য সারিতে যুক্ত হবে না। ImageProxy.close() কল করে বিশ্লেষণাধীন ছবিটি বন্ধ করা হলে, পরবর্তী সর্বশেষ ছবিটি পাঠানো হবে।
• যদি আপনি ইনপুট ইমেজের উপর গ্রাফিক্স ওভারলে করার জন্য ইমেজ লেবেলারের আউটপুট ব্যবহার করেন, তাহলে প্রথমে এমএল কিট (ML Kit) থেকে ফলাফলটি নিন, তারপর ইমেজটি রেন্ডার করুন এবং একটি একক ধাপে ওভারলেটি প্রয়োগ করুন। এর ফলে প্রতিটি ইনপুট ফ্রেমের জন্য ডিসপ্লে সারফেসে কেবল একবারই রেন্ডার হয়। একটি উদাহরণের জন্য কুইকস্টার্ট স্যাম্পল অ্যাপে থাকা CameraSourcePreview এবং GraphicOverlay ক্লাসগুলো দেখুন।
• আপনি যদি Camera2 API ব্যবহার করেন, তাহলে ImageFormat.YUV_420_888 ফরম্যাটে ছবি তুলুন। আর যদি পুরোনো Camera API ব্যবহার করেন, তাহলে ImageFormat.NV21 ফরম্যাটে ছবি তুলুন।