이 페이지는 Cloud Translation API를 통해 번역되었습니다.

Android에서 ML Kit를 사용하여 얼굴 메시 정보 감지

ML Kit를 사용하면 셀카와 비슷한 이미지 및 동영상에서 얼굴을 감지할 수 있습니다.

얼굴 메시 감지 API
SDK 이름	`face-mesh-detection`
구현	코드와 애셋은 빌드 시간에 앱에 정적으로 연결됩니다.
앱 크기의 영향	약 6.4MB
성능	대부분의 기기에서 실시간

사용해 보기

샘플 앱을 살펴보고 이 API의 사용 예를 확인합니다.

시작하기 전에

이 API에는 Android API 수준 21 이상이 필요합니다. 앱의 빌드 파일이 21 이상의 minSdkVersion 값을 사용하는지 확인합니다.

프로젝트 수준의 build.gradle 파일에서 buildscript 및 allprojects 섹션에 Google의 Maven 저장소가 포함되어야 합니다.
모듈의 앱 수준 Gradle 파일(일반적으로 app/build.gradle)에 ML Kit 얼굴 메시 감지 라이브러리의 종속 항목을 추가합니다.
```
dependencies {
 // ...

 implementation 'com.google.mlkit:face-mesh-detection:16.0.0-beta1'
}
```

입력 이미지 가이드라인

이미지는 기기 카메라에서 2m 이내에서 촬영해야 합니다. 그래야 얼굴 메시 인식을 최적화할 수 있을 정도로 얼굴이 충분히 커집니다. 일반적으로 얼굴이 클수록 얼굴 메시 인식이 향상됩니다.
얼굴은 카메라를 향하고 얼굴의 절반 이상이 보여야 합니다. 얼굴과 카메라 사이에 큰 물체가 있으면 정확도가 떨어질 수 있습니다.

실시간 애플리케이션에서 얼굴을 인식하려면 입력 이미지의 전체 크기도 고려해야 합니다. 작은 이미지는 더 빠르게 처리할 수 있으므로 낮은 해상도에서 이미지를 캡처하면 지연 시간이 줄어듭니다. 하지만 위의 정확도 요구사항에 유념하고 피사체의 얼굴이 이미지의 최대한 많은 부분을 차지하도록 하세요.

얼굴 메시 감지기 구성

얼굴 메시 감지기의 기본 설정을 변경하려면 FaceMeshDetectorOptions 객체를 사용하여 해당 설정을 지정합니다. 다음 설정을 변경할 수 있습니다.

setUseCase
- BOUNDING_BOX_ONLY: 감지된 얼굴 메시에 경계 상자만 제공합니다. 가장 빠른 얼굴 감지기이지만 범위 제한이 있습니다. 얼굴은 카메라에서 2미터 또는 7피트 이내에 있어야 합니다.
- FACE_MESH (기본 옵션): 경계 상자와 추가적인 얼굴 메시 정보 (468개의 3D 포인트 및 삼각형 정보)를 제공합니다. BOUNDING_BOX_ONLY 사용 사례와 비교할 때 지연 시간은 Pixel 3에서 측정된 것과 같이 최대 15% 증가합니다.

예를 들면 다음과 같습니다.

Kotlin

val defaultDetector = FaceMeshDetection.getClient(
  FaceMeshDetectorOptions.DEFAULT_OPTIONS)

val boundingBoxDetector = FaceMeshDetection.getClient(
  FaceMeshDetectorOptions.Builder()
    .setUseCase(UseCase.BOUNDING_BOX_ONLY)
    .build()
)

Java

FaceMeshDetector defaultDetector =
        FaceMeshDetection.getClient(
                FaceMeshDetectorOptions.DEFAULT_OPTIONS);

FaceMeshDetector boundingBoxDetector = FaceMeshDetection.getClient(
        new FaceMeshDetectorOptions.Builder()
                .setUseCase(UseCase.BOUNDING_BOX_ONLY)
                .build()
        );

입력 이미지 준비

이미지 속 얼굴을 인식하려면 Bitmap, media.Image, ByteBuffer, 바이트 배열, 기기의 파일에서 InputImage 객체를 만듭니다. 그런 다음 InputImage 객체를 FaceDetector의 process 메서드에 전달합니다.

얼굴 메시 감지의 경우 크기가 480x360픽셀 이상인 이미지를 사용해야 합니다. 실시간으로 얼굴을 감지하는 경우 이 최소 해상도에서 프레임을 캡처하면 지연 시간을 줄일 수 있습니다.

다양한 소스에서 InputImage 객체를 만들 수 있습니다. 각 소스는 아래에 설명되어 있습니다.

`media.Image` 사용

기기의 카메라에서 이미지를 캡처할 때와 같이 media.Image 객체에서 InputImage 객체를 만들려면 media.Image 객체 및 이미지 회전을 InputImage.fromMediaImage()에 전달합니다.

CameraX 라이브러리를 사용하는 경우 OnImageCapturedListener 클래스와 ImageAnalysis.Analyzer 클래스가 회전 값을 자동으로 계산합니다.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

이미지 회전 각도를 제공하는 카메라 라이브러리를 사용하지 않는 경우 기기의 카메라 센서 방향과 기기 회전 각도에서 이미지 회전 각도를 계산할 수 있습니다.

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

그런 다음 media.Image 객체 및 회전 각도 값을 InputImage.fromMediaImage()에 전달합니다.

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

파일 URI 사용

파일 URI에서 InputImage 객체를 만들려면 앱 컨텍스트 및 파일 URI를 InputImage.fromFilePath()에 전달합니다. 이 기능은 ACTION_GET_CONTENT 인텐트를 사용하여 사용자에게 갤러리 앱에서 이미지를 선택하라는 메시지를 표시할 때 유용합니다.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

`ByteBuffer` 또는 `ByteArray` 사용

ByteBuffer 또는 ByteArray에서 InputImage 객체를 만들려면 앞서 media.Image 입력에서 설명한 대로 이미지 회전 각도를 먼저 계산합니다. 그런 다음 이미지의 높이, 너비, 색상 인코딩 형식, 회전 각도와 함께 버퍼 또는 배열을 사용하여 InputImage 객체를 만듭니다.

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);MLKitVisionImage.java

`Bitmap` 사용

Bitmap 객체에서 InputImage 객체를 만들려면 다음과 같이 선언합니다.

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);MLKitVisionImage.java

이미지는 회전 각도와 함께 Bitmap 객체로 표현됩니다.

이미지 처리

이미지를 process 메서드에 전달합니다.

Kotlin

val result = detector.process(image)
        .addOnSuccessListener { result ->
            // Task completed successfully
            // …
        }
        .addOnFailureListener { e ->
            // Task failed with an exception
            // …
        }

Java


Task<List<FaceMesh>> result = detector.process(image)
        .addOnSuccessListener(
                new OnSuccessListener<List<FaceMesh>>() {
                    @Override
                    public void onSuccess(List<FaceMesh> result) {
                        // Task completed successfully
                        // …
                    }
                })
        .addOnFailureListener(
                new OnFailureListener() {
                    @Override
                    Public void onFailure(Exception e) {
                        // Task failed with an exception
                        // …
                    }
                });

감지된 얼굴 메시에 관한 정보 가져오기

이미지에서 얼굴이 감지되면 FaceMesh 객체의 목록이 성공 리스너에 전달됩니다. 각 FaceMesh는 이미지에서 인식된 얼굴을 나타냅니다. 각 얼굴 메시에 대해 입력 이미지의 경계 좌표 및 얼굴 메시 감지기가 찾도록 구성한 기타 정보를 가져올 수 있습니다.

Kotlin

for (faceMesh in faceMeshs) {
    val bounds: Rect = faceMesh.boundingBox()

    // Gets all points
    val faceMeshpoints = faceMesh.allPoints
    for (faceMeshpoint in faceMeshpoints) {
      val index: Int = faceMeshpoints.index()
      val position = faceMeshpoint.position
    }

    // Gets triangle info
    val triangles: List<Triangle<FaceMeshPoint>> = faceMesh.allTriangles
    for (triangle in triangles) {
      // 3 Points connecting to each other and representing a triangle area.
      val connectedPoints = triangle.allPoints()
    }
}

Java

for (FaceMesh faceMesh : faceMeshs) {
    Rect bounds = faceMesh.getBoundingBox();

    // Gets all points
    List<FaceMeshPoint> faceMeshpoints = faceMesh.getAllPoints();
    for (FaceMeshPoint faceMeshpoint : faceMeshpoints) {
        int index = faceMeshpoints.getIndex();
        PointF3D position = faceMeshpoint.getPosition();
    }

    // Gets triangle info
    List<Triangle<FaceMeshPoint>> triangles = faceMesh.getAllTriangles();
    for (Triangle<FaceMeshPoint> triangle : triangles) {
        // 3 Points connecting to each other and representing a triangle area.
        List<FaceMeshPoint> connectedPoints = triangle.getAllPoints();
    }
}

Android에서 ML Kit를 사용하여 얼굴 메시 정보 감지

사용해 보기

시작하기 전에

입력 이미지 가이드라인

얼굴 메시 감지기 구성

Kotlin

Java

입력 이미지 준비

media.Image 사용

Kotlin

Java

Kotlin

Java

Kotlin

Java

파일 URI 사용

Kotlin

Java

ByteBuffer 또는 ByteArray 사용

Kotlin

Java

Bitmap 사용

Kotlin

Java

이미지 처리

Kotlin

Java

감지된 얼굴 메시에 관한 정보 가져오기

Kotlin

Java

`media.Image` 사용

`ByteBuffer` 또는 `ByteArray` 사용

`Bitmap` 사용