Bạn có thể dùng Bộ công cụ học máy để phát hiện khuôn mặt trong hình ảnh và video.
Dùng thử
- Hãy thử dùng ứng dụng mẫu để xem ví dụ về cách sử dụng API này.
- Hãy tự mình thử lập trình qua lớp học lập trình.
Trước khi bắt đầu
- Đưa các nhóm Bộ công cụ học máy sau đây vào Podfile của bạn:
pod 'GoogleMLKit/FaceDetection', '3.2.0'
- Sau khi cài đặt hoặc cập nhật Nhóm của dự án, hãy mở dự án Xcode của bạn bằng
.xcworkspace
của dự án. Bộ công cụ học máy được hỗ trợ trong Xcode phiên bản 12.4 trở lên.
Nguyên tắc về hình ảnh đầu vào
Để nhận dạng khuôn mặt, bạn nên sử dụng hình ảnh có kích thước tối thiểu là 480x360 pixel. Để Bộ công cụ học máy phát hiện chính xác khuôn mặt, hình ảnh đầu vào phải chứa khuôn mặt được biểu thị bằng đủ dữ liệu pixel. Nhìn chung, mỗi khuôn mặt mà bạn muốn phát hiện trong một hình ảnh phải có kích thước tối thiểu là 100x100 pixel. Nếu bạn muốn phát hiện đường viền của khuôn mặt, Bộ công cụ học máy yêu cầu dữ liệu đầu vào có độ phân giải cao hơn: mỗi khuôn mặt phải có kích thước tối thiểu là 200x200 pixel.
Nếu phát hiện khuôn mặt trong một ứng dụng theo thời gian thực, bạn cũng nên xem xét kích thước tổng thể của hình ảnh đầu vào. Hình ảnh nhỏ hơn có thể được xử lý nhanh hơn. Vì vậy, để giảm độ trễ, hãy chụp ảnh ở độ phân giải thấp hơn. Tuy nhiên, hãy lưu ý những yêu cầu về độ chính xác nêu trên và đảm bảo rằng khuôn mặt của đối tượng chiếm nhiều hình ảnh nhất có thể. Ngoài ra, hãy xem các mẹo cải thiện hiệu suất theo thời gian thực.
Hình ảnh lấy nét kém cũng có thể ảnh hưởng đến độ chính xác. Nếu kết quả không nhận được là chấp nhận được, hãy yêu cầu người dùng chụp lại hình ảnh.
Hướng của khuôn mặt so với máy ảnh cũng có thể ảnh hưởng đến những tính năng mà Bộ công cụ học máy phát hiện được. Xem bài viết Khái niệm về tính năng phát hiện khuôn mặt.
1. Định cấu hình trình phát hiện khuôn mặt
Trước khi áp dụng tính năng phát hiện khuôn mặt cho một hình ảnh, nếu bạn muốn thay đổi bất kỳ chế độ cài đặt mặc định nào của trình phát hiện khuôn mặt, hãy chỉ định các chế độ cài đặt đó bằng một đối tượngFaceDetectorOptions
. Bạn có thể thay đổi các chế độ cài đặt sau:
Cài đặt | |
---|---|
performanceMode |
fast (mặc định) | accurate
Ưu tiên tốc độ hoặc độ chính xác khi phát hiện khuôn mặt. |
landmarkMode |
none (mặc định) | all
Liệu có cố gắng phát hiện "các dấu hiệu" trên khuôn mặt (mắt, tai, mũi, má, miệng) hay không trong tất cả các khuôn mặt đã phát hiện. |
contourMode |
none (mặc định) | all
Phát hiện các đường nét của các đặc điểm trên khuôn mặt hay không. Đường viền chỉ được phát hiện cho khuôn mặt nổi bật nhất trong một hình ảnh. |
classificationMode |
none (mặc định) | all
Có nên phân loại khuôn mặt thành các danh mục như "mắt cười" và "mở mắt" hay không. |
minFaceSize |
CGFloat (mặc định: 0.1 )
Đặt kích thước khuôn mặt nhỏ nhất mà bạn mong muốn, biểu thị bằng tỷ lệ chiều rộng của phần đầu so với chiều rộng của hình ảnh. |
isTrackingEnabled |
false (mặc định) | true
Liệu có nên gán mã nhận dạng khuôn mặt để theo dõi khuôn mặt trên các hình ảnh hay không. Xin lưu ý rằng khi bật tính năng phát hiện đường viền, hệ thống chỉ phát hiện một khuôn mặt. Do đó, tính năng theo dõi khuôn mặt không cho ra kết quả hữu ích. Vì lý do này và để cải thiện tốc độ phát hiện, bạn không nên bật cả tính năng phát hiện đường viền và theo dõi khuôn mặt. |
Chẳng hạn, tạo đối tượng FaceDetectorOptions
như một trong các ví dụ sau:
Swift
// High-accuracy landmark detection and face classification let options = FaceDetectorOptions() options.performanceMode = .accurate options.landmarkMode = .all options.classificationMode = .all // Real-time contour detection of multiple faces // options.contourMode = .all
Objective-C
// High-accuracy landmark detection and face classification MLKFaceDetectorOptions *options = [[MLKFaceDetectorOptions alloc] init]; options.performanceMode = MLKFaceDetectorPerformanceModeAccurate; options.landmarkMode = MLKFaceDetectorLandmarkModeAll; options.classificationMode = MLKFaceDetectorClassificationModeAll; // Real-time contour detection of multiple faces // options.contourMode = MLKFaceDetectorContourModeAll;
2. Chuẩn bị hình ảnh đầu vào
Để phát hiện khuôn mặt trong một hình ảnh, hãy chuyển hình ảnh dưới dạngUIImage
hoặc CMSampleBufferRef
đến FaceDetector
bằng phương thức process(_:completion:)
hoặc results(in:)
:
Tạo đối tượng VisionImage
bằng UIImage
hoặc CMSampleBuffer
.
Nếu bạn sử dụng UIImage
, hãy làm theo các bước sau:
- Tạo đối tượng
VisionImage
bằngUIImage
. Hãy nhớ chỉ định đúng.orientation
.Swift
let image = VisionImage(image: UIImage) visionImage.orientation = image.imageOrientation
Objective-C
MLKVisionImage *visionImage = [[MLKVisionImage alloc] initWithImage:image]; visionImage.orientation = image.imageOrientation;
Nếu bạn sử dụng CMSampleBuffer
, hãy làm theo các bước sau:
-
Chỉ định hướng của dữ liệu hình ảnh có trong
CMSampleBuffer
.Cách tải hướng của hình ảnh:
Swift
func imageOrientation( deviceOrientation: UIDeviceOrientation, cameraPosition: AVCaptureDevice.Position ) -> UIImage.Orientation { switch deviceOrientation { case .portrait: return cameraPosition == .front ? .leftMirrored : .right case .landscapeLeft: return cameraPosition == .front ? .downMirrored : .up case .portraitUpsideDown: return cameraPosition == .front ? .rightMirrored : .left case .landscapeRight: return cameraPosition == .front ? .upMirrored : .down case .faceDown, .faceUp, .unknown: return .up } }
Objective-C
- (UIImageOrientation) imageOrientationFromDeviceOrientation:(UIDeviceOrientation)deviceOrientation cameraPosition:(AVCaptureDevicePosition)cameraPosition { switch (deviceOrientation) { case UIDeviceOrientationPortrait: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationLeftMirrored : UIImageOrientationRight; case UIDeviceOrientationLandscapeLeft: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationDownMirrored : UIImageOrientationUp; case UIDeviceOrientationPortraitUpsideDown: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationRightMirrored : UIImageOrientationLeft; case UIDeviceOrientationLandscapeRight: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationUpMirrored : UIImageOrientationDown; case UIDeviceOrientationUnknown: case UIDeviceOrientationFaceUp: case UIDeviceOrientationFaceDown: return UIImageOrientationUp; } }
- Tạo đối tượng
VisionImage
bằng cách sử dụng đối tượng và hướngCMSampleBuffer
:Swift
let image = VisionImage(buffer: sampleBuffer) image.orientation = imageOrientation( deviceOrientation: UIDevice.current.orientation, cameraPosition: cameraPosition)
Objective-C
MLKVisionImage *image = [[MLKVisionImage alloc] initWithBuffer:sampleBuffer]; image.orientation = [self imageOrientationFromDeviceOrientation:UIDevice.currentDevice.orientation cameraPosition:cameraPosition];
3. Nhận thực thể của FaceDetector
Tạo một thực thể của FaceDetector
:
Swift
let faceDetector = FaceDetector.faceDetector(options: options)
Objective-C
MLKFaceDetector *faceDetector = [MLKFaceDetector faceDetectorWithOptions:options];
4. Xử lý hình ảnh
Sau đó, truyền hình ảnh này vào phương thứcprocess()
:
Swift
weak var weakSelf = self faceDetector.process(visionImage) { faces, error in guard let strongSelf = weakSelf else { print("Self is nil!") return } guard error == nil, let faces = faces, !faces.isEmpty else { // ... return } // Faces detected // ... }
Objective-C
[faceDetector processImage:image completion:^(NSArray<MLKFace *> *faces, NSError *error) { if (error != nil) { return; } if (faces.count > 0) { // Recognized faces } }];
5. Xem thông tin về các khuôn mặt được phát hiện
Nếu thao tác phát hiện khuôn mặt thành công, thì trình phát hiện khuôn mặt sẽ chuyển một loạt các đối tượngFace
đến trình xử lý hoàn thành. Mỗi đối tượng Face
đại diện cho một khuôn mặt được phát hiện trong hình ảnh. Đối với mỗi khuôn mặt, bạn có thể lấy toạ độ giới hạn trong hình ảnh đầu vào, cũng như mọi thông tin khác mà bạn đã định cấu hình trình phát hiện khuôn mặt để tìm. Ví dụ:
Swift
for face in faces { let frame = face.frame if face.hasHeadEulerAngleX { let rotX = face.headEulerAngleX // Head is rotated to the uptoward rotX degrees } if face.hasHeadEulerAngleY { let rotY = face.headEulerAngleY // Head is rotated to the right rotY degrees } if face.hasHeadEulerAngleZ { let rotZ = face.headEulerAngleZ // Head is tilted sideways rotZ degrees } // If landmark detection was enabled (mouth, ears, eyes, cheeks, and // nose available): if let leftEye = face.landmark(ofType: .leftEye) { let leftEyePosition = leftEye.position } // If contour detection was enabled: if let leftEyeContour = face.contour(ofType: .leftEye) { let leftEyePoints = leftEyeContour.points } if let upperLipBottomContour = face.contour(ofType: .upperLipBottom) { let upperLipBottomPoints = upperLipBottomContour.points } // If classification was enabled: if face.hasSmilingProbability { let smileProb = face.smilingProbability } if face.hasRightEyeOpenProbability { let rightEyeOpenProb = face.rightEyeOpenProbability } // If face tracking was enabled: if face.hasTrackingID { let trackingId = face.trackingID } }
Objective-C
for (MLKFace *face in faces) { // Boundaries of face in image CGRect frame = face.frame; if (face.hasHeadEulerAngleX) { CGFloat rotX = face.headEulerAngleX; // Head is rotated to the upward rotX degrees } if (face.hasHeadEulerAngleY) { CGFloat rotY = face.headEulerAngleY; // Head is rotated to the right rotY degrees } if (face.hasHeadEulerAngleZ) { CGFloat rotZ = face.headEulerAngleZ; // Head is tilted sideways rotZ degrees } // If landmark detection was enabled (mouth, ears, eyes, cheeks, and // nose available): MLKFaceLandmark *leftEar = [face landmarkOfType:FIRFaceLandmarkTypeLeftEar]; if (leftEar != nil) { MLKVisionPoint *leftEarPosition = leftEar.position; } // If contour detection was enabled: MLKFaceContour *upperLipBottomContour = [face contourOfType:FIRFaceContourTypeUpperLipBottom]; if (upperLipBottomContour != nil) { NSArray<MLKVisionPoint *> *upperLipBottomPoints = upperLipBottomContour.points; if (upperLipBottomPoints.count > 0) { NSLog("Detected the bottom contour of the subject's upper lip.") } } // If classification was enabled: if (face.hasSmilingProbability) { CGFloat smileProb = face.smilingProbability; } if (face.hasRightEyeOpenProbability) { CGFloat rightEyeOpenProb = face.rightEyeOpenProbability; } // If face tracking was enabled: if (face.hasTrackingID) { NSInteger trackingID = face.trackingID; } }
Ví dụ về đường viền khuôn mặt
Khi bật tính năng phát hiện đường viền khuôn mặt, bạn sẽ nhận được danh sách các điểm cho từng đặc điểm khuôn mặt đã được phát hiện. Các điểm này thể hiện hình dạng của đối tượng. Xem bài viết Khái niệm phát hiện khuôn mặt để biết thông tin chi tiết về cách thể hiện đường viền.
Hình ảnh sau đây minh hoạ cách những điểm này ánh xạ đến một khuôn mặt, hãy nhấp vào hình ảnh để phóng to:
Phát hiện khuôn mặt theo thời gian thực
Nếu bạn muốn dùng tính năng phát hiện khuôn mặt trong ứng dụng theo thời gian thực, hãy làm theo các nguyên tắc sau để đạt được tốc độ khung hình tốt nhất:
Định cấu hình trình phát hiện khuôn mặt để sử dụng tính năng phát hiện hoặc phân loại đường viền khuôn mặt và phát hiện điểm mốc, nhưng không được sử dụng cả hai:
Phát hiện đường viền
Phát hiện địa danh
Phân loại
Phát hiện và phân loại địa danh
Phát hiện và phát hiện đường viền
Phát hiện và phân loại đường viền
Phát hiện đường viền, phát hiện và phân loại địa danhBật chế độ
fast
(bật theo mặc định).Hãy cân nhắc chụp ảnh ở độ phân giải thấp hơn. Tuy nhiên, cũng xin lưu ý các yêu cầu về kích thước hình ảnh của API này.
- Để xử lý khung video, hãy sử dụng API đồng bộ
results(in:)
của trình phát hiện. Hãy gọi phương thức này từ hàmcaptureOutput(_, didOutput:from:)
củaAVCaptureVideoDataOutputSampleBufferDelegate
để nhận kết quả đồng bộ từ khung hình video đã cho. GiữalwaysDiscardsLateVideoFrames
củaAVCaptureVideoDataOutput
ở dạngtrue
để điều tiết lệnh gọi đến trình phát hiện. Nếu có một khung hình video mới trong khi trình phát hiện đang chạy, thì khung hình đó sẽ bị loại bỏ. - Nếu bạn sử dụng đầu ra của trình phát hiện để phủ đồ hoạ lên hình ảnh đầu vào, trước tiên, hãy lấy kết quả từ Bộ công cụ học máy, sau đó kết xuất hình ảnh và lớp phủ chỉ qua một bước. Bằng cách này, bạn chỉ kết xuất trên giao diện màn hình một lần cho mỗi khung đầu vào được xử lý. Hãy xem ví dụ về updatePreviewOverlayViewWithLastFrame trong mẫu bắt đầu nhanh của Bộ công cụ học máy.