您可以使用 ML Kit 辨識圖片或影片中的文字，例如路標文字。這項功能的主要特性如下：
| 文字辨識 v2 API | |
|---|---|
| 說明 | 辨識圖片或影片中的文字，支援拉丁文、中文、梵文、日文和韓文字集，以及多種語言。 |
| SDK 名稱 | GoogleMLKit/TextRecognition |
| 導入作業 | 在建構期間，資產會以靜態方式連結至應用程式 |
| 應用程式大小影響 | 每個指令碼 SDK 約 38 MB |
| 效能 | 多數裝置都能即時支援 Latin Script SDK，其他裝置則顯示的速度較慢。 |
馬上試試
事前準備
- 在 Podfile 中加入下列 ML Kit Pod：
# To recognize Latin script pod 'GoogleMLKit/TextRecognition', '3.2.0' # To recognize Chinese script pod 'GoogleMLKit/TextRecognitionChinese', '3.2.0' # To recognize Devanagari script pod 'GoogleMLKit/TextRecognitionDevanagari', '3.2.0' # To recognize Japanese script pod 'GoogleMLKit/TextRecognitionJapanese', '3.2.0' # To recognize Korean script pod 'GoogleMLKit/TextRecognitionKorean', '3.2.0'
- 安裝或更新專案的 Pod 後，請使用
.xcworkspace開啟 Xcode 專案，Xcode 12.4 以上版本支援 ML Kit。
1. 建立「TextRecognizer」的執行個體
呼叫 +textRecognizer(options:) 以建立 TextRecognizer 例項，並傳遞您在上方宣告為依附元件的 SDK 相關選項：
Swift
// When using Latin script recognition SDK let latinOptions = TextRecognizerOptions() let latinTextRecognizer = TextRecognizer.textRecognizer(options:options) // When using Chinese script recognition SDK let chineseOptions = ChineseTextRecognizerOptions() let chineseTextRecognizer = TextRecognizer.textRecognizer(options:options) // When using Devanagari script recognition SDK let devanagariOptions = DevanagariTextRecognizerOptions() let devanagariTextRecognizer = TextRecognizer.textRecognizer(options:options) // When using Japanese script recognition SDK let japaneseOptions = JapaneseTextRecognizerOptions() let japaneseTextRecognizer = TextRecognizer.textRecognizer(options:options) // When using Korean script recognition SDK let koreanOptions = KoreanTextRecognizerOptions() let koreanTextRecognizer = TextRecognizer.textRecognizer(options:options)
Objective-C
// When using Latin script recognition SDK MLKTextRecognizerOptions *latinOptions = [[MLKTextRecognizerOptions alloc] init]; MLKTextRecognizer *latinTextRecognizer = [MLKTextRecognizer textRecognizerWithOptions:options]; // When using Chinese script recognition SDK MLKChineseTextRecognizerOptions *chineseOptions = [[MLKChineseTextRecognizerOptions alloc] init]; MLKTextRecognizer *chineseTextRecognizer = [MLKTextRecognizer textRecognizerWithOptions:options]; // When using Devanagari script recognition SDK MLKDevanagariTextRecognizerOptions *devanagariOptions = [[MLKDevanagariTextRecognizerOptions alloc] init]; MLKTextRecognizer *devanagariTextRecognizer = [MLKTextRecognizer textRecognizerWithOptions:options]; // When using Japanese script recognition SDK MLKJapaneseTextRecognizerOptions *japaneseOptions = [[MLKJapaneseTextRecognizerOptions alloc] init]; MLKTextRecognizer *japaneseTextRecognizer = [MLKTextRecognizer textRecognizerWithOptions:options]; // When using Korean script recognition SDK MLKKoreanTextRecognizerOptions *koreanOptions = [[MLKKoreanTextRecognizerOptions alloc] init]; MLKTextRecognizer *koreanTextRecognizer = [MLKTextRecognizer textRecognizerWithOptions:options];
2. 準備輸入圖片
將圖片做為UIImage 或 CMSampleBufferRef 傳遞至 TextRecognizer 的 process(_:completion:) 方法：使用 UIImage 或 CMSampleBuffer 建立 VisionImage 物件。
如果您使用 UIImage，請按照下列步驟操作：
- 使用
UIImage建立VisionImage物件。請務必指定正確的.orientation。Swift
let image = VisionImage(image: UIImage) visionImage.orientation = image.imageOrientation
Objective-C
MLKVisionImage *visionImage = [[MLKVisionImage alloc] initWithImage:image]; visionImage.orientation = image.imageOrientation;
如果您使用 CMSampleBuffer，請按照下列步驟操作：
-
指定
CMSampleBuffer中圖片資料的方向。如何取得圖片方向：
Swift
func imageOrientation( deviceOrientation: UIDeviceOrientation, cameraPosition: AVCaptureDevice.Position ) -> UIImage.Orientation { switch deviceOrientation { case .portrait: return cameraPosition == .front ? .leftMirrored : .right case .landscapeLeft: return cameraPosition == .front ? .downMirrored : .up case .portraitUpsideDown: return cameraPosition == .front ? .rightMirrored : .left case .landscapeRight: return cameraPosition == .front ? .upMirrored : .down case .faceDown, .faceUp, .unknown: return .up } }Objective-C
- (UIImageOrientation) imageOrientationFromDeviceOrientation:(UIDeviceOrientation)deviceOrientation cameraPosition:(AVCaptureDevicePosition)cameraPosition { switch (deviceOrientation) { case UIDeviceOrientationPortrait: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationLeftMirrored : UIImageOrientationRight; case UIDeviceOrientationLandscapeLeft: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationDownMirrored : UIImageOrientationUp; case UIDeviceOrientationPortraitUpsideDown: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationRightMirrored : UIImageOrientationLeft; case UIDeviceOrientationLandscapeRight: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationUpMirrored : UIImageOrientationDown; case UIDeviceOrientationUnknown: case UIDeviceOrientationFaceUp: case UIDeviceOrientationFaceDown: return UIImageOrientationUp; } } - 使用
CMSampleBuffer物件和方向建立VisionImage物件：Swift
let image = VisionImage(buffer: sampleBuffer) image.orientation = imageOrientation( deviceOrientation: UIDevice.current.orientation, cameraPosition: cameraPosition)
Objective-C
MLKVisionImage *image = [[MLKVisionImage alloc] initWithBuffer:sampleBuffer]; image.orientation = [self imageOrientationFromDeviceOrientation:UIDevice.currentDevice.orientation cameraPosition:cameraPosition];
3. 處理圖片
接著，將圖片傳遞至 process(_:completion:) 方法：
Swift
textRecognizer.process(visionImage) { result, error in
guard error == nil, let result = result else {
// Error handling
return
}
// Recognized text
}
Objective-C
[textRecognizer processImage:image
completion:^(MLKText *_Nullable result,
NSError *_Nullable error) {
if (error != nil || result == nil) {
// Error handling
return;
}
// Recognized text
}];
4. 從已辨識的文字區塊擷取文字
如果文字辨識作業成功，會傳回 Text 物件。Text 物件包含圖片中可辨識的全文，以及零個或多個 TextBlock 物件。
每個 TextBlock 都代表矩形文字區塊，其中包含零或多個 TextLine 物件。每個 TextLine 物件都含有零或多個 TextElement 物件，這些物件代表字詞和類似文字的實體，例如日期和數字。
針對每個 TextBlock、TextLine 和 TextElement 物件，您可以取得系統辨識該區域的文字和該區域的定界座標。
例如：
Swift
let resultText = result.text
for block in result.blocks {
let blockText = block.text
let blockLanguages = block.recognizedLanguages
let blockCornerPoints = block.cornerPoints
let blockFrame = block.frame
for line in block.lines {
let lineText = line.text
let lineLanguages = line.recognizedLanguages
let lineCornerPoints = line.cornerPoints
let lineFrame = line.frame
for element in line.elements {
let elementText = element.text
let elementCornerPoints = element.cornerPoints
let elementFrame = element.frame
}
}
}
Objective-C
NSString *resultText = result.text;
for (MLKTextBlock *block in result.blocks) {
NSString *blockText = block.text;
NSArray<MLKTextRecognizedLanguage *> *blockLanguages = block.recognizedLanguages;
NSArray<NSValue *> *blockCornerPoints = block.cornerPoints;
CGRect blockFrame = block.frame;
for (MLKTextLine *line in block.lines) {
NSString *lineText = line.text;
NSArray<MLKTextRecognizedLanguage *> *lineLanguages = line.recognizedLanguages;
NSArray<NSValue *> *lineCornerPoints = line.cornerPoints;
CGRect lineFrame = line.frame;
for (MLKTextElement *element in line.elements) {
NSString *elementText = element.text;
NSArray<NSValue *> *elementCornerPoints = element.cornerPoints;
CGRect elementFrame = element.frame;
}
}
}
輸入圖片規範
-
為了讓 ML Kit 準確辨識文字，輸入圖片必須包含以充足的像素資料表示的文字。理想情況下，每個字元至少要有 16 x 16 像素。大於 24 x 24 像素的字元通常無法發揮準確效果。
舉例來說，640x480 的圖片可能適合掃描佔圖片整個寬度的名片，如要掃描印在正大尺寸紙上的文件，可能需要使用 720 x 1280 像素的圖片。
-
圖片焦點不佳可能會影響文字辨識的準確度。如果您仍未取得可接受的結果，請嘗試要求使用者重新拍攝圖片。
-
如果您在即時應用程式中辨識文字，則應考量輸入圖片的整體尺寸。較小的圖片可加快處理速度。如要縮短延遲時間，請確保文字盡可能佔用圖片空間，並以較低的解析度擷取圖片 (請注意上述準確率規定)。詳情請參閱「效能改善提示」。
提升成效的訣竅
- 如要處理影片影格，請使用偵測工具的
results(in:)同步 API。從AVCaptureVideoDataOutputSampleBufferDelegate的captureOutput(_, didOutput:from:)函式呼叫這個方法，以同步方式取得指定影片影格的結果。保留AVCaptureVideoDataOutput的alwaysDiscardsLateVideoFrames做為true，以限制對偵測工具的呼叫。如果在偵測工具執行期間有新的影片影格可供使用，系統會捨棄影片影格。 - 如果使用偵測工具的輸出內容在輸入圖片上重疊圖像，請先從 ML Kit 取得結果，然後透過一個步驟算繪圖片和疊加層。如此一來，每個已處理的輸入影格就只算繪一次到顯示途徑一次。如需範例，請參閱 ML Kit 快速入門導覽課程範例中的 updatePreviewOverlayViewWithLastFrame。
- 建議以較低的解析度拍攝圖片。不過，也請注意這個 API 的圖片尺寸規定。
- 為了避免可能降低效能，請勿同時以不同指令碼選項執行多個
TextRecognizer執行個體。