ממשקי ה-API של ה-AI הגנרטיבי ב-ML Kit מנצלים את העוצמה של Gemini Nano כדי לעזור לאפליקציות לבצע משימות. ממשקי ה-API האלה מספקים איכות מוכנה לשימוש בתרחישי שימוש פופולריים באמצעות ממשק ברמה גבוהה. ממשקי ה-API של ML Kit ל-AI גנרטיבי מבוססים על AICore, שירות מערכת של Android שמאפשר להריץ במכשיר מודלים בסיסיים של AI גנרטיבי כדי לאפשר תכונות כמו פונקציונליות משופרת של האפליקציה ושיפור פרטיות המשתמשים על ידי עיבוד נתונים באופן מקומי.
ממשקי ה-API של ML Kit ל-GenAI תומכים בתכונות הבאות:
- סיכום: סיכום של מאמרים או שיחות בצ'אט כרשימת נקודות.
- הגהה: משפרים תוכן קצר על ידי שיפור הדקדוק ותיקון שגיאות איות.
- כתיבה מחדש: שכתוב של הודעות קצרות בסגנונות או בגוונים שונים.
- תיאור תמונה: יצירת תיאור קצר של תמונה נתונה.
היתרונות של ממשקי GenAI API
בדומה לתכונות קיימות אחרות של ML Kit, ממשקי ה-API של GenAI פועלים במלואם במכשיר, ולכן הם מספקים את היתרונות הבאים:
- עיבוד מקומי של נתוני הקלט, ההסקה והפלט
- הפונקציונליות נשארת זהה גם בלי חיבור לאינטרנט מהימן
- אין עלות נוספת לשרת לכל קריאה ל-API
בנוסף, מאחר שממשקי GenAI API מבוססים על AICore ומבוססים על Gemini Nano, כל אפליקציה יכולה להשתמש במודל Gemini Nano המשותף שנמצא במכשיר. כך לא תצטרכו להמתין להורדת מודל אם הוא כבר קיים במכשיר, וכך תוכלו לחסוך במקום אחסון. מידע נוסף על האופן שבו AICore מבודד בקשות כדי להגן על הפרטיות
סטרימינג לעומת מודעות ללא סטרימינג
ממשקי ה-API של ML Kit GenAI מציעים אפשרויות לקבלת תוצאות גם בסטרימינג וגם ללא סטרימינג. ה-API לסטרימינג מעביר תשובות באופן מצטבר כשהן נוצרות, ומספק זרימה רציפה של נתונים. לעומת זאת, ה-API ללא סטרימינג ממתין עד שהתגובה כולה תושלם לפני שהוא מחזיר אותה כבלוק יחיד.
כדאי לבחור ב-Streaming API לתשובות ארוכות, כי הוא מאפשר לקבל משוב ראשוני מהר יותר. ה-API ללא סטרימינג מתאים יותר לתשובות קצרות או לעיבוד תוצאות בקבוצות.
תמיכה במכשיר
ממשקי ה-API של ML Kit GenAI זמינים במכשירים הבאים, ואנחנו מתכננים להרחיב את התמיכה למכשירים נוספים:
- Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Magic 7 Pro, Magic 7
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15
הזמינות של תמיכה בשפות ספציפיות עשויה להשתנות בהתאם לתצורה של המכשיר הספציפי ולמודלים שהורדתם למכשיר.
מכסה לכל אפליקציה
AICore אוכף מכסה של הסקת מסקנות לכל אפליקציה. כלומר, שליחת יותר מדי בקשות ל-GenAI API בפרק זמן קצר תוביל לתגובה מסוג ErrorCode.BUSY. אם מופיעה שגיאה כזו, מומלץ להשתמש בהשהיה מעריכית לפני ניסיון חוזר (exponential backoff) כדי לנסות שוב את הבקשה.
שימוש ברקע
ניתן להשתמש בהסקת GenAI API רק כשהאפליקציה היא האפליקציה העליונה בחזית. שימוש ב-API כשהאפליקציה לא בחזית, כולל שימוש בשירות שפועל בחזית, יוביל לתגובה ErrorCode.BUSY בגלל שאין כרגע מכסה לשימוש ברקע.
קוד לדוגמה
כדי לקבל את הקוד הזה, אפשר לעיין בדוגמאות הבאות: