עם גישה ישירה למודל של ML Kit (com.google.mlkit:genai-prompt), אתם יכולים לשלוח בקשות מותאמות אישית בשפה טבעית במכשיר למודל הבסיס Gemini Nano דרך המחלקה GenerativeModel. גישה ישירה למודל מקבלת קלט של טקסט או קלט מולטי-מודאלי (תמונה וטקסט), תומכת בשיחות עם תגובות עוקבות בניהול הלקוח (List<Content> עם התפקידים USER ו-MODEL ו-sessionId), ופולטת פלט של טקסט או פלט מובנה עם סוג.
אפשר להשתמש בגישה ישירה למודל במגוון תרחישים לדוגמה, כולל:
תרחיש לדוגמה |
דוגמה |
הבנת תמונות |
ניתוח תמונות לצורך סיווג, למשל "חיות מחמד", "אוכל" או "נסיעות". |
תרגומים קצרים |
תרגום הודעות קצרות בין נהג משלוחים ללקוח. |
סיכום מודרך |
סיכום ביקורות על מסעדה על סמך תחום עניין ספציפי של המשתמש. |
חילוץ ישויות |
חילוץ פרטים חשובים על אירוע קרוב משרשור אימיילים. |
השראה ליצירת תוכן |
הצעת הנחיות לדף ביומן האישי. |
סריקת מסמכים חכמה |
חילוץ פריטים מתמונה של קבלה וסיווג שלהם. |
סיווג הטקסט |
סיווג ביקורות של לקוחות לקטגוריות של ביקורות חיוביות, ניטרליות או שליליות. |
גישה ישירה למודל לעומת ממשקי API ספציפיים למשימות
בנוסף לגישה ישירה למודל הבסיס Gemini Nano להנחיות בהתאמה אישית, ערכת ML Kit מספקת ממשקי API מוגדרים מראש למשימות ייעודיות של דיבור, תמונה וטקסט: זיהוי דיבור, תיאור תמונה, סיכום, הגהה, כתיבה מחדש ועוד. ממשקי ה-Tasks API של טקסט ותמונות משתמשים בסוגי תכונות ספציפיים למשימה ובמתאמי LoRA שעברו כוונון מעל המודל הבסיסי המשותף. בטבלה הבאה מפורטים היתרונות של כל גישה:
התעניינות ברכישה |
גישה ישירה למודל ( |
ממשקי Tasks API לטקסט ותמונה |
משך השילוב |
גבוהה. דורש יותר מאמץ בהטמעה, בגלל הנדסת פרומפטים ובקרת איכות. |
נמוכה. דורש פחות מאמץ, כי ממשקי ה-API האלה משתמשים בסוגי תכונות ספציפיים למשימה ובמתאמי LoRA שעברו כוונון מעל המודל הבסיסי. אין צורך לעבוד ישירות עם ה-LLM. |
גמישות |
יותר גמישות, כי אתם יכולים להתאים אישית הנחיות, לנהל הקשרים בכמה שלבים, לאכוף סכימות מובנות או ליצור תהליכי עבודה מבוססי-סוכנים ( |
פחות גמישות. לכל API ספציפי למשימה יש כוונון עדין קבוע של LoRA והנחיה מובנית עם המאפיינים הבאים:
|
ככלל, כדאי להשתמש בגישה ישירה למודל כשצריך יותר התאמה אישית וגמישות, ולהשתמש בממשקי API ספציפיים למשימות רגילות שלא דורשות לוגיקה מותאמת אישית.