שליחת בקשות בהתאמה אישית עם גישה ישירה למודל Gemini Nano

עם גישה ישירה למודל של ML Kit (com.google.mlkit:genai-prompt), אתם יכולים לשלוח בקשות מותאמות אישית בשפה טבעית במכשיר למודל הבסיס Gemini Nano דרך המחלקה GenerativeModel. גישה ישירה למודל מקבלת קלט של טקסט או קלט מולטי-מודאלי (תמונה וטקסט), תומכת בשיחות עם תגובות עוקבות בניהול הלקוח (List<Content> עם התפקידים USER ו-MODEL ו-sessionId), ופולטת פלט של טקסט או פלט מובנה עם סוג.

אפשר להשתמש בגישה ישירה למודל במגוון תרחישים לדוגמה, כולל:

תרחיש לדוגמה

דוגמה

הבנת תמונות

ניתוח תמונות לצורך סיווג, למשל "חיות מחמד", "אוכל" או "נסיעות".

תרגומים קצרים

תרגום הודעות קצרות בין נהג משלוחים ללקוח.

סיכום מודרך

סיכום ביקורות על מסעדה על סמך תחום עניין ספציפי של המשתמש.

חילוץ ישויות

חילוץ פרטים חשובים על אירוע קרוב משרשור אימיילים.

השראה ליצירת תוכן

הצעת הנחיות לדף ביומן האישי.

סריקת מסמכים חכמה

חילוץ פריטים מתמונה של קבלה וסיווג שלהם.

סיווג הטקסט

סיווג ביקורות של לקוחות לקטגוריות של ביקורות חיוביות, ניטרליות או שליליות.

גישה ישירה למודל לעומת ממשקי API ספציפיים למשימות

בנוסף לגישה ישירה למודל הבסיס Gemini Nano להנחיות בהתאמה אישית, ערכת ML Kit מספקת ממשקי API מוגדרים מראש למשימות ייעודיות של דיבור, תמונה וטקסט: זיהוי דיבור, תיאור תמונה, סיכום, הגהה, כתיבה מחדש ועוד. ממשקי ה-Tasks API של טקסט ותמונות משתמשים בסוגי תכונות ספציפיים למשימה ובמתאמי LoRA שעברו כוונון מעל המודל הבסיסי המשותף. בטבלה הבאה מפורטים היתרונות של כל גישה:

התעניינות ברכישה

גישה ישירה למודל (GenerativeModel)

ממשקי Tasks API לטקסט ותמונה

משך השילוב

גבוהה.

דורש יותר מאמץ בהטמעה, בגלל הנדסת פרומפטים ובקרת איכות.

נמוכה.

דורש פחות מאמץ, כי ממשקי ה-API האלה משתמשים בסוגי תכונות ספציפיים למשימה ובמתאמי LoRA שעברו כוונון מעל המודל הבסיסי. אין צורך לעבוד ישירות עם ה-LLM.

גמישות

יותר גמישות, כי אתם יכולים להתאים אישית הנחיות, לנהל הקשרים בכמה שלבים, לאכוף סכימות מובנות או ליצור תהליכי עבודה מבוססי-סוכנים (AgentRunner) ברמה גבוהה יותר על גבי GenerativeModel.

פחות גמישות. לכל API ספציפי למשימה יש כוונון עדין קבוע של LoRA והנחיה מובנית עם המאפיינים הבאים:

  • תיאור התמונה כללי וקצר.
  • הסיכומים יכולים להיות רק ב-1 עד 3 נקודות.
  • אפשר לשכתב רק בסגנונות מוגדרים מראש.

ככלל, כדאי להשתמש בגישה ישירה למודל כשצריך יותר התאמה אישית וגמישות, ולהשתמש בממשקי API ספציפיים למשימות רגילות שלא דורשות לוגיקה מותאמת אישית.

קוד לדוגמה