הנדסת פרומפטים ל-AI גנרטיבי

הנדסת פרומפטים היא האומנות של שאילת השאלה הנכונה כדי לקבל הפלט הכי טוב ממודל שפה גדול. היא מאפשרת אינטראקציה ישירה עם ה-LLM באמצעות רק הנחיות בשפה פשוטה.

בעבר, כדי לעבוד עם מודלים של למידת מכונה, בדרך כלל נדרשו ידע במערכי נתונים, בנתונים סטטיסטיים ובטכניקות של בניית מודלים. כיום, מודלים גדולים של שפה יכולים להיות "מתוכנת" באנגלית וגם שפות אחרות.

כדי להיות מהנדס הנחיות מעולה לא נדרש ניסיון בתכנות. יצירתיות עם זאת, ההתמדה תועיל לכם מאוד במהלך המסע שלכם. המשך לקרוא כדי ללמוד כמה טכניקות ליצירת הנחיות מועילות.

שיטות מומלצות ליצירת הנחיות

  1. הציגו באופן ברור מהם התוכן או המידע החשובים ביותר.

  2. מבנה ההנחיה: מתחילים בהגדרת התפקיד, מספקים נתוני הקשר/קלט, ואז מספקים את ההוראה.

  3. להשתמש בדוגמאות ספציפיות ומגוונות כדי לעזור למודל לצמצם את המיקוד שלו וליצור לתוצאות מדויקות יותר.

  4. השתמשו באילוצים כדי להגביל את היקף הפלט של המודל. כך ניתן למנוע וכתוצאה מכך שהופך את ההוראות לאי-דיוקים עובדתיים.

  5. אתם יכולים לפצל משימות מורכבות לרצף של הנחיות פשוטות יותר.

  6. להנחות את המודל להעריך או לבדוק את התשובות שלו לפני שהוא יוצר אותם. ("הקפידו להגביל את התשובה ל-3 משפטים", "דירוג היצירה של 1 עד 10 לשם תמציתיות", "האם לדעתך זה נכון?").

ואולי הכי חשוב:

חשוב להיות יצירתיים! ככל שיהיו יותר יצירתיות עם ראש פתוח, כך התוצאות יהיו טובות יותר. מודלים גדולים של שפה (LLM) והנחיות עדיין בשלבי פיתוח ומתפתחים מדי יום.

סוגי הנחיות

הנחיות ישירות (zero-shot)

הנחיות ישירות (שנקראות גם Zero-shot) הן הנחיות מהסוג הפשוט ביותר. הוא לא מספקת דוגמאות למודל, אלא רק את ההוראה. אפשר גם לנסח את כשאלה, או מקצים למודל 'תפקיד', כפי שנראה לדוגמה.

מספקים:

  1. הוראות
  2. הקשר מסוים

יצירת רעיונות:

Prompt: Can you give me a list of ideas for blog posts for tourists visiting
New York City for the first time?

הנחיות לתפקידים:

Prompt: You are a mighty and powerful prompt-generating robot. You need to
understand my goals and objectives and then design a prompt. The prompt should
include all the relevant information context and data that was provided to you.
You must continue asking questions until you are confident that you can produce
the best prompt for the best outcome. Your final prompt must be optimized for
chat interactions. Start by asking me to describe my goal, then continue with
follow-up questions to design the best prompt.

ארגון הנתונים:

Prompt: Create a four-column spreadsheet of 10 highly-rated science fiction
movies, year of release, average audience rating, and top 3 keywords from
audience reviews.

Make sure to cite the source of the audience rating.

הנחיות עם דוגמאות (One-shot, multi-shot)

הנחיות מדוגמה אחת מציגות למודל דוגמה אחת ברורה ותיאורית שרוצים לחקות אותו.

יצירת רעיונות באמצעות דוגמה אחת:

Prompt:

Come up with a list of ideas for blog posts for tourists visiting
New York City for the first time.

1. Fuggedaboutit! Where to Stay in New York City On Your First Visit

בעזרת הנחיות מכמה דוגמאות ובכמה שוטים תוכלו לראות למודל עוד דוגמאות למה שרציתם. לבצע. הוא מתאים יותר למשימות מורכבות יותר שבהן דפוס נדרשת רפליקציה, או כשהפלט צריך להיות מובנה דרך ספציפית שקשה לתאר אותה.

סיווג סנטימנטים:

Prompt:

Great product, 10/10: Positive
Didn't work very well: Negative
Super helpful, worth it: Positive
It doesn't work!:

כשמריצים את ההנחיה, התשובה של המודל תהיה 'לא עבודה כחיובי או כשלילי, כפי שמוצג בדוגמאות.

חיזוי התגובה לאמוג'י עם צילומים מרובים:

Prompt: Predict up to 5 emojis as a response to a text chat message. The output
should only include emojis.

input: The new visual design is blowing my mind 🤯
output: ➕,💘, ❤‍🔥

input: Well that looks great regardless
output: ❤️,🪄

input: Unfortunately this won't work
output: 💔,😔

input: sounds good, I'll look into that
output: 🙏,👍

input: 10hr cut of jeff goldblum laughing URL
output: 😂,💀,⚰️

input: Woo! Launch time!

אותו תהליך כאן, אבל מכיוון שההנחיה מורכבת יותר, המודל נותנים עוד דוגמאות לאמולציה.

הנחיות בטכניקת שרשרת מחשבה

הנחיות לגבי שרשרת מחשבות (CoT) מעודדות את ה-LLM להסביר את ההיגיון שלו. אפשר לשלב את התהליך עם הנחיות של כמה דוגמאות כדי לקבל תוצאות טובות יותר במשימות מורכבות יותר שמצריכות הסבר לפני התשובה.

Prompt:

The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: Adding all the odd numbers (9, 15, 1) gives 25. The answer is False.
The odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A:

קוטב שמשי

הגישה הזו, שלקחת על עצמה את ההנחיות מאפס, ומוסיפה הוראה: "בואו נחשוב שלב אחרי שלב". ה-LLM יכול היא תיצור שרשרת מחשבה לפי ההוראה הזו, ובדרך כלל את התשובה הנכונה. זאת גישה נהדרת כדי לגרום למודלים גדולים של שפה (LLM) ליצור לדברים כמו בעיות מילוליות.

Prompt:

I went to the market and bought 10 apples. I gave 2 apples to the neighbor and
2 to the repairman. I then went and bought 5 more apples and ate 1. How many
apples was I left with?

Let's think step by step.

אסטרטגיות של חזרה על הצעות לפעולות

לומדים לאהוב את המציאות של שכתוב של כמה הנחיות (אפילו עשרות) פעמים. אם נתקעת, הנה כמה רעיונות לשיפור ההנחיות:

הערה: יכול להיות שהאסטרטגיות האלה יהיו פחות שימושיות או נחוצות עם הזמן, למשל של מודלים משתפרים.

  1. חזרה על מילות מפתח, ביטויים או רעיונות

  2. לציין את פורמט הפלט הרצוי (CSV, JSON וכו')

  3. כדי להדגיש נקודות או הוראות חשובות, יש להשתמש באותיות גדולות בלבד. אפשר גם לנסות הגזמות או שפה מוגזמת; לדוגמה: "ההסבר צריך להיות שקשה מאוד לפרש בצורה שגויה. כל מילה צריכה להיות ברורה וחד-משמעית!"

  4. אפשר להשתמש במילים נרדפות או בניסוחים חלופיים (למשל, במקום 'לסכם', אפשר לנסות הוספת 'tldr' לטקסט קלט מסוים). להחליף במילים או בביטויים שונים לתעד אילו עובדות טוב יותר ואילו גרועות יותר.

  5. כדאי לנסות את שיטת הכריכים עם הנחיות ארוכות: הוסיפו את אותה הצהרה ב- למקומות שונים.

  6. שימוש בספריית הנחיות כדי לקבל השראה. תמונה ראשית (Hero) וגם גלריית ההנחיות הזו שתי דרכים טובות להתחיל.

מקורות מידע נוספים

שיטות מומלצות ליצירת הנחיות

מידע על הנחיות (חיצוניות)