הנדסה מהירה היא המטרה של לשאול את השאלה הנכונה כדי לקבל את הפלט הטוב ביותר מ-LLM. היא מאפשרת אינטראקציה ישירה עם ה-LLM באמצעות בקשות בשפה פשוטה בלבד.
בעבר, כדי לעבוד עם מודלים של למידה חישובית נדרש בדרך כלל ידע מערכי נתונים, נתונים סטטיסטיים וטכניקות של בניית מודלים. כיום ניתן לתכנת LLM באנגלית, וכן בשפות אחרות.
כדי להיות מהנדסי תוכנה מעולים, אין צורך בניסיון קודם בתכנות. אבל יצירתיות ועקביות יועילו לכם מאוד בתהליך. המשיכו לקרוא כדי ללמוד שיטות מומלצות להצגת מודעות.
שיטות מומלצות לשליחת בקשות
מעבירים בבירור את התוכן או המידע החשובים ביותר.
בונים את ההודעה: מגדירים את התפקיד, נותנים הקשר/נתוני קלט ומוסרים את ההוראות.
השתמשו בדוגמאות ספציפיות ומגוונות כדי לעזור למודל לצמצם את המיקוד שלו ולהשיג תוצאות מדויקות יותר.
שימוש במגבלות כדי להגביל את היקף הפלט של המודל. כך תוכלו למנוע אי-דיוקים מההוראות ואי-דיוקים עובדתיים.
פירוט משימות מורכבות ברצף של בקשות פשוטות יותר.
מומלץ ללמד את המודל להעריך או לבדוק את התשובות שלו לפני שיוצרים אותן. ("יש להגביל את התשובה ל-3 משפטים", "לדרג את העבודה בסולם של 1-10 תמציתיות", "האם לדעתך זה נכון?").
והכי חשוב:
יצירתיות! ככל שתהיו יצירתיים יותר וקשוחים יותר, כך התוצאות יהיו טובות יותר. סוכנויות LLM ומהנדסי תוכנה מתקדמים עדיין נמצאים בחיתולים, והם מתפתחים מדי יום.
סוגים של הודעות
הנחייה ישירה (אפס שוטים)
בקשות ישירות (נקראות גם 'אפס תמונות') הן הסוג הפשוט ביותר של בקשות. הוא לא מספק דוגמאות למודל אלא רק את ההוראה. אפשר גם לנסח את ההוראה כשאלה, או לתת למודל "תפקיד", כפי שמתואר בדוגמה השנייה שבהמשך.
עליכם לספק:
- הוראות
- הקשר מסוים
יצירת רעיונות:
Prompt: Can you give me a list of ideas for blog posts for tourists visiting
New York City for the first time?
שליחת בקשה לתפקיד:
Prompt: You are a mighty and powerful prompt-generating robot. You need to
understand my goals and objectives and then design a prompt. The prompt should
include all the relevant information context and data that was provided to you.
You must continue asking questions until you are confident that you can produce
the best prompt for the best outcome. Your final prompt must be optimized for
chat interactions. Start by asking me to describe my goal, then continue with
follow-up questions to design the best prompt.
ארגון נתונים:
Prompt: Create a four-column spreadsheet of 10 highly-rated science fiction
movies, year of release, average audience rating, and top 3 keywords from
audience reviews.
Make sure to cite the source of the audience rating.
העלאה של דוגמאות (תמונה אחת, קטע קצר או סרטון אחד)
בהודעה אחת מוצג במודל דוגמה ברורה ותיאורית של מה שרוצים לחקות.
יצירת רעיונות באמצעות דוגמה אחת:
Prompt:
Come up with a list of ideas for blog posts for tourists visiting
New York City for the first time.
1. Fuggedaboutit! Where to Stay in New York City On Your First Visit
בעזרת כמה שוטים ודוגמאות של מספר שוטים, המודל מראה יותר דוגמאות למה שאתם רוצים שהוא יעשה. הוא פועל טוב יותר מצילום אפס כדי לבצע משימות מורכבות יותר שבהן יש צורך בשכפול תבניות, או כשיש צורך בפלט שהמבנה שלו צריך להיות בפורמט ספציפי שקשה לתאר.
סיווג של חוויית משתמש יחידה:
Prompt:
Great product, 10/10: Positive
Didn't work very well: Negative
Super helpful, worth it: Positive
It doesn't work!:
כשההודעה הזו תופיע, תגובת המודל תהיה 'לא עובד' בתגובה לסיווג חיובי או שלילי, כמו בדוגמאות האלה.
חיזוי אמוג'י ממספר שוטים:
Prompt: Predict up to 5 emojis as a response to a text chat message. The output
should only include emojis.
input: The new visual design is blowing my mind 🤯
output: ➕,💘, ❤🔥
input: Well that looks great regardless
output: ❤️,🪄
input: Unfortunately this won't work
output: 💔,😔
input: sounds good, I'll look into that
output: 🙏,👍
input: 10hr cut of jeff goldblum laughing URL
output: 😂,💀,⚰️
input: Woo! Launch time!
כאן התהליך זהה, אבל מכיוון שהבקשה מורכבת יותר, נוספו למודל יותר אמולציה.
מגש חשיבה
מסר של שרשרת חשיבה (CoT) מעודד את ה-LLM להסביר את הנימוקים שלו. אפשר לשלב אותו עם בקשות לביצוע פעולות, כדי לקבל תוצאות טובות יותר במשימות מורכבות יותר שדורשות סיבה לפני מענה.
Prompt:
The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: Adding all the odd numbers (9, 15, 1) gives 25. The answer is False.
The odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A:
קו-שוט של אפס שוטים
כזכירה של בקשת האפס הקודמת, הגישה הזו שולחת התראה של אפס שוטים ומוסיפה הוראה: 'כדאי לחשוב שלב אחר שלב'. ה-LLM מסוגל ליצור שרשרת מחשבה מתוך ההוראה הזו, ולרוב גם היא מדויקת יותר. זוהי דרך נהדרת לגרום ל-LLM ליצור תשובות נכונות לדברים כמו בעיות מילים.
Prompt:
I went to the market and bought 10 apples. I gave 2 apples to the neighbor and
2 to the repairman. I then went and bought 5 more apples and ate 1. How many
apples was I left with?
Let's think step by step.
אסטרטגיות של הצגת הודעה מיידית
ללמוד לאהוב את המציאות בכתיבה מחדש כמה פעמים (אולי אפילו עשרות) פעמים. הנה כמה רעיונות לשיפור ההודעות, אם נתקעת:
הערה: יכול להיות ששיטות אלה יהיו פחות שימושיות או נחוצות עם הזמן, ככל שהמודלים ישתפרו.
חזרה על מילות מפתח, ביטויים או רעיונות
מציינים את פורמט הפלט הרצוי (CSV, JSON וכו')
כדאי להשתמש באותיות רישיות בלבד כדי להדגיש נקודות או הוראות חשובות. בנוסף, כדאי לנסות להשתמש בהגזמות או בשפה היפרבולית. לדוגמה: "ההסבר שלכם לא יכול להתפרש בצורה שגויה. צריכה להיות בהירות לכל מילה!"
השתמשו במילים נרדפות או בניסוח חלופי (למשל 'סיכום', נסו להוסיף "tldr" לטקסט של הקלט). החלפה בין מילים או ביטויים שונים ותיעוד אילו מהם מניבים ביצועים טובים יותר, ואילו לא.
אפשר לנסות את הטכניקה של כריך עם מסרים ארוכים: מוסיפים את אותה הצהרה במקומות שונים.
השתמשו בספריית ספרייה כדי לקבל השראה. כדאי להתחיל להשתמש ב-Prompt Hero ובגלריית ההודעות.