Оперативное проектирование — это искусство задавать правильный вопрос, чтобы получить максимальную отдачу от LLM. Это обеспечивает прямое взаимодействие с LLM, используя только подсказки на простом языке.
Раньше работа с моделями машинного обучения обычно требовала глубоких знаний наборов данных, статистики и методов моделирования. Сегодня LLM можно «запрограммировать» на английском, а также на других языках .
Чтобы стать отличным оперативным инженером, не требуется опыта программирования. Однако креативность и настойчивость принесут вам большую пользу в вашем путешествии. Читайте дальше, чтобы узнать некоторые полезные методы подсказок.
Рекомендации по использованию лучших практик
Четко сообщите, какой контент или информация наиболее важны.
Структурируйте подсказку: начните с определения ее роли, укажите контекст/входные данные, затем предоставьте инструкции.
Используйте конкретные, разнообразные примеры, чтобы помочь модели сузить фокус и получить более точные результаты.
Используйте ограничения, чтобы ограничить объем выходных данных модели. Это поможет избежать отклонений от инструкций и появления фактических неточностей.
Разбейте сложные задачи на последовательность более простых подсказок.
Попросите модель оценить или проверить свои собственные ответы перед их созданием. («Обязательно ограничьте свой ответ тремя предложениями», «Оцените свою работу по шкале от 1 до 10 за краткость», «Как вы думаете, это правильно?»).
И, пожалуй, самое важное:
Будьте изобретательны! Чем более креативны и непредвзяты вы будете, тем лучше будут ваши результаты. LLM и оперативное проектирование все еще находятся в зачаточном состоянии и развиваются каждый день.
Типы подсказок
Прямые подсказки (нулевой выстрел)
Прямая подсказка (также известная как «нулевой выстрел») — это самый простой тип подсказки. Он не содержит примеров к модели, только инструкцию. Вы также можете сформулировать инструкцию в виде вопроса или дать модели «роль», как показано во втором примере ниже.
Предоставлять:
- Инструкция
- Некоторый контекст
Генерация идей:
Prompt: Can you give me a list of ideas for blog posts for tourists visiting
New York City for the first time?
Ролевая подсказка:
Prompt: You are a mighty and powerful prompt-generating robot. You need to
understand my goals and objectives and then design a prompt. The prompt should
include all the relevant information context and data that was provided to you.
You must continue asking questions until you are confident that you can produce
the best prompt for the best outcome. Your final prompt must be optimized for
chat interactions. Start by asking me to describe my goal, then continue with
follow-up questions to design the best prompt.
Организация данных:
Prompt: Create a four-column spreadsheet of 10 highly-rated science fiction
movies, year of release, average audience rating, and top 3 keywords from
audience reviews.
Make sure to cite the source of the audience rating.
Подсказка с примерами (Один, несколько и многократный)
Одноразовые подсказки показывают модели один ясный и наглядный пример того, что вы хотите имитировать.
Генерация идей на одном примере:
Prompt:
Come up with a list of ideas for blog posts for tourists visiting
New York City for the first time.
1. Fuggedaboutit! Where to Stay in New York City On Your First Visit
Подсказки, состоящие из нескольких и нескольких кадров, показывают модели больше примеров того, что вы от нее хотите. Он работает лучше, чем нулевой выстрел, для более сложных задач, где требуется репликация шаблона или когда вам нужно, чтобы выходные данные были структурированы определенным образом, который трудно описать.
Классификация немногочисленных настроений:
Prompt:
Great product, 10/10: Positive
Didn't work very well: Negative
Super helpful, worth it: Positive
It doesn't work!:
При запуске этого приглашения ответом модели будет классификация «Это не работает» как положительная или отрицательная, как показано в примерах.
Предсказатель ответа на многокадровый эмодзи:
Prompt: Predict up to 5 emojis as a response to a text chat message. The output
should only include emojis.
input: The new visual design is blowing my mind 🤯
output: ➕,💘, ❤🔥
input: Well that looks great regardless
output: ❤️,🪄
input: Unfortunately this won't work
output: 💔,😔
input: sounds good, I'll look into that
output: 🙏,👍
input: 10hr cut of jeff goldblum laughing URL
output: 😂,💀,⚰️
input: Woo! Launch time!
Здесь тот же процесс, но поскольку приглашение более сложное, модели предоставлено больше примеров для подражания.
Цепочка мыслей
Подсказка «Цепочка мыслей» (CoT) побуждает магистратуры объяснять свои доводы. Объедините его с подсказками, состоящими из нескольких шагов, чтобы получить лучшие результаты при решении более сложных задач, требующих рассуждений перед ответом.
Prompt:
The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: Adding all the odd numbers (9, 15, 1) gives 25. The answer is False.
The odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A:
ЦТ с нулевым выстрелом
Вспоминая предыдущую подсказку с нулевым выстрелом, этот подход использует подсказку с нулевым выстрелом и добавляет инструкцию: «Давайте подумаем шаг за шагом». LLM способен генерировать цепочку мыслей на основе этой инструкции, а также, как правило, более точный ответ. Это отличный подход к тому, чтобы студенты LLM давали правильные ответы на такие вещи, как словесные задачи.
Prompt:
I went to the market and bought 10 apples. I gave 2 apples to the neighbor and
2 to the repairman. I then went and bought 5 more apples and ate 1. How many
apples was I left with?
Let's think step by step.
Подскажите стратегии итерации
Научитесь любить реальность, переписывая подсказки несколько (возможно, десятки) раз. Вот несколько идей по уточнению подсказок, если вы застряли:
Примечание. Эти стратегии со временем могут стать менее полезными или необходимыми по мере совершенствования моделей.
Повторяйте ключевые слова, фразы или идеи
Укажите желаемый формат вывода (CSV, JSON и т. д.)
Используйте все заглавные буквы, чтобы подчеркнуть важные моменты или инструкции. Вы также можете попробовать преувеличения или гиперболический язык; например: «Ваше объяснение не должно быть неверно истолковано. Каждое слово должно источать ясность!»
Используйте синонимы или альтернативные формулировки (например, вместо «Обобщить» попробуйте добавить «tldr» к некоторому входному тексту). Меняйте местами разные слова и фразы и записывайте, какие из них работают лучше, а какие хуже.
Попробуйте технику сэндвича с длинными подсказками: добавляйте одно и то же утверждение в разных местах.
Используйте библиотеку подсказок для вдохновения. Prompt Hero и эта галерея подсказок — два хороших места для начала.