Inżynieria promptów w generatywnej AI

Inżynieria to sztuka zadawania odpowiednich pytań, z LLM. Umożliwia bezpośrednią interakcję z LLM za pomocą a tylko prompty sformułowane w prostym języku.

W przeszłości praca z modelami systemów uczących się wymagała zwykle wiedzę o zbiorach danych, statystykach i technikach modelowania. Obecnie duże modele językowe „zaprogramowany” w języku angielskim oraz inne języki.

Bycie świetnym inżynierem promptów nie wymaga doświadczenia w kodowaniu. Kreatywność wytrwałość będzie jednak bardzo pomocne. Czytaj dalej: poznaj kilka przydatnych technik tworzenia promptów.

Sprawdzone metody

  1. Jasno przedstaw, jakie treści lub informacje są najważniejsze.

  2. Utwórz strukturę promptu: zacznij od określenia jego roli, podaj kontekst/dane wejściowe, i podaj instrukcję.

  3. Używaj konkretnych, różnorodnych przykładów, aby model mógł zawęzić zakres i wygenerować dokładniejsze wyniki.

  4. Użyj ograniczeń, aby ograniczyć zakres danych wyjściowych modelu. Pozwoli to uniknąć odbiegając od instrukcji w błąd w rzeczywistości.

  5. Podziel złożone zadania na sekwencję prostszych promptów.

  6. Poproś model o ocenę lub sprawdzenie swoich odpowiedzi, zanim wygenerujesz . („Ogranicz swoją odpowiedź do 3 zdań”, „Oceń swoją pracę na skala od 1 do 10 – zwięzłość”, „Czy uważasz, że to prawda?”).

I być może najważniejsze:

Wykaż się wyobraźnią. Im bardziej kreatywni i otwartego umysłu, tym lepsze wyniki osiągniesz. LLM i prompty inżynieria są wciąż w powijakach i ewoluują każdego dnia.

Typy promptów

Bezpośrednie prompty (zero-shot)

Bezpośrednie prompty (znane też jako zero-shot) to najprostszy rodzaj promptów. it nie zawiera przykładów, tylko instrukcja. Możesz też frazować zadaj pytanie lub przypisz modelowi „rolę”. jak widać w drugiej przykład poniżej.

Podaj:

  1. Instrukcja
  2. Kontekst

Generowanie pomysłów:

Prompt: Can you give me a list of ideas for blog posts for tourists visiting
New York City for the first time?

Prośba o rolę:

Prompt: You are a mighty and powerful prompt-generating robot. You need to
understand my goals and objectives and then design a prompt. The prompt should
include all the relevant information context and data that was provided to you.
You must continue asking questions until you are confident that you can produce
the best prompt for the best outcome. Your final prompt must be optimized for
chat interactions. Start by asking me to describe my goal, then continue with
follow-up questions to design the best prompt.

Organizacja danych:

Prompt: Create a four-column spreadsheet of 10 highly-rated science fiction
movies, year of release, average audience rating, and top 3 keywords from
audience reviews.

Make sure to cite the source of the audience rating.

Prompt z przykładami (jeden, kilka zdjęć i wiele zdjęć)

Prompt jednorazowy pokazuje jasny, opisowy przykład tego, którą chcesz naśladować.

Generowanie propozycji na podstawie jednego przykładu:

Prompt:

Come up with a list of ideas for blog posts for tourists visiting
New York City for the first time.

1. Fuggedaboutit! Where to Stay in New York City On Your First Visit

Prompty na kilka zdjęć lub w kilku ujęciach pokazują modelowi więcej przykładów tego, co chcesz do zrobienia. Sprawdza się lepiej niż w przypadku bardziej skomplikowanych zadań, w których pożądana replikacja lub gdy dane wyjściowe trzeba uporządkować trudny do opisania.

Klasyfikacja nastawienia „Krótko”:

Prompt:

Great product, 10/10: Positive
Didn't work very well: Negative
Super helpful, worth it: Positive
It doesn't work!:

Po uruchomieniu tego promptu odpowiedzią modelu będzie sklasyfikować „Nie służbowy zarówno pozytywne, jak i negatywne, jak pokazano w przykładach.

Przewidywanie reakcji emotikonem w ramach kilku ujęć:

Prompt: Predict up to 5 emojis as a response to a text chat message. The output
should only include emojis.

input: The new visual design is blowing my mind 🤯
output: ➕,💘, ❤‍🔥

input: Well that looks great regardless
output: ❤️,🪄

input: Unfortunately this won't work
output: 💔,😔

input: sounds good, I'll look into that
output: 🙏,👍

input: 10hr cut of jeff goldblum laughing URL
output: 😂,💀,⚰️

input: Woo! Launch time!

Tutaj jest ten sam proces, ale ze względu na to, że prompt jest bardziej złożony, model został podałeś więcej przykładów do emulacji.

Podpowiedzi typu „łańcuch myśli”

Podpowiedzi Chain of Think (CoT) zachęcają LLM do wyjaśnienia swojego rozumowania. W połączeniu z funkcją promptów „few-shot” uzyskasz lepsze wyniki w bardziej złożonych zadaniach które wymagają rozumowania przed odpowiedzią.

Prompt:

The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: Adding all the odd numbers (9, 15, 1) gives 25. The answer is False.
The odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A:

Typu zero-shot,

Przypominam wcześniejsze prompty „zero-shot”, to ta metoda polega i dodaje instrukcję: „Przeanalizujmy krok po kroku”. LLM jest w stanie i generować na podstawie tych instrukcji łańcuch myśli, zwykle odpowiedź. To świetne podejście do generowania LLM, odpowiedzi na zadania np. słowne.

Prompt:

I went to the market and bought 10 apples. I gave 2 apples to the neighbor and
2 to the repairman. I then went and bought 5 more apples and ate 1. How many
apples was I left with?

Let's think step by step.

strategie iteracji promptów;

Naucz się przepisywać prompty (a może nawet dziesiątki) razy. Oto kilka pomysłów na ulepszenie promptów w przypadku problemów:

Uwaga: strategie te mogą z czasem stać się mniej przydatne lub niezbędne, modeli działania.

  1. powtarzanie kluczowych słów, wyrażeń lub pomysłów;

  2. Określ format wyjściowy (CSV, JSON itp.)

  3. Używaj wielkich liter, aby podkreślić istotne kwestie lub instrukcje. Możesz też spróbować przesada ani przesadny język; Na przykład: „Wyjaśnienie powinno brzmieć których absolutnie nie da się błędnie zinterpretować. Każde słowo musi być jasne”.

  4. Użyj synonimów lub sformułowań alternatywnych (np. zamiast „Streść”, spróbuj dołączanie ciągu „tldr” tekstu). Zamieniaj między różnymi słowami lub wyrażeniami udokumentować, które z nich działają lepiej, a które są gorsze.

  5. Wypróbuj metodę „kanapka” z długimi promptami: dodaj to samo stwierdzenie w w różnych miejscach.

  6. Poszukaj inspiracji w bibliotece promptów. Baner powitalny z promptem i tej galerii promptów od których warto zacząć.

Dodatkowe materiały

Sprawdzone metody dotyczące promptów

Nauka wyświetlania promptów (zewnętrzne)