Generative AI için Hızlı Mühendislik

Hızlı mühendislik, bir LLM'den en iyi sonucu almak için doğru soruyu sorma sanatıdır. Yalnızca düz dil istemleri kullanarak LLM ile doğrudan etkileşimi etkinleştirir.

Geçmişte makine öğrenimi modelleriyle çalışmak için genellikle veri kümeleri, istatistikler ve modelleme teknikleri hakkında ayrıntılı bilgi gerekirdi. Bugün LLM'ler İngilizce olarak diğer dillerde de "programlanabilir".

Başarılı bir mühendis olmak için kodlama deneyimi gerekmez. Ancak, yaratıcılığınız ve ısrarınız yolculuğunuzda çok faydalı olacaktır. Bazı faydalı istem tekniklerini öğrenmek için okumaya devam edin.

İstemlerle İlgili En İyi Uygulamalar

  1. En önemli içeriğin veya bilgilerin açık bir şekilde anlaşılmasını sağlayın.

  2. İstemi yapılandırma: Görevini tanımlayarak başlayın, bağlam/giriş verilerini verin, ardından talimatı sağlayın.

  3. Modelin odağını daraltmasına ve daha doğru sonuçlar elde etmesine yardımcı olmak için belirli ve farklı örnekler kullanın.

  4. Model çıktısının kapsamını sınırlamak için kısıtlamaları kullanın. Bu şekilde, talimatlardan gerçeğe dayalı hatalardan kaçınabilirsiniz.

  5. Karmaşık görevleri bir dizi basit istem halinde ayırın.

  6. Yanıtları oluşturmadan önce modelden kendi yanıtlarını değerlendirmesini veya kontrol etmesini isteyin. ("Yanıtınızı 3 cümleyle sınırladığınızdan emin olun", "Çalışmanızı kısa ve öz değerlendirmede 1 ile 10 arasında bir ölçekte değerlendirin", "Bunun doğru olduğunu mu düşünüyorsunuz?"").

Belki de en önemlisi:

Yaratıcı olun! Ne kadar yaratıcı ve açık fikirli olursanız sonuçları o kadar iyi olur. LLM'ler ve istem mühendisliği henüz çok yeni ve her gün gelişiyor.

İstem Türleri

Doğrudan istem (Sıfır çekim)

Doğrudan istem (Sıfır Görüntü olarak da bilinir) en basit istem türüdür. Modele örnek sağlamaz, yalnızca talimat sağlar. Ayrıca, yapıyı soru olarak da ifade edebilir veya aşağıdaki ikinci örnekte görüldüğü gibi modele bir "rol" verebilirsiniz.

Şunları sağlayın:

  1. Talimat
  2. Biraz bağlam

Fikir Oluşturma:

Prompt: Can you give me a list of ideas for blog posts for tourists visiting
New York City for the first time?

Rol İstemi:

Prompt: You are a mighty and powerful prompt-generating robot. You need to
understand my goals and objectives and then design a prompt. The prompt should
include all the relevant information context and data that was provided to you.
You must continue asking questions until you are confident that you can produce
the best prompt for the best outcome. Your final prompt must be optimized for
chat interactions. Start by asking me to describe my goal, then continue with
follow-up questions to design the best prompt.

Veri Düzenleme:

Prompt: Create a four-column spreadsheet of 10 highly-rated science fiction
movies, year of release, average audience rating, and top 3 keywords from
audience reviews.

Make sure to cite the source of the audience rating.

Örneklerle istem (tek, birkaç ve birden çok çekim)

Tek seferlik istemde, modele, neyi taklit etmek istediğinizi net şekilde açıklayan açıklayıcı bir örnek gösterilir.

Tek örnek üzerinden fikir oluşturma:

Prompt:

Come up with a list of ideas for blog posts for tourists visiting
New York City for the first time.

1. Fuggedaboutit! Where to Stay in New York City On Your First Visit

Az ve çok çekim istemleri, modele ne yapmasını istediğinize dair daha fazla örnek gösterir. Desen çoğaltmanın istendiği daha karmaşık görevler için veya sonucun açıklanması zor belirli bir şekilde yapılandırılması gerektiğinde bu, sıfır çekimden daha iyi sonuç verir.

Birkaç çekimde duygu sınıflandırması:

Prompt:

Great product, 10/10: Positive
Didn't work very well: Negative
Super helpful, worth it: Positive
It doesn't work!:

Bu istem çalıştırıldığında modelin yanıtı, örneklerde gösterildiği gibi "çalışmaz" değerini pozitif veya negatif olarak sınıflandırmak olacaktır.

Çoklu çekim emoji yanıt tahmincisi:

Prompt: Predict up to 5 emojis as a response to a text chat message. The output
should only include emojis.

input: The new visual design is blowing my mind 🤯
output: ➕,💘, ❤‍🔥

input: Well that looks great regardless
output: ❤️,🪄

input: Unfortunately this won't work
output: 💔,😔

input: sounds good, I'll look into that
output: 🙏,👍

input: 10hr cut of jeff goldblum laughing URL
output: 😂,💀,⚰️

input: Woo! Launch time!

Burada da aynı süreç geçerlidir, ancak istem daha karmaşık olduğundan modele emülasyon için daha fazla örnek verildi.

Düşünce zinciri

Zincir Düşünce (CoT), LLM'yi gerekçelerini açıklamaya teşvik ediyor. Bu özelliği birkaç yanıt sorusuyla birleştirerek, yanıt almadan önce akıl yürütme gerektiren daha karmaşık görevlerde daha iyi sonuçlar elde edin.

Prompt:

The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: Adding all the odd numbers (9, 15, 1) gives 25. The answer is False.
The odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A:

Sıfır AİT

Sıfır isabetin daha önce olduğu gibi istemde bulunulmayan hatırlanabilirlik yaklaşımı, sıfır isabet talebi verir ve "Adım adım düşünün" şeklinde bir talimat ekler. LLM, bu talimattan yola çıkarak bir düşünce zinciri oluşturabilir. Bu genellikle daha doğru bir yanıttır. Bu yöntem, kelime sorunları gibi konularda doğru yanıtlar üretmek için LLM'lere ulaşmak için mükemmel bir yaklaşım.

Prompt:

I went to the market and bought 10 apples. I gave 2 apples to the neighbor and
2 to the repairman. I then went and bought 5 more apples and ate 1. How many
apples was I left with?

Let's think step by step.

İstem tekrarlama stratejileri

Yeniden yazma gerçeğinin sevilmesini birkaç kez (muhtemelen onlarca) ister. Aşağıda, bir noktada takılıyorsanız istemleri hassaslaştırmaya yönelik birkaç fikir bulabilirsiniz:

Not: Bu stratejiler, modeller iyileştikçe zaman içinde daha az yararlı veya gerekli hale gelebilir.

  1. Anahtar kelimeleri, kelime öbeklerini veya fikirleri tekrar etme

  2. İstediğiniz çıkış biçimini (CSV, JSON vb.) belirtin.

  3. Önemli noktaları veya talimatları vurgulamak için tamamen büyük harf kullanın. Ayrıca, abartı veya hiperbolik dili de deneyebilirsiniz. Örneğin: "Açıklamanızın yanlış yorumlanması kesinlikle mümkün olmaz. Her kelime anlaşılır olmalıdır."

  4. Eş anlamlı kelimeler veya alternatif ifadeler kullanın (ör. "Özet" yerine "Tldr" eklemeyi deneyin). Farklı kelimeleri veya kelime öbeklerini değiştirin ve hangisinin daha iyi, hangilerinin daha kötü olduğunu belgeleyin.

  5. Sandviç tekniğini uzun istemlerle deneyin: Aynı ifadeyi farklı yerlere ekleyin.

  6. İlham almak için bir istem kitaplığı kullanın. Prompt Hero ve bu istemci galerisi iyi bir başlangıç noktasıdır.

Ek kaynaklar

En İyi Uygulamaları Öğrenme

İstemi öğrenin (harici)