Prompt API'yi kullanırken istemlerinizi özelleştirmek ve optimum sonuçlar almak için kullanabileceğiniz belirli stratejiler vardır. Bu sayfada, Gemini Nano için istemleri biçimlendirmeyle ilgili en iyi uygulamalar açıklanmaktadır.
İstem mühendisliğiyle ilgili daha genel bilgiler için İstem Mühendisliği Beyaz Kitabı, Üretken Yapay Zeka İçin İstem Mühendisliği ve İstem tasarımı stratejileri başlıklı makalelere göz atın.
Alternatif olarak, istemleri otomatik şekilde hassaslaştırmak ve iyileştirmek için sıfır görevli optimizasyon aracını kullanabilirsiniz. Bu araç, gemma-3n-e4b-it gibi cihaz üzerinde çalışan modelleri hedefleyebilir.
İstem tasarımıyla ilgili en iyi uygulamalar
Prompt API için istem tasarlarken aşağıdaki teknikleri kullanın:
Bağlam içi öğrenme için örnekler verin. Gemini Nano'ya ne tür bir sonuç beklediğinizi göstermek için isteminize iyi dağıtılmış örnekler ekleyin.
Bağlam içi öğrenmeyi kullanırken ön ek önbelleğe alma özelliğini kullanabilirsiniz. Çünkü örnekler sağlandığında istem daha uzun hale gelir ve çıkarım süresi artar.
Kısa ve öz olun. Tekrarlanan talimatlar içeren ayrıntılı girişler, ideal olmayan sonuçlar üretebilir. İsteminizi odaklanmış ve kısa tutun.
Talimatları, kısıtlamaları ve örnekleri net bir şekilde tanımlayan bu örnek istem şablonu gibi daha etkili yanıtlar oluşturmak için istemleri yapılandırın.
Çıkışı kısa tutun. LLM çıkarım hızları, çıkış uzunluğuna büyük ölçüde bağlıdır. Kullanım alanınız için mümkün olan en kısa çıktıyı nasıl oluşturabileceğinizi dikkatlice düşünün ve çıktıyı istediğiniz biçimde yapılandırmak için manuel olarak sonradan işleme yapın.
Sınırlayıcı ekleyin. İsteminizin farklı bölümleri arasında ayırma yapmak için
<background_information>,<instruction>ve##gibi sınırlayıcılar kullanın. Bileşenler arasında##kullanmak, özellikle Gemini Nano için çok önemlidir. Bu, modelin her bileşeni doğru şekilde yorumlayamama olasılığını önemli ölçüde azaltır.Basit mantığı ve daha odaklanmış bir görevi tercih edin. Çok adımlı akıl yürütme gerektiren bir istemle (örneğin, önce X'i yap, X'in sonucu A ise M'yi yap; aksi takdirde N'yi yap; sonra Y'yi yap...) iyi sonuçlar elde etmekte zorlanıyorsanız görevi parçalamayı ve her Gemini Nano çağrısının daha odaklanmış bir görevi işlemesini sağlayıp birden fazla çağrıyı zincirlemek için kodu kullanmayı deneyin.
Belirleyici görevler için daha düşük sıcaklık değerleri kullanın. Yaratıcılığa dayanmayan görevler (ör. öğe ayıklama veya çeviri) için
temperaturedeğerini0.2olarak ayarlayarak başlayabilir ve bu değeri testlerinize göre ayarlayabilirsiniz.