Prompt API'yi kullanırken istemlerinizi özelleştirmek ve optimum sonuçlar elde etmek için kullanabileceğiniz belirli stratejiler vardır. Bu sayfada, Gemini Nano için istemleri biçimlendirmeyle ilgili en iyi uygulamalar açıklanmaktadır.
Daha genel istem mühendisliği rehberliği için İstem Mühendisliği Beyaz Kitabı, Üretken Yapay Zeka İçin İstem Mühendisliği ve İstem Tasarımı Stratejileri'ne bakın.
Alternatif olarak, istemleri otomatik olarak iyileştirmek ve geliştirmek için sıfır görevli optimizasyon aracını kullanabilirsiniz. Bu araç, gemma-3n-e4b-it gibi cihaz üzerinde modelleri hedefleyebilir.
İstem tasarımıyla ilgili en iyi uygulamalar
Prompt API için istem tasarlarken aşağıdaki teknikleri kullanın:
Bağlam içi öğrenme için örnekler sağlama Gemini Nano'ya beklediğiniz sonuç türünü göstermek için isteminize iyi dağıtılmış örnekler ekleyin.
Bağlam içi öğrenmeyi kullanırken ön ek önbelleğe alma özelliğini kullanabilirsiniz. Çünkü örnekler sağlandığında istem daha uzun hale gelir ve çıkarım süresi artar.
Kısa ve öz istemler oluşturun. Tekrarlanan talimatlar içeren uzun girişler, ideal olmayan sonuçlar üretebilir. İsteminiz odaklanmış ve öz olsun. Modelin davranışını yönlendiren kısa bir yönergeyi tekrarlamanız gerekiyorsa sistem talimatlarını kullanabilirsiniz.
Talimatları, kısıtlamaları ve örnekleri net bir şekilde tanımlayan bu örnek istem şablonu gibi daha etkili yanıtlar oluşturmak için istemleri yapılandırın.
Çıkışı kısa tutun. LLM çıkarım hızları, çıkış uzunluğuna büyük ölçüde bağlıdır. Kullanım alanınız için mümkün olan en kısa çıktıyı nasıl oluşturabileceğinizi dikkatlice değerlendirin ve çıktıyı seçilen biçimde yapılandırmak için manuel olarak son işlem yapın. Yanıt çıkışının tercih ettiğiniz biçimde olmasını sağlamak için Yapılandırılmış Çıkış API'sini kullanın.
Sınırlayıcı ekleme İsteminizin farklı bölümleri arasında ayırma yapmak için
<background_information>,<instruction>ve##gibi sınırlayıcılar kullanın. Bileşenler arasında##kullanmak, özellikle Gemini Nano için çok önemlidir. Bu, modelin her bileşeni doğru şekilde yorumlayamama olasılığını önemli ölçüde azaltır.Basit mantığı ve daha odaklanmış bir görevi tercih edin. Çok adımlı akıl yürütme gerektiren bir istemle (örneğin, önce X'i yap, X'in sonucu A ise M'yi yap; aksi takdirde N'yi yap; sonra Y'yi yap...) iyi sonuçlar elde etmenin zor olduğunu düşünüyorsanız görevi parçalamayı ve her Gemini Nano çağrısının daha odaklanmış bir görevi işlemesini sağlayın. Bu sırada, birden fazla çağrıyı birbirine bağlamak için kod kullanın. Karmaşık ve muhakeme gerektiren bir görevi tek seferde tamamlamanız gerekiyorsa düşünme modunu kullanabilirsiniz.
Belirleyici görevler için daha düşük sıcaklık değerleri kullanın. Yaratıcılığa dayanmayan görevler (ör. öğe ayıklama veya çeviri) için
temperaturedeğerini0.2olarak ayarlayarak başlayabilir ve bu değeri testlerinize göre ayarlayabilirsiniz.