Quando utilizzi l'API Prompt, puoi utilizzare strategie specifiche per personalizzare i prompt e ricevere risultati ottimali. Questa pagina descrive le best practice per la formattazione dei prompt per Gemini Nano.
Per indicazioni più generali sull'ingegneria dei prompt, consulta il white paper sull'ingegneria dei prompt, l'ingegneria dei prompt per l'AI generativa e le strategie di progettazione dei prompt.
In alternativa, per perfezionare e migliorare automaticamente i prompt, puoi utilizzare l'
ottimizzatore zero-shot, che può essere destinato a modelli on-device come
gemma-3n-e4b-it.
Best practice per la progettazione dei prompt
Quando progetti i prompt per l'API Prompt, utilizza le seguenti tecniche:
Fornisci esempi per l'apprendimento in-context. Aggiungi esempi ben distribuiti al prompt per mostrare a Gemini Nano il tipo di risultato che ti aspetti.
Valuta la possibilità di utilizzare la funzionalità di memorizzazione nella cache dei prefissi quando utilizzi l'apprendimento in-context, poiché la fornitura di esempi allunga il prompt e aumenta il tempo di inferenza.
Usa titoli concisi. I preamboli dettagliati con istruzioni ripetute possono produrre risultati non ottimali. Mantieni il prompt mirato e conciso. Se devi ripetere una breve direttiva che guida il comportamento del modello, valuta la possibilità di utilizzare le istruzioni di sistema.
Struttura i prompt per generare risposte più efficaci, ad esempio questo modello di prompt di esempio che definisce chiaramente istruzioni, vincoli ed esempi.
Mantieni breve l'output. Le velocità di inferenza LLM dipendono in larga misura dalla lunghezza dell'output. Valuta attentamente come puoi generare l'output più breve possibile per il tuo caso d'uso ed esegui la post-elaborazione manuale per strutturare l'output nel formato scelto. Per assicurarti che l'output della risposta sia nel formato che preferisci, utilizza l'API Structured Output.
Aggiungi delimitatori. Utilizza delimitatori come
<background_information>,<instruction>e##per creare una separazione tra le diverse parti del tuo prompt. L'utilizzo di##tra i componenti è particolarmente importante per Gemini Nano, in quanto riduce significativamente le probabilità che il modello non interpreti correttamente ogni componente.Preferisci una logica semplice e un'attività più mirata. Se hai difficoltà a ottenere buoni risultati con un prompt che richiede un ragionamento multi-step (ad esempio, esegui prima X, se il risultato di X è A, esegui M; altrimenti esegui N; poi esegui Y...), valuta la possibilità di suddividere l'attività e lasciare che ogni chiamata di Gemini Nano gestisca un'attività più mirata, utilizzando il codice per concatenare più chiamate. Se devi affrontare contemporaneamente un'attività complessa e che richiede un ragionamento intensivo, valuta la possibilità di utilizzare la modalità di pensiero.
Utilizza valori di temperatura inferiori per le attività deterministiche. Per attività come l'estrazione di entità o la traduzione che non si basano sulla creatività, valuta la possibilità di iniziare con un valore
temperaturedi0.2e di ottimizzare questo valore in base ai test.