Gemini Nano 提示設計

使用提示 API 時,您可以運用特定策略調整提示,獲得最佳結果。本頁說明 Gemini Nano 提示格式的最佳做法。

如需更一般的提示工程指南,請參閱提示工程白皮書生成式 AI 的提示工程提示設計策略

或者,您也可以使用零樣本最佳化工具自動修正及改善提示,這項工具可指定裝置端模型,例如 gemma-3n-e4b-it

提示設計的最佳做法

為 Prompt API 設計提示時,請使用下列技巧:

  • 提供符合情境的學習示例。在提示中加入分布均勻的範例,向 Gemini Nano 說明您期望的結果類型。

    使用脈絡內學習時,建議使用前置字元快取功能,因為提供範例會使提示變長,並增加推論時間。

  • 簡明扼要。如果前言冗長且重複指示,可能會產生不盡理想的結果。提示應簡潔有力。

  • 建構提示,生成更實用的回覆,例如這個範例提示範本,清楚定義了指令、限制和範例。

  • 輸出內容應簡短有力。LLM 推論速度很大程度上取決於輸出長度。請仔細考量如何為您的用途產生盡可能簡短的輸出內容,並手動後續處理輸出內容,將其結構化為所需格式。

  • 新增分隔符號。使用 <background_information><instruction>## 等分隔符號,將提示的不同部分分開。在元件之間使用 ## 對於 Gemini Nano 尤其重要,因為這樣可大幅降低模型無法正確解讀每個元件的機率。

  • 盡量使用簡單的邏輯,並專注於單一工作。如果提示需要多步驟推理 (例如「先執行 X,如果 X 的結果是 A,則執行 M;否則執行 N;然後執行 Y...」),但您發現難以獲得良好結果,請考慮將工作拆開,讓每次 Gemini Nano 呼叫處理更專注的工作,同時使用程式碼將多個呼叫串連在一起。

  • 針對確定性工作使用較低的溫度值。對於不依賴創意的工作 (例如實體擷取或翻譯),建議先將 temperature 值設為 0.2,然後根據測試結果調整這個值。