使用提示 API 時,您可以運用特定策略調整提示,獲得最佳結果。本頁說明 Gemini Nano 提示格式的最佳做法。
如需更一般的提示工程指南,請參閱提示工程白皮書、生成式 AI 的提示工程和提示設計策略。
或者,您也可以使用零樣本最佳化工具自動修正及改善提示,這項工具可指定裝置端模型,例如 gemma-3n-e4b-it。
提示設計的最佳做法
為 Prompt API 設計提示時,請使用下列技巧:
提供符合情境的學習示例。在提示中加入分布均勻的範例,向 Gemini Nano 說明您期望的結果類型。
使用脈絡內學習時,建議使用前置字元快取功能,因為提供範例會使提示變長,並增加推論時間。
簡明扼要。如果前言冗長且重複指示,可能會產生不盡理想的結果。提示應簡潔有力。
建構提示,生成更實用的回覆,例如這個範例提示範本,清楚定義了指令、限制和範例。
輸出內容應簡短有力。LLM 推論速度很大程度上取決於輸出長度。請仔細考量如何為您的用途產生盡可能簡短的輸出內容,並手動後續處理輸出內容,將其結構化為所需格式。
新增分隔符號。使用
<background_information>、<instruction>和##等分隔符號,將提示的不同部分分開。在元件之間使用##對於 Gemini Nano 尤其重要,因為這樣可大幅降低模型無法正確解讀每個元件的機率。盡量使用簡單的邏輯,並專注於單一工作。如果提示需要多步驟推理 (例如「先執行 X,如果 X 的結果是 A,則執行 M;否則執行 N;然後執行 Y...」),但您發現難以獲得良好結果,請考慮將工作拆開,讓每次 Gemini Nano 呼叫處理更專注的工作,同時使用程式碼將多個呼叫串連在一起。
針對確定性工作使用較低的溫度值。對於不依賴創意的工作 (例如實體擷取或翻譯),建議先將
temperature值設為0.2,然後根據測試結果調整這個值。