การออกแบบพรอมต์สำหรับ Gemini Nano

เมื่อใช้ Prompt API คุณสามารถใช้กลยุทธ์เฉพาะเพื่อปรับแต่งพรอมต์และรับผลลัพธ์ที่ดีที่สุดได้ หน้านี้อธิบายแนวทางปฏิบัติแนะนำสำหรับการจัดรูปแบบพรอมต์สำหรับ Gemini Nano

ดูคำแนะนำทั่วไปเพิ่มเติมเกี่ยวกับวิศวกรรมพรอมต์ได้ที่เอกสารไวท์เปเปอร์เกี่ยวกับวิศวกรรมพรอมต์ วิศวกรรมพรอมต์สำหรับ Generative AI และกลยุทธ์การออกแบบพรอมต์

หรือหากต้องการปรับแต่งและปรับปรุงพรอมต์โดยอัตโนมัติ คุณสามารถใช้เครื่องมือเพิ่มประสิทธิภาพแบบ Zero-Shot ซึ่งกำหนดเป้าหมายโมเดลในอุปกรณ์ได้ เช่น gemma-3n-e4b-it

แนวทางปฏิบัติแนะนำในการออกแบบพรอมต์

เมื่อออกแบบพรอมต์สำหรับ Prompt API ให้ใช้เทคนิคต่อไปนี้

  • ระบุตัวอย่างสำหรับการเรียนรู้ในบริบท เพิ่มตัวอย่างที่กระจายตัวอย่างดีลงในพรอมต์เพื่อแสดงให้ Gemini Nano เห็นประเภทผลลัพธ์ที่คุณต้องการ

    พิจารณาใช้ฟีเจอร์แคชคำนำหน้าเมื่อใช้การเรียนรู้ในบริบท เนื่องจากตัวอย่างจะทำให้พรอมต์ยาวขึ้นและเพิ่มเวลาอนุมาน

  • ใช้ชื่อที่กระชับ คำนำที่ยาวเกินไปพร้อมคำสั่งที่ซ้ำกันอาจทำให้ได้ผลลัพธ์ที่ ไม่ดีเท่าที่ควร เขียนพรอมต์ให้ตรงประเด็นและกระชับ หากต้องการ ทำซ้ำคำสั่งสั้นๆ ที่กำหนดลักษณะการทำงานของโมเดล ให้ลองใช้คำสั่งของระบบ

  • จัดโครงสร้างพรอมต์เพื่อสร้างคำตอบที่มีประสิทธิภาพมากขึ้น เช่น เทมเพลตพรอมต์ตัวอย่างนี้ที่กำหนดวิธีการ ข้อจำกัด และตัวอย่างไว้อย่างชัดเจน

  • แสดงผลสั้นๆ ความเร็วในการอนุมานของ LLM ขึ้นอยู่กับ ความยาวของเอาต์พุตเป็นอย่างมาก พิจารณาอย่างรอบคอบว่าคุณจะสร้างเอาต์พุตที่สั้นที่สุดเท่าที่จะเป็นไปได้สำหรับกรณีการใช้งานของคุณได้อย่างไร และทำการประมวลผลภายหลังด้วยตนเองเพื่อจัดโครงสร้างเอาต์พุตในรูปแบบที่เลือก ใช้ Structured Output API เพื่อช่วยให้มั่นใจว่าเอาต์พุตการตอบกลับอยู่ในรูปแบบที่คุณต้องการ

  • เพิ่มตัวคั่น ใช้ตัวคั่น เช่น <background_information>, <instruction> และ ## เพื่อแยกส่วนต่างๆ ของพรอมต์ การใช้ ## ระหว่างคอมโพเนนต์มีความสำคัญอย่างยิ่งสำหรับ Gemini Nano เนื่องจากจะช่วยลดโอกาสที่โมเดลจะตีความแต่ละคอมโพเนนต์อย่างถูกต้องได้เป็นอย่างมาก

  • ชอบตรรกะที่เรียบง่ายและงานที่มุ่งเน้นมากขึ้น หากคุณพบว่าการสร้างผลลัพธ์ที่ดีด้วยพรอมต์ที่ต้องใช้การให้เหตุผลแบบหลายขั้นตอนเป็นเรื่องยาก (เช่น ทำ X ก่อน หากผลลัพธ์ของ X คือ A ให้ทำ M มิฉะนั้นให้ทำ N จากนั้นให้ทำ Y...) ให้ลองแบ่งงานออกเป็นส่วนๆ แล้วให้การเรียกใช้ Gemini Nano แต่ละครั้งจัดการงานที่เฉพาะเจาะจงมากขึ้น ขณะเดียวกันก็ใช้โค้ดเพื่อเชื่อมโยงการเรียกใช้หลายๆ ครั้งเข้าด้วยกัน หากคุณจำเป็นต้องจัดการงานที่ซับซ้อนและต้องใช้การให้เหตุผลอย่างเข้มข้นทั้งหมดในคราวเดียว ให้พิจารณาใช้โหมดการคิด

  • ใช้ค่าอุณหภูมิที่ต่ำกว่าสำหรับงานที่กำหนด สำหรับงานต่างๆ เช่น การแยกเอนทิตีหรือการแปลซึ่งไม่ได้ขึ้นอยู่กับความคิดสร้างสรรค์ ให้ลอง เริ่มต้นด้วยค่า temperature ที่ 0.2 แล้วปรับค่านี้ตาม การทดสอบของคุณ