Tính năng hỗ trợ lập trình của Gemini và AI có trách nhiệm

Tài liệu này mô tả cách thiết kế tính năng Trợ giúp mã Gemini dựa trên các tính năng, hạn chế và rủi ro liên quan đến AI tạo sinh.

Khả năng và rủi ro của mô hình ngôn ngữ lớn

Mô hình ngôn ngữ lớn (LLM) có thể thực hiện nhiều nhiệm vụ hữu ích như sau:

  • Dịch ngôn ngữ.
  • Tóm tắt văn bản.
  • Tạo mã và viết sáng tạo.
  • Hỗ trợ chatbot và trợ lý ảo.
  • Bổ sung cho công cụ tìm kiếm và hệ thống đề xuất.

Đồng thời, khả năng kỹ thuật ngày càng phát triển của LLM tạo ra khả năng áp dụng sai, sử dụng sai và các hậu quả ngoài ý muốn hoặc không lường trước được.

LLM có thể tạo ra kết quả mà bạn không mong muốn, bao gồm cả văn bản phản cảm, vô cảm hoặc không chính xác về mặt thực tế. Vì LLM cực kỳ linh hoạt, nên rất khó để dự đoán chính xác loại đầu ra nào mà chúng có thể tạo ra ngoài ý muốn hoặc ngoài dự kiến.

Do những rủi ro và sự phức tạp này, tính năng Trợ giúp lập trình của Gemini được thiết kế dựa trên các nguyên tắc của Google về AI. Tuy nhiên, người dùng cần hiểu một số hạn chế của tính năng Trợ giúp mã Gemini để làm việc một cách an toàn và có trách nhiệm.

Hạn chế của tính năng Gemini Code Assist

Một số hạn chế mà bạn có thể gặp phải khi sử dụng tính năng Hỗ trợ mã Gemini bao gồm (nhưng không giới hạn ở) những hạn chế sau:

  • Trường hợp hiếm gặp. Trường hợp hiếm gặp đề cập đến các tình huống bất thường, hiếm gặp hoặc đặc biệt không được thể hiện rõ trong dữ liệu huấn luyện. Những trường hợp này có thể dẫn đến các giới hạn trong kết quả của mô hình Trợ giúp mã Gemini, chẳng hạn như mô hình quá tự tin, diễn giải sai ngữ cảnh hoặc kết quả không phù hợp.

  • Lập mô hình ảo tưởng, căn cứ và tính thực tế. Các mô hình hỗ trợ mã Gemini có thể thiếu cơ sở và tính thực tế trong kiến thức thực tế, thuộc tính vật lý hoặc sự hiểu biết chính xác. Hạn chế này có thể dẫn đến ảo giác về mô hình, trong đó tính năng Trợ giúp mã Gemini có thể tạo ra kết quả nghe có vẻ hợp lý nhưng thực tế lại không chính xác, không liên quan, không phù hợp hoặc vô nghĩa. Hallucinations cũng có thể bao gồm việc tạo đường liên kết đến các trang web không tồn tại và chưa từng tồn tại. Để biết thêm thông tin, hãy xem bài viết Viết câu lệnh hiệu quả hơn cho Gemini cho Google Cloud.

  • Chất lượng dữ liệu và điều chỉnh. Chất lượng, độ chính xác và độ lệch của dữ liệu lời nhắc được nhập vào các sản phẩm Hỗ trợ mã Gemini có thể ảnh hưởng đáng kể đến hiệu suất của sản phẩm. Nếu người dùng nhập câu lệnh không chính xác hoặc không chính xác, tính năng Trợ giúp mã Gemini có thể trả về câu trả lời không tối ưu hoặc sai.

  • Khuếch đại độ lệch. Các mô hình ngôn ngữ có thể vô tình khuếch đại các thành kiến hiện có trong dữ liệu huấn luyện, dẫn đến kết quả có thể củng cố thêm các thành kiến xã hội và cách đối xử không công bằng đối với một số nhóm nhất định.

  • Chất lượng ngôn ngữ. Mặc dù tính năng Trợ giúp mã của Gemini mang lại các tính năng đa ngôn ngữ ấn tượng trên các điểm chuẩn mà chúng tôi đã đánh giá, nhưng phần lớn các điểm chuẩn của chúng tôi (bao gồm cả tất cả các đánh giá về tính công bằng) đều bằng tiếng Anh Mỹ.

    Mô hình ngôn ngữ có thể cung cấp chất lượng dịch vụ không nhất quán cho nhiều người dùng. Ví dụ: việc tạo văn bản có thể không hiệu quả đối với một số phương ngữ hoặc biến thể ngôn ngữ vì các phương ngữ hoặc biến thể ngôn ngữ đó không được thể hiện đúng mức trong dữ liệu huấn luyện. Hiệu suất có thể kém hơn đối với các ngôn ngữ không phải tiếng Anh hoặc các biến thể tiếng Anh có ít dữ liệu đại diện hơn.

  • Điểm chuẩn về tính công bằng và các nhóm nhỏ. Các phân tích về tính công bằng của Google Research đối với mô hình Gemini không cung cấp thông tin đầy đủ về nhiều rủi ro tiềm ẩn. Ví dụ: chúng tôi tập trung vào các thành kiến dọc theo trục giới tính, chủng tộc, sắc tộc và tôn giáo, nhưng chỉ thực hiện phân tích trên dữ liệu tiếng Anh Mỹ và kết quả của mô hình.

  • Có ít kiến thức chuyên môn về miền. Các mô hình Gemini đã được huấn luyện về công nghệ Google Cloud, nhưng có thể thiếu kiến thức chuyên sâu cần thiết để đưa ra câu trả lời chính xác và chi tiết về các chủ đề chuyên sâu hoặc kỹ thuật, dẫn đến thông tin nông cạn hoặc không chính xác.

Tính năng lọc nội dung độc hại và an toàn của Gemini

Lời nhắc và câu trả lời của tính năng Trợ giúp mã Gemini được kiểm tra theo một danh sách toàn diện các thuộc tính an toàn (nếu có) cho từng trường hợp sử dụng. Mục đích của các thuộc tính an toàn này là lọc ra nội dung vi phạm Chính sách về việc sử dụng được chấp nhận của chúng tôi. Nếu một đầu ra được coi là gây hại, thì phản hồi sẽ bị chặn.

Bước tiếp theo