Gemini Code Assist 和负责任 AI

本文档介绍了 Gemini Code Assist 的设计理念，并介绍了生成式 AI 的功能、局限性和风险。

大语言模型的功能和风险

大语言模型 (LLM) 可以执行许多实用任务，例如：

  • 翻译语言。
  • 总结文字。
  • 生成代码和富有创意的写作内容。
  • 为聊天机器人和虚拟助理赋能。
  • 与搜索引擎和推荐系统相辅相成。

同时，LLM 的技术能力不断发展，可能会造成误用、滥用以及意外或不可预见的后果。

LLM 可能会生成意料之外的输出，包括令人反感、不顾他人感受或事实上不正确的文本。由于 LLM 具有出色的多样性，因此很难准确预测它们可能会产生的意外或不可预见的输出。

鉴于这些风险和复杂情况，Gemini Code Assist 在设计时考虑到了 Google 的 AI 原则。不过，用户必须了解 Gemini Code Assist 的一些限制，以便以负责任的方式安全使用。

Gemini Code Assist 的限制

使用 Gemini 代码辅助功能时，您可能会遇到以下限制（但不限于）：

  • 边缘情况。边缘情况是指训练数据中没有充分代表的不常见、罕见或异常情况。这些情况会导致 Gemini Code Assist 模型的输出受到限制，例如模型过度置信度、对语境的误解或不当输出。

  • 模型幻觉、依据和真实性。 Gemini Code Assist 模型可能缺乏对真实知识、物理属性或准确理解的依据和真实性。此限制可能导致模型幻觉，即 Gemini Code Assist 生成的输出可能听起来很合理，但实际上不正确、不相关、不当或无意义。幻觉还包括编造指向不存在且从未存在过的网页的链接。如需了解详情，请参阅撰写更好的 Gemini for Google Cloud 提示。

  • 数据质量和调整。输入到 Gemini Code Assist 产品中的提示数据的质量、准确性和偏差可能会对其性能产生重大影响。如果用户输入的提示不准确或不正确，Gemini Code Assist 可能会返回不太理想的回答或错误回答。

  • 偏见放大。语言模型可能会无意中放大其训练数据中现有的偏见，导致输出可能进一步增加社会偏见和对某些群体的不平等待遇。

  • 语言质量。虽然 Gemini Code Assist 在与我们评估的基准上产生了出色的多语言功能，但大多数基准（包括所有公平性评估）都是采用美式英语的。

    语言模型可能会为不同的用户提供不一致的服务质量。例如，由于训练数据中的代表性不足，文本生成可能对某些方言或语言变体不太有效。对于非英语语言或表示法较少的英语变体，性能可能较差。

  • 公平性基准和子群组。Google 研究对 Gemini 模型的公平性分析并未详尽说明各种潜在风险。例如，我们关注性别、种族、民族和宗教轴线上的偏见，但仅对美式英语数据和模型输出进行分析。

  • 领域专业知识有限。Gemini 模型是基于 Google Cloud 技术进行训练的，但可能缺乏必需的知识深度，无法就高度专业化或技术主题提供准确、详细的响应，导致肤浅或不正确的信息。

Gemini 安全和毒性过滤

Gemini Code Assist 会根据适用于每个用例的安全属性的完整列表来检查提示和回答。这些安全属性旨在滤除违反我们使用限制政策的内容。如果输出被视为有害，系统会屏蔽相应响应。

后续步骤