このドキュメントでは、生成 AI に関連する機能、制限事項、リスクを考慮して、Gemini Code Assist がどのように設計されているかについて説明します。
大規模言語モデルの機能とリスク
大規模言語モデル（LLM）は、次のような多くの有用なタスクを実行できます。
- 言語を翻訳する。
- テキストを要約する。
- コードとクリエイティブ ライティングを生成する。
- chatbot と仮想アシスタントを強化する。
- 検索エンジンとレコメンデーション システムを補完する。
LLM の技術的な機能は進化を続けており、誤用や不正使用、意図しない結果や予想外の結果を生む可能性があります。
LLM では、不適切なテキスト、配慮に欠けるいテキスト、事実と異なるテキストなど、予期しない出力が生成される場合があります。LLM は非常に汎用性が高いため、どのような種類の意図しない出力や予期しない出力が作成されるかを正確に予測することは困難です。
こうしたリスクと複雑さを考慮して、Gemini Code Assist は Google の AI に関する原則を念頭に置いて設計されています。ただし、安全かつ責任を持って機能するように、ユーザーが Gemini Code Assist の制限事項を理解しておくことが重要です。
Gemini Code Assist の制限事項
Gemini Code Assist を使用する際に発生する可能性のある制限事項には、次のようなものがあります（ただし、これらに限定されません）。
エッジケース。エッジケースとは、トレーニング データで十分に表現されていない、一般的でない状況、まれな状況、または例外的な状況を指します。このような場合は、モデルの過度の信頼、コンテキストの解釈の誤り、不適切な出力などの Gemini Code Assist モデルの出力の制限につながる可能性があります。
モデルのハルシネーション、根拠、事実。Gemini Code Assist モデルには、実世界の知識、物理的特性、または正確な理解に関する根拠と真正性が欠落している場合があります。この制限により、モデルのハルシネーションにつながる可能性があります。これにより、Gemini Code Assist は、もっともらしい内容であるかのように聞こえるものの、事実とは異なる、無関係、不適切、または無意味な出力を生成する場合があります。ハルシネーションには、存在しないウェブページや、これまで存在したことのないウェブサイトへのリンクの作成も含まれることがあります。詳細については、Gemini for Google Cloud により適したプロンプトを作成するをご覧ください。
データ品質とチューニング。Gemini Code Assist プロダクトに入力されるプロンプト データの品質、精度、バイアスは、パフォーマンスに大きな影響を与える可能性があります。ユーザーが不正確な、または誤ったプロンプトを入力すると、Gemini Code Assist が最適ではないレスポンスや誤ったレスポンスを返す可能性があります。
バイアス増幅。: 言語モデルによってトレーニング データに存在するバイアスが意図せず増幅されて、社会的偏見や特定のグループに対する不平等な扱いをさらに強める結果につながる可能性があります。
言語の品質。Gemini Code Assist は、評価済みのベンチマークに関して優れた多言語機能を有することを示していますが、ベンチマークのほとんど（すべての公平性評価を含む）はアメリカ英語によるものです。
言語モデルによって、ユーザーごとに提供されるサービスの品質が異なる場合があります。たとえば、一部の言語や言語のバリエーションでは、トレーニング データでの表現が少なくなるため、テキスト生成が効果的でない場合があります。表現の少ない英語以外の言語や英語のバリエーションでは、パフォーマンスが低下する可能性があります。
公平性のベンチマークとサブグループ。Google Research の Gemini モデルの公平性分析では、さまざまなリスクの可能性について包括的な説明はできません。たとえば、性別、人種、民族、宗教の軸に沿ったバイアスに注目していますが、分析はアメリカ英語のデータとモデルの出力に対してのみ行います。
ドメインに関する限定された専門知識。Gemini モデルは Google Cloud テクノロジーでトレーニングされていますが、高度に専門的なトピックや技術的トピックに関する正確で詳細な回答に必要な知識の深さが不足しているため、表面的または不正確な情報につながる可能性があります。
Gemini の安全性と有害性に関するフィルタリング
Gemini Code Assist のプロンプトとレスポンスは、各ユースケースに適用される安全性属性の包括的なリストと照合されます。これらの安全属性は、利用規定に違反するコンテンツを除外することを目的としています。出力が有害と見なされた場合、レスポンスはブロックされます。