Gemini Code Assist ve sorumlu yapay zeka

Bu dokümanda, üretken yapay zeka ile ilişkili özellikler, sınırlamalar ve riskler göz önünde bulundurularak Gemini Code Assist'in nasıl tasarlandığı açıklanmaktadır.

Büyük dil modellerinin özellikleri ve riskleri

Büyük dil modelleri (LLM'ler), aşağıdakiler gibi birçok yararlı görevi gerçekleştirebilir:

  • Dili çevirin.
  • Metni özetleyin.
  • Kod ve yaratıcı yazı oluşturma.
  • Chatbot'ları ve sanal asistanları güçlendirin.
  • Arama motorlarını ve öneri sistemlerini tamamlar.

Aynı zamanda, LLM'lerin gelişen teknik özellikleri yanlış uygulama, kötüye kullanım ve istenmeyen veya öngörülemeyen sonuçlara yol açabilir.

LLM'ler rahatsız edici, duyarsız veya yanlış bilgi içeren metinler de dahil olmak üzere beklemediğiniz sonuçlar üretebilir. LLM'ler son derece çok yönlü olduğundan tam olarak ne tür istenmeyen veya öngörülemeyen sonuçlar üretebileceklerini tahmin etmek zor olabilir.

Bu riskler ve karmaşıklıklar göz önüne alındığında, Gemini Code Assist, Google'ın Yapay Zeka İlkeleri'ne göre tasarlanmıştır. Ancak kullanıcıların güvenli ve sorumlu bir şekilde çalışabilmeleri için Gemini Code Assist'in bazı sınırlamalarını anlamaları önemlidir.

Gemini Code Assist sınırlamaları

Gemini Code Assist'i kullanırken karşılaşabileceğiniz sınırlamalardan bazıları şunlardır (ancak bunlarla sınırlı değildir):

  • Sıra dışı durumlar Uç durumlar, eğitim verilerinde iyi temsil edilmeyen olağan dışı, nadir veya istisnai durumları ifade eder. Bu durumlar, Gemini Code Assist modellerinin çıkışında modelin aşırı güveni, bağlamın yanlış yorumlanması veya uygunsuz çıkışlar gibi sınırlamalara neden olabilir.

  • Halüsinasyonları, temellendirmeyi ve doğruluğu modelleyin. Gemini Code Assist modelleri, gerçek dünyadaki bilgiler, fiziksel özellikler veya doğru anlayış açısından temelden yoksun ve gerçek dışı olabilir. Bu sınırlama, Gemini Code Assist'in makul görünen ancak gerçekte yanlış, alakasız, uygunsuz veya anlamsız sonuçlar üretebileceği model halüsinasyonlarına yol açabilir. Halüsinasyonlar, var olmayan ve hiç var olmamış web sayfalarına ait bağlantılar uydurmayı da içerebilir. Daha fazla bilgi için Google Cloud için Gemini'de daha iyi istemler yazma başlıklı makaleyi inceleyin.

  • Veri kalitesi ve ayarlama Gemini Code Assist ürünlerine girilen istem verilerinin kalitesi, doğruluğu ve yanlılığı, ürünlerin performansını önemli ölçüde etkileyebilir. Kullanıcılar hatalı istemler girerse Gemini Code Assist, optimum olmayan veya yanlış yanıtlar döndürebilir.

  • Yanlışlık amplifikasyonu. Dil modelleri, eğitim verilerindeki mevcut ön yargıları yanlışlıkla artırabilir. Bu da toplumsal ön yargıları ve belirli gruplara yönelik eşitsiz muameleyi daha da pekiştirebilecek sonuçlara yol açabilir.

  • Dil kalitesi. Gemini Code Assist, karşılaştırma yaptığımız karşılaştırmalarda etkileyici çok dilli özellikler sunsa da karşılaştırmalarımızın çoğu (adillik değerlendirmelerinin tümü dahil) Amerikan İngilizcesindedir.

    Dil modelleri, farklı kullanıcılara tutarsız hizmet kalitesi sunabilir. Örneğin, metin oluşturma işlemi, eğitim verilerinde yeterince temsil edilmeyen bazı lehçeler veya dil varyasyonları için o kadar etkili olmayabilir. İngilizce olmayan diller veya daha az temsil edilen İngilizce dil varyantları için performans daha düşük olabilir.

  • Adil olma ölçütleri ve alt gruplar. Google Research'in Gemini modelleriyle ilgili adalet analizleri, çeşitli olası riskler hakkında kapsamlı bir açıklama sağlamaz. Örneğin, cinsiyet, ırk, etnik köken ve din eksenlerindeki önyargılara odaklanırız ancak analizi yalnızca Amerikan İngilizcesi dil verilerinde ve model çıktılarında gerçekleştiririz.

  • Sınırlı alan uzmanlığı. Gemini modelleri Google Cloud teknolojisi üzerinde eğitilmiştir ancak son derece uzmanlaşmış veya teknik konularda doğru ve ayrıntılı yanıtlar vermek için gereken bilgi derinliğine sahip olmayabilir. Bu da yüzeysel veya yanlış bilgilere yol açabilir.

Gemini'de güvenlik ve toksik içerik filtreleme

Gemini Code Assist istemleri ve yanıtları, her kullanım alanı için geçerli olan kapsamlı bir güvenlik özellikleri listesine göre kontrol edilir. Bu güvenlik özellikleri, Kabul Edilebilir Kullanım Politikamızı ihlal eden içerikleri filtrelemeyi amaçlar. Bir çıkış zararlı olarak kabul edilirse yanıt engellenir.

Sırada ne var?