Yapay zeka, toplumu olumlu veya olumsuz birçok yönde dönüştürme potansiyeline sahiptir. Modellerinizin ve parçası oldukları sistemlerin etik sonuçlarını dikkate almanız çok önemlidir.
Makine öğrenimi projelerinizin topluma fayda sağlaması gerekir. Zarara neden olmamalı veya kötüye kullanıma açık olmamalıdır. Önyargıları veya ön yargıları sürdürmemeli, pekiştirmemeli ya da kötüleştirmemelidir. Kişisel verileri sorumsuzca toplamamalı veya kullanmamalıdır.Google'ın yapay zeka ilkeleri
Google, Yapay Zeka İlkeleri'ne uygun ML ve yapay zeka uygulamaları geliştirilmesini savunur. Google'ın ilkeleri aşağıdaki kavramları temel alır:
- Adalet
- Gizlilik
- Şeffaflık
- Güvenlik
Adalet
Haksız önyargı oluşturmaktan veya bu tür önyargıları pekiştirmekten kaçının. Eğitim verileri aşağıdaki özelliklerden bazılarını içeriyorsa modeller önyargı gösterir:
Kullanıcılarının gerçek nüfusunu yansıtmıyor.
Yanlış kararlara veya sonuçlara (ör. hapis cezası süreleri gibi ceza adaleti kararları) yol açar.
Belirli kullanıcı grupları için daha fazla tahmin gücüne sahip özellikleri kullanır.
Önceki örnekler, modellerin taraflı hale gelmesinin yalnızca birkaç yoludur. Verilerinizi kapsamlı bir şekilde anlamak, içerdiği olası önyargıları tespit edip çözmek açısından son derece önemlidir. Adil modeller geliştirmenin ilk adımı, eğitim verilerinin kullanıcılarınızın dağılımını doğru yansıttığını doğrulamaktır. Aşağıda, adil modeller oluşturmaya yardımcı olacak diğer uygulamalar verilmiştir:
Değerlendirme veri kümelerinde yeterince temsil edilmeyen grupları veya diğer gruplara kıyasla daha kötü model kalitesine sahip olabilecek grupları tanımlayın. Kullanıcılarınızın eğitim verilerindeki varlığını artırmak için kullanıcılarınızın bir alt grubunu fazla örneklemeniz gerekebilir.
Modeli adalet sorunları açısından doğrulamak ve gizli önyargıları tespit etmek için altın veri kümelerini (karşılaştırma veri kümeleri olarak da bilinir) kullanın.
Veri kümelerine cinsiyet veya etnik köken gibi hassas özellikler eklemekten kaçının.
Özellikle de eğitimli modelin sağlık, finans, eğitim, istihdam vb. alanlarda yüksek etkili görevler gerçekleştirmek için kullanıldığı hassas bağlamlarda, ampirik veya açıklayıcı gücü düşük özellikler eklemekten kaçının. Örneğin, konut kredilerini onaylayan bir modelde, eğitim verilerine adları dahil etmeyin. Başvuru sahibinin adı, tahmin görevi açısından alakasız olduğu gibi, veri kümesinde bu tür alakasız bir özelliğin bırakılması da gizli önyargı veya kaynak tahsisi zararları oluşturma potansiyeline sahiptir. Örneğin, model erkek adlarını geri ödeme olasılığı daha yüksek olan kişilerle ilişkilendirebilir veya bunun tam tersini yapabilir.
Bir modelin tahminlerinin belirli gruplar üzerinde oluşturabileceği olası olumsuz etkiyi ölçün ve hassas bir bağlamda olumsuz etki bulursanız kasıtlı önyargı düzeltme tekniklerini kullanın.
Gizlilik
Gizlilik odaklı tasarım ilkelerini baştan itibaren uygulayın.
Aşağıda, gizlilikle ilgili olarak bilmeniz ve uymanız gereken yasalar ve politikalar verilmiştir:
Kişisel verilerin paylaşılması veya kullanılması için Avrupa Birliği'nin Dijital Pazarlar Yasası (DMA)
Avrupa Birliği GDPR yasaları.
Ayrıca, veri kümelerinden kimliği tanımlayabilecek tüm bilgileri (PII) kaldırdığınızdan ve modelinizin ve veri depolarınızın doğru izinlerle (ör. herkes tarafından okunabilir değil) ayarlandığından emin olun.
Şeffaflık
Yapay zeka, kullanıcılara karşı sorumlu olmalıdır. Örneğin, modelinizin ne yaptığını, nasıl yaptığını ve neden yaptığını diğer kullanıcıların kolayca anlayabilmesini sağlayın. Model kartları modelinizi belgelemek ve şeffaflık yapıları oluşturmak için bir şablon sağlar.
Güvenlik
Modelleri, düşmanca koşullarda güvenli bir şekilde çalışacak şekilde tasarlayın. Örneğin, modelinizin güvenli olduğunu doğrulamak için modelinizi olası düşmanca girişlerle test edin. Ayrıca, olası hata koşullarını kontrol edin. Ekipler genellikle modellerini geçmişte modelin başarısız olmasına neden olan girişler veya koşullarla test etmek için özel olarak tasarlanmış veri kümelerini kullanır.
Öğrendiklerinizi test etme
Modellerinizin çalıştığı daha geniş sosyal bağlamları her zaman göz önünde bulundurun. Hassas verileri işleme şeklinizin gizlilik sorunlarını ihlal etmediğinden, önyargıyı sürdürmediğinden veya başka birinin fikri mülkiyet hakkını ihlal etmediğinden emin olun.