Sztuczna inteligencja może w znaczący sposób zmienić społeczeństwo, zarówno na lepsze, jak i na gorsze. Należy wziąć pod uwagę aspekty etyczne związane z modelami i systemami, których są częścią.
Twoje projekty dotyczące AI powinny przynosić korzyści społeczeństwu. Nie powinny wyrządzać szkody ani być podatne na niewłaściwe użycie. Nie mogą utrwalać, wzmacniać ani pogłębiać uprzedzeń. Nie mogą nieodpowiedzialnie zbierać ani używać danych osobowych.Zasady Google dotyczące AI
Google zaleca tworzenie aplikacji wykorzystujących uczenie maszynowe i sztuczną inteligencję zgodnie z zasadami dotyczącymi odpowiedzialnej AI.
Oprócz przestrzegania zasad dotyczących odpowiedzialnej AI staraj się opracowywać systemy, które uwzględniają:
- Obiektywność
- Prywatność
- Przejrzystość
- Bezpieczeństwo
Obiektywność
[AI powinna] unikać tworzenia i umacniania niesprawiedliwych uprzedzeń. Modele wykazują uprzedzanie, gdy ich dane szkoleniowe mają niektóre z tych cech:
Nie odzwierciedla rzeczywistej populacji użytkowników.
Zachowanie stronniczości w przypadku decyzji lub wyników, np. w przypadku decyzji dotyczących wymiaru sprawiedliwości karnej, takich jak czas odbywania kary pozbawienia wolności.
Korzystanie z funkcji o większej zdolności przewidywania w przypadku niektórych grup użytkowników.
Poprzednie przykłady to tylko niektóre sposoby, w jaki sposób modele mogą być stronnicze. Dokładne poznanie swoich danych jest kluczowe dla wykrycia i usunięcia ewentualnych uprzedzeń. Pierwszym krokiem do opracowania sprawiedliwych modeli jest sprawdzenie, czy dane szkoleniowe dokładnie odzwierciedlają rozkład użytkowników. Poniżej znajdziesz dodatkowe wskazówki dotyczące tworzenia sprawiedliwych modeli:
Wyznaczanie grup niedostatecznie reprezentowanych w danych służących do oceny lub grup, które mogą mieć gorszą jakość modelu w porównaniu z innymi grupami. Aby zwiększyć obecność danej podgrupy użytkowników w danych treningowych, możesz potrzebować większej próbki.
Używaj złotych zbiorów danych (zwanych też zbiorami danych odniesienia), aby weryfikować model pod kątem problemów z równością i wykrywać ukryte uprzedzenia.
Unikaj umieszczania w zbiorach danych cech wrażliwych, takich jak płeć czy pochodzenie etniczne.
Unikaj uwzględniania cech o małej mocy empirycznej lub wyjaśniającej, zwłaszcza w kontekstach wrażliwych, w których trenowany model jest używany do wykonywania zadań o dużej wadze w takich obszarach jak opieka zdrowotna, finanse, edukacja czy zatrudnienie. Na przykład w przypadku modelu zatwierdzeń kredytów hipotecznych nie uwzględniaj w danych treningowych nazw. Nazwa firmy nie ma znaczenia dla zadania przewidywania, ale pozostawienie takiej nieistotnej cechy w zbiorze danych może prowadzić do ukrytej stronniczości lub szkodliwych skutków w zakresie alokacji. Model może na przykład powiązać imiona męskie z większym prawdopodobieństwem spłaty lub odwrotnie.
Zmierz potencjalny negatywny wpływ prognoz modelu na konkretne grupy i rozważ zastosowanie technik korygowania uprzedzeń, jeśli zauważysz negatywny wpływ w kontekście wrażliwym.
Prywatność
od samego początku kierować się zasadami ochrony prywatności;
Poniżej znajdziesz informacje o przepisach i zasadach dotyczących prywatności, które należy znać i przestrzegać:
Unijnego aktu o rynkach cyfrowych (DMA) dotyczącego zgody na udostępnianie lub wykorzystywanie danych osobowych.
Usuń też wszystkie informacje umożliwiające identyfikację osób z danych i sprawdź, czy repozytoria modeli i danych są skonfigurowane z odpowiednimi uprawnieniami, np. nieczytelnymi dla wszystkich.
Przejrzystość
Być podrzędna wobec ludzi. Możesz na przykład ułatwić innym zrozumienie, czym zajmuje się Twój model, jak to robi i dlaczego to robi. Karty modeli służą do dokumentowania modelu i tworzenia artefaktów przejrzystości.
Bezpieczeństwo
Projektowanie modeli w taki sposób, aby działały bezpiecznie w warunkach wrogich. Aby sprawdzić, czy model jest bezpieczny, możesz na przykład podać mu potencjalnie szkodliwe dane wejściowe. Sprawdź też potencjalne przyczyny awarii. Zespół zwykle korzysta ze specjalnie zaprojektowanych zbiorów danych, aby testować modele z danymi wejściowymi lub w warunkach, które w przeszłości powodowały ich awarie.
Sprawdź swoją wiedzę
Zawsze bierz pod uwagę szerszy kontekst społeczny, w którym działają Twoje modele. Dopilnuj, aby przetwarzanie danych wrażliwych nie naruszało prywatności, nie utrwalało uprzedzeń ani nie naruszało praw własności intelektualnej innej osoby.