Sztuczna inteligencja może w znaczący sposób zmienić społeczeństwo, zarówno na lepsze, jak i na gorsze. Należy wziąć pod uwagę aspekty etyczne związane z modelami i systemami, których są częścią.
Twoje projekty dotyczące AI powinny przynosić korzyści społeczeństwu. Nie mogą wyrządzać szkody ani być podatne na niewłaściwe użycie. Nie mogą utrwalać, wzmacniać ani pogłębiać uprzedzeń. Nie mogą nieodpowiedzialnie zbierać ani używać danych osobowych.Zasady Google dotyczące AI
Google zachęca do tworzenia aplikacji wykorzystujących uczenie maszynowe i sztuczną inteligencję, które są zgodne z zasadami dotyczącymi AI. Zasady Google koncentrują się na tych kwestiach:
- Obiektywność
- Prywatność
- Przejrzystość
- Bezpieczeństwo
Obiektywność
[AI powinna] unikać tworzenia i umacniania niesprawiedliwych uprzedzeń. Modele wykazują uprzedzanie, gdy dane szkoleniowe mają niektóre z tych cech:
Nie odzwierciedla rzeczywistej populacji użytkowników.
Zachowanie stronniczości w przypadku decyzji lub wyników, np. w przypadku decyzji dotyczących wymiaru sprawiedliwości karnej, takich jak czas odbywania kary pozbawienia wolności.
Korzystanie z funkcji o większej zdolności przewidywania w przypadku niektórych grup użytkowników.
Poprzednie przykłady to tylko niektóre sposoby, w jaki sposób modele mogą być stronnicze. Dokładne poznanie swoich danych jest kluczowe dla wykrycia i usunięcia ewentualnych uprzedzeń. Pierwszym krokiem do opracowania sprawiedliwych modeli jest sprawdzenie, czy dane szkoleniowe dokładnie odzwierciedlają rozkład użytkowników. Poniżej znajdziesz dodatkowe wskazówki dotyczące tworzenia sprawiedliwych modeli:
Wyznaczanie grup niedostatecznie reprezentowanych w danych służących do oceny lub grup, które mogą mieć gorszą jakość modelu w porównaniu z innymi grupami. Aby zwiększyć obecność podgrupy użytkowników w danych treningowych, może być konieczne zwiększenie próbki.
Używaj złotych zbiorów danych (zwanych też zbiorami danych odniesienia), aby weryfikować model pod kątem problemów z równością i wykrywać ukryte uprzedzenia.
Unikaj umieszczania w zbiorach danych cech wrażliwych, takich jak płeć czy pochodzenie etniczne.
Unikaj uwzględniania cech o małej mocy empirycznej lub wyjaśniającej, zwłaszcza w kontekstach wrażliwych, w których trenowany model jest używany do wykonywania zadań o dużej wadze w takich obszarach jak opieka zdrowotna, finanse, edukacja czy zatrudnienie. Na przykład w przypadku modelu zatwierdzającego kredyty hipoteczne nie należy uwzględniać w danych treningowych nazw. Nazwa aplikacji nie jest istotna dla zadania przewidywania, ale pozostawienie takiej nieistotnej cechy w zbiorze danych może prowadzić do ukrytej stronniczości lub szkodliwego przydziału. Model może na przykład powiązać imiona męskie z większym prawdopodobieństwem spłaty lub odwrotnie.
Zmierz potencjalny negatywny wpływ prognoz modelu na konkretne grupy i rozważ zastosowanie technik korygowania uprzedzeń, jeśli zauważysz negatywny wpływ w kontekście wrażliwym.
Prywatność
od samego początku kierować się zasadami ochrony prywatności;
Poniżej przedstawiamy przepisy i zasady dotyczące prywatności, o których należy pamiętać i których należy przestrzegać:
Unijnego aktu o rynkach cyfrowych (DMA) dotyczącego zgody na udostępnianie lub wykorzystywanie danych osobowych.
Usuń też wszystkie informacje umożliwiające identyfikację z danych i sprawdź, czy repozytoria modeli i danych są skonfigurowane z odpowiednimi uprawnieniami, np. nieczytelnymi dla wszystkich.
Przejrzystość
Być podrzędna wobec ludzi. Możesz na przykład ułatwić innym zrozumienie, co robi Twój model, jak to robi i dlaczego to robi. Karty modeli służą do dokumentowania modelu i tworzenia artefaktów przejrzystości.
Bezpieczeństwo
Projektowanie modeli w taki sposób, aby działały bezpiecznie w warunkach wrogich. Możesz na przykład przetestować model z użyciem potencjalnie szkodliwych danych wejściowych, aby sprawdzić, czy jest on bezpieczny. Sprawdź też potencjalne warunki powodujące niepowodzenie. Zespół zwykle korzysta ze specjalnie zaprojektowanych zbiorów danych, aby testować modele z danymi wejściowymi lub warunkami, które w przeszłości powodowały ich awarie.
Sprawdź swoją wiedzę
Zawsze bierz pod uwagę szerszy kontekst społeczny, w którym działają Twoje modele. Dopilnuj, aby przetwarzanie danych wrażliwych nie naruszało prywatności, nie utrwalało uprzedzeń ani nie naruszało praw własności intelektualnej innej osoby.