Rechenschaftspflicht
Verantwortlichkeit bedeutet, dass Sie für die Auswirkungen eines KI-Systems verantwortlich sind. Rechenschaftspflicht bedeutet in der Regel Transparenz oder die Weitergabe von Informationen zum Systemverhalten und zu organisatorischen Prozessen. Dazu gehört beispielsweise die Dokumentation, wie Modelle und Datasets erstellt, trainiert und bewertet wurden, und die Weitergabe dieser Informationen. Auf den folgenden Websites werden zwei wertvolle Methoden zur Dokumentation der Rechenschaftspflicht erläutert:
Eine weitere Dimension der Rechenschaftspflicht ist die Interpretierbarkeit. Dazu gehört das Verständnis von Entscheidungen von ML-Modellen, bei denen Menschen Merkmale identifizieren können, die zu einer Vorhersage führen. Außerdem ist Erklärbarkeit die Fähigkeit, die automatischen Entscheidungen eines Modells auf eine für Menschen verständliche Weise zu erklären.
Weitere Informationen zum Aufbau des Vertrauens der Nutzer in KI-Systeme finden Sie im Abschnitt Erklärbarkeit + Vertrauen des Leitfadens Mensch + KI sowie im Abschnitt zur Interpretierbarkeit der Empfehlungen für die verantwortungsbewusste Anwendung von KI von Google. In den Erläuterungsressourcen von Google finden Sie Beispiele aus der Praxis und Best Practices.