Rechenschaftspflicht

Verantwortlichkeit bedeutet, dass Sie für die Auswirkungen eines KI-Systems verantwortlich sind. Rechenschaftspflicht bedeutet in der Regel Transparenz oder die Weitergabe von Informationen zum Systemverhalten und zu organisatorischen Prozessen. Dazu gehört beispielsweise die Dokumentation, wie Modelle und Datasets erstellt, trainiert und bewertet wurden, und die Weitergabe dieser Informationen. Auf den folgenden Websites werden zwei wertvolle Methoden zur Dokumentation der Rechenschaftspflicht erläutert:

Eine weitere Dimension der Rechenschaftspflicht ist die Interpretierbarkeit. Dazu gehört das Verständnis von Entscheidungen von ML-Modellen, bei denen Menschen Merkmale identifizieren können, die zu einer Vorhersage führen. Außerdem bedeutet Erklärbarkeit, dass die automatischen Entscheidungen eines Modells auf eine für Menschen verständliche Weise erklärt werden können.

Weitere Informationen zum Aufbau des Vertrauens der Nutzer in KI-Systeme finden Sie im Abschnitt Erklärbarkeit + Vertrauen des Leitfadens Mensch + KI. In den Erläuterungsressourcen von Google finden Sie Beispiele aus der Praxis und Best Practices.