Equidad

Evaluar un modelo de aprendizaje automático requiere hacer más que solo calcular las métricas de pérdida. Antes de implementar un modelo en producción, es fundamental auditar los datos de entrenamiento y evaluar las predicciones para determinar si existen sesgos.

En este módulo, se analizan diferentes tipos de sesgos cognitivos humanos que se pueden manifestar en los datos de entrenamiento. Luego, proporciona estrategias para identificarlas y evaluar sus efectos.

Equidad

Un racimo de bananas en un estante de una tienda.
  • Bananas
Un racimo de bananas.
  • Bananas
  • Calcomanía
Un racimo de bananas.
  • Bananas
  • Calcomanía
  • Bananas en estantes
Un racimo de bananas.
  • Bananas verdes
  • Bananas inmaduras
Un racimo de bananas verdes.
  • Bananas maduras
  • Recomendable para pan de banana
Un racimo de bananas marrones.

Bananas amarillas

El amarillo es prototípico de las bananas

Un racimo de bananas amarillas.
Un diagrama que ilustra un flujo de trabajo típico de aprendizaje automático: recopilar datos, entrenar un modelo y generar resultados
Diagrama que ilustra dos tipos de sesgos en los datos: sesgos cognitivos humanos que se manifiestan en los datos (como el sesgo de homogeneidad de los demás) y sesgos cognitivos humanos que afectan la recopilación y la anotación de los datos (como el sesgo de confirmación)
  1. Considera el problema
  1. Considera el problema
  2. Pregunte a los expertos
  1. Considera el problema
  2. Pregunte a los expertos
  3. Entrena los modelos para que consideren el sesgo
  1. Considera el problema
  2. Pregunte a los expertos
  3. Entrena los modelos para que consideren el sesgo
  4. Interpreta los resultados
  1. Considera el problema
  2. Pregunte a los expertos
  3. Entrena los modelos para que consideren el sesgo
  4. Interpreta los resultados
  5. Publicar con contexto