SHAP pour le ML en production : expliquer les modèles aux parties prenantes

Pourquoi SHAP ?

SHAP (SHapley Additive exPlanations) fournit une importance des caractéristiques fondée théoriquement — pas l'importance par impureté, biaisée, des modèles d'arbres.

Trois graphiques clés

1. Beeswarm (global)

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer(X_test)
shap.plots.beeswarm(shap_values)

2. Waterfall (local — une prédiction)

shap.plots.waterfall(shap_values[0])

3. Graphique de dépendance

shap.plots.scatter(shap_values[:, 'TransactionAmt'])

Une formulation adaptée aux parties prenantes

« Cette transaction a été signalée comme frauduleuse car le montant (3 200 $) est 4x plus élevé que d'habitude pour cette carte, et le domaine e-mail a changé au cours des 24 dernières heures. »