لماذا SHAP؟
يوفّر SHAP (SHapley Additive exPlanations) أهمية للميزات مؤسَّسة نظرياً — وليست أهمية الشوائب المتحيّزة في نماذج الأشجار.
ثلاثة رسوم رئيسية
1. Beeswarm (عام)
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer(X_test)
shap.plots.beeswarm(shap_values)
2. Waterfall (محلي — تنبؤ واحد)
shap.plots.waterfall(shap_values[0])
3. رسم الاعتمادية
shap.plots.scatter(shap_values[:, 'TransactionAmt'])
صياغة مناسبة لأصحاب المصلحة
«تم وضع علامة احتيال على هذه المعاملة لأن المبلغ (3,200 دولار) أعلى بأربع مرات من المعتاد لهذه البطاقة، ولأن نطاق البريد الإلكتروني تغيّر خلال آخر 24 ساعة.»