SHAP

SHAP（SHapley Additive exPlanations）是一种用于解释任何机器学习模型输出的方法。它使用博弈论中的概念为每个特征分配一个值，表示其对预测的贡献。这些值，称为 SHAP 值，指示了每个特征对特定实例中模型输出的贡献程度，从而有助于更深入地理解模型决策过程。