SHapley Additive Descriptions
lastmod 2026-11-10created 2025-12-302 edits
SHAP(SHapley Additive exPlanations)는 협력 게임 이론의 섀플리 값을 이용해 기계 학습 모델의 개별 예측에 각 입력 특징이 얼마나 기여했는지 수치로 분해하는 설명 기법이자 같은 이름의 Python 라이브러리이다. 특징별 기여도의 합이 예측값과 기준값의 차이가 되도록 가산적으로 구성되며, 트리 모델에 특화된 TreeExplainer 등으로 계산 비용을 줄인다. 요약 플롯과 force plot 같은 시각화로 모델 전체와 개별 샘플의 동작을 해석하는 데 쓰인다.
모든 기계 학습 모델의 출력을 설명하기 위한 게임 이론적 접근 방식입니다.