728x90 반응형 SMALL SHapley Additive exPlanations2 [eXplainable AI] SHAP SHAP (SHapley Additive exPlanations) SHAP은 1953년 Shapley가 처음으로 제안한 방안으로 게임 이론에 기반하며 모델에서 feature의 중요성에 대한 강력하고 통찰력 있는 해석을 제공한다. 2017년에 Lundberg와 Lee가 LightGBM, XGBoost, GBoost, CatBoost 및 Scikit-learn 트리 모델을 포함한 다양한 기술에 대해 SHAP를 계산할 수 있는 Python 패키지를 개발하였다. 다음 식은 SHAP 수식을 나타낸다. SHAP는 feature들을 추가 및 제거하는 dataset을 만들어 이를 선형 모델로 구성하고 이렇게 구성된 선형 모델의 가중치를 가지고 해석하는 방식으로 ‘특정 변수가 제거’되면 얼마나 예측에 변화를 주는지 살펴.. 2022. 5. 3. [Machine Learning] SHAP (SHapley Additive exPlanations) SHAP (SHapley Additive exPlanations) SHAP(SHapley Additive exPlanations)는 모든 기계 학습 모델의 출력을 설명하기 위한 게임 이론적인 접근 방식이다. 게임 이론 및 관련 확장의 고전적인 Shapley 값을 사용하여 최적의 학점 할당을 지역 설명과 연결한다. pip install shap conda install -c conda-forge shap https://shap.readthedocs.io/en/latest/index.html Welcome to the SHAP documentation — SHAP latest documentation © Copyright 2018, Scott Lundberg. Revision 904b72c3. shap.re.. 2022. 5. 3. 이전 1 다음 728x90 반응형 LIST
