728x90 반응형 SMALL XAI 평가 방법론2 [eXplainable AI] XAI 평가 방법론 (2) 정확도 기반 XAI 평가 XAI를 평가하기 위한 첫 번째 방법인 정확도 평가 방법은 XAI가 예측과 관련된 feature를 얼마나 정확하게 추출하는지를 반영한다. feature와 예측 간의 관계를 직접 평가하는 것에는 한계가 있으므로, 간접적인 방법에 따라 가장 관련성이 높은 feature를 제거함으로써 NN의 예측이 어떻게 변하는지를 측정한다. XAI의 정확도 평가를 위한 DA (Descriptive Accuracy)는 샘플 x가 주어지면 가장 관련성이 높은 k개의 feature x1, ..., xk를 샘플에서 제거하고 결정 함수 fN을 사용하여 새 예측을 계산한 후, k개의 feature 없이 원래 예측 클래스 c의 점수를 측정하여 계산한다. DA 식은 다음 식과 같다. 샘플에서 관련 feature를.. 2022. 5. 3. [eXplainable AI] XAI 평가 방법론 (1) XAI 평가 방법론 오늘날의 임상의사의 진단적/치료적 의사 결정을 지원하는 AI 시스템의 주요한 문제점 중하나는 진단 및 치료에 직간접적으로 관련된 사람들-즉, 의사, 환자, 연구원 등이 충분히 이해할 수있는, 이른바 설명성 (explainability)의 부재라고 할 수 있다. 설명 가능성 (explainability)의 문제는사실 AI 만큼 오래되었고, AI가 존재하기 시작한 때부터 필연적으로 발생할 수밖에 없는 이슈라고 볼 수도 있다. AI 중심적인 접근 방식은 많고 다양한 응용 분야에서 최근 놀라운 성능을보여주지만, 여전히 그것의 결정을 이해할 수 있는 방법으로 "설명"할 수 없기 때문에 그 효과는 제한적일 수밖에 없었다. 우리가 기본적인 수학 이론을 이해한다고 해도 모델이 어떤 원리/논리로 작동.. 2022. 5. 3. 이전 1 다음 728x90 반응형 LIST
