06. KNN (K-Nearest Neighbor)

KNN (K-Nearest Neighbor)

 

 

특장점

간단한 구조, 이해 용이, 구현 용이, 데이터 예측

모든 계산이 이루어진 이후 분류 수행 : 훈련 데이터에 target값 존재 (지도학습)

 

속성값 ex) 색상 파랑 1개

레벨값 ex) 빨강, 파랑 2개

—> class 2개

 

어떤 것에서 이웃 K개를 선택 —> 이웃 속성 분석? 거리무시 —> weighted KNN(거리감안)

Y = I(v) I: 0거짓 1참, v: 클래스, 가장 많은 라벨?

 

KNN Classifier : 범주형 데이터 예측

KNN Regressor : 연속형 변수 예측 가능

 

• 데이터 정규화

데이터 속성들을 하나의 scale로 통일

z정규화가 많이 쓰임

 

단점 : 패턴이나 Feature을 추출하지 못함